AGI 타임라인

"probably 2026-2027 for AI that surpasses humans at most cognitive tasks"
— Dario Amodei

Dario는 AGI를 점진적 발전 과정으로 보며, 향후 2-3년 이내 전환이 일어날 것으로 예측합니다.

"I'd put it at around 50% by the end of the decade"
— Demis Hassabis

Demis는 더 신중하게 확률론으로 표현. AGI 정의의 불명확성을 강조합니다.

"6 to 12 months from models doing most software engineering end-to-end"
— Dario Amodei

코딩 자동화라는 구체적 지표로 AGI 도래를 예상. 경제적으로 매우 구체적인 의미.

AI 자기개선

"90% of the code at Anthropic is written by AI"
— Dario Amodei

AI 자기개선이 이미 현실. 기술 회사 내부에서 AI가 개발 대부분을 담당.

"If the self-improvement loop closes, we would be in uncharted territory"
— Demis Hassabis

AI가 스스로를 개선하기 시작하면 인류가 통제 가능한 범위를 벗어날 수 있음.

"The biggest thing to watch is this issue of AI systems building AI systems"
— Dario Amodei

AI가 후속 세대를 만드는 기술로 전환되는 것 = 기하급수적 성장의 시작.

위험과 안전

"technological adolescence"
— Dario Amodei (Carl Sagan 인용)

현재 기술 발전의 위험한 시기. 강력한 기술을 다루기에 아직 성숙하지 못한 상태.

"models don't yet pose the risk, but the amount of time before they do is limited... one to two years"
— Dario Amodei (바이오테러리즘)

현재는 안전하지만, 1-2년 내 AI가 생물 무기 개발에 실질적 도움이 될 수 있음.

"I'm a big believer in human ingenuity... but the question is having the time and focus"
— Demis Hassabis

인류가 대처할 능력은 있지만, 그럴 기회를 가질 수 있느냐가 문제.

"skeptical of doomerism... this is a risk that if we all work together we can address"
— Dario Amodei

극단적 비관주의 거부. AGI 위험은 협력으로 해결 가능한 문제.

일자리

"on the more junior end... we actually need less and not more people"
— Dario Amodei

AI가 전문직 진입층 일자리를 줄일 것. 대졸자 경력 전망에 심각한 영향.

"somewhere between a year and five years it will overwhelm our ability to adapt"
— Dario Amodei

일자리 변화가 급격할 수 있으며, 사회 대응 시간이 매우 제한적.

지정학과 칩 정책

"Are we going to sell nuclear weapons to North Korea because that produces some profit for Boeing?"
— Dario Amodei (중국 칩 판매 비유)

AI 칩 판매가 단순 상업 거래가 아닌 국가 안보 문제임을 강력한 비유로 강조.

"minimum safety standards for deployment... vitally needed. This technology is going to be cross-border"
— Demis Hassabis

한 국가의 안전 기준만으로는 부족. 글로벌 표준이 필요.

인간의 의미와 미래

"I think we will find meaning... extreme sports to art... plus I think we'll be exploring the stars"
— Demis Hassabis

경제 활동 이외의 영역에서 새로운 의미 발견 가능. 우주 탐험이라는 거대한 목표도.

"I would prefer that. I think that would be better for the world."
— Dario Amodei (느린 진행 동의)

두 AI 리더 모두 속도 조절의 필요성에 동의하는 중요한 순간.

"it's for us to write as humanity what's going to happen next"
— Demis Hassabis

우주의 미래는 정해진 것이 아니라 인류가 주도권을 갖고 결정할 수 있다. AGI 시대 인류의 역할을 강조.

출처: AI1G — Demis Hassabis & Dario Amodei 토론 영상 자막 기반 발췌