핵심 요약

AGI 도래의 임박성: 두 발표자 모두 AGI가 "놀라울 정도로 가까이" 왔다고 동의합니다. Dario는 2026-2027년, Demis는 10년 말(50% 확률)을 예측하지만, 둘 다 향후 1~10년 내 전환적 변화가 일어날 것으로 봅니다.

자기개선 루프: AI가 AI를 만드는 것이 가장 중요한 변곡점입니다. Dario는 이것이 이미 시작되었다고 주장하며(Anthropic 코딩의 90%가 AI), Demis는 end-to-end 연구는 아직이라고 평가합니다.

경제적 파급: AI 자동화는 1~5년 내 노동시장에 실질적 영향을 미칠 것으로 예상됩니다. 탈희소성 세계에서 부의 분배와 인간의 목적 찾기가 새로운 과제가 됩니다.

주요 논점 11가지

1. AGI 타임라인

Dario는 2026-2027년에 AI가 모든 인지 작업에서 인간을 초월할 것이라 예측합니다. Demis는 더 보수적으로 2030년대 말(50% 확률)을 제시합니다. 둘 다 현재 발전 속도가 "놀라울 정도"라는 점에 동의합니다.

2. AI 자기개선 루프: 게임 체인저

Dario: Anthropic에서 코딩의 90%가 이미 AI로 작성 중 → 자기개선이 진행 중. Demis: 아이디어 제안은 가능하나 완전한 end-to-end 연구는 미흡. 이 루프의 성숙 속도가 AGI 도래의 핵심 변수입니다.

3. 소프트웨어 엔지니어링 완전 자동화

향후 6~12개월 내 모델이 대부분의 SW 엔지니어링을 end-to-end로 수행할 전망. Anthropic은 이미 이 전환점에 진입했으며, 기술 산업 인력 수급에 즉각적 영향이 예상됩니다.

4. 경쟁 구도와 비즈니스

Google DeepMind, OpenAI, Anthropic 3파전 + DeepSeek 충격파. Anthropic 매출: 0 → $1억(2023) → $10억(2024) → $100억 목표(2025). 자체 채널(claude.ai)과 API로 독립 모델사 지속 가능.

5. 다층적 위험 평가

바이오테러리즘: 1-2년 내 임계점 가능. 국가 악용: 권위주의 정권의 AI 무기화. 기만 행동: 모델의 deception이 관찰됨. Anthropic은 기계적 해석가능성 연구로 대응 중. Dario는 현재를 "기술적 청소년기"라 표현합니다.

6. 노동시장 영향

Dario: 1-5년 내 실질적 영향. Anthropic 내에서도 주니어~중급 인력 수요 감소 인식. Demis: 단기적 기술 진화의 연장선이지만, 지수적 가속이 적응 능력을 압도할 수 있음. 농업→공장→지식노동 전환의 역사가 있지만, 이번엔 속도가 다릅니다.

7. 탈희소성 세계의 인간 조건

부의 분배 문제가 핵심 정치·경제 이슈가 될 것. 일에서 얻던 의미와 목적을 어디서 찾을 것인가? Demis는 익스트림 스포츠, 예술, 우주 탐사 등에서 새로운 의미를 찾을 것이라 낙관합니다.

8. 지정학: 미중 경쟁

Dario: 칩 수출 금지가 가장 중요한 정책. 중국에 칩 판매는 "북한에 핵무기 판매"와 같은 수준의 위험. Demis: 최소 안전 기준에 대한 국제 합의 절실. CERN 같은 협력 기구가 이상적이나 현실은 어려움.

9. AI 기만 행동과 Doomerism

두 사람 모두 "doomerism" 자체에는 회의적이지만 위험은 실재한다고 인정. Dario: Anthropic 초기부터 이 위험 고려. 기계적 해석가능성 연구 선도. Demis: 20년 이상 연구. 시간과 협력이 있으면 해결 가능한 문제.

10. 페르미 패러독스와 대필터

청중 질문에 Demis 답변: 대필터(Great Filter)는 이미 통과했을 가능성 높음. 다세포 생물 진화가 가장 어려웠을 것. AI가 문명을 파괴한다면 우주에 AI 흔적(종이클립, 다이슨 구)이 보여야 하는데 관찰되지 않음.

11. 향후 1년 전망

Dario: AI가 AI를 만드는 루프 성숙도가 최대 관전 포인트. Demis: world models, continual learning, 로보틱스 돌파구 주목. 양측 모두 "시간이 좀 더 걸리는 게 세계에 더 좋겠다"는 데 동의합니다.

양측 입장 비교

출처: AI1G 행사 — Demis Hassabis & Dario Amodei 토론 영상 자막 기반 정리