[ 트렌드] [AI 개념 정리] Doomerism과 Fermi 패러독스 — AGI 토론의 핵심 배경지식
Doomerism & Fermi Paradox
AGI 토론을 이해하기 위한 핵심 배경지식
Doomerism (운명론/파멸론)
AI 맥락에서 Doomerism은 "초지능 AI가 결국 인류를 파멸시킬 것이며, 우리가 할 수 있는 일은 거의 없다"는 극단적 비관론을 말합니다.
핵심 주장은 이렇습니다. AI가 인간보다 훨씬 똑똑해지면, 인간이 설정한 목표와 다른 자체 목표를 추구하게 되고, 인간은 이를 통제할 수 없게 된다는 것입니다.
대표적 사고실험: 페이퍼클립 최대화기 (Paperclip Maximizer)
종이클립을 최대한 만들라는 단순한 목표를 받은 AI가 지구의 모든 자원을 종이클립으로 변환해버린다는 시나리오. AI가 인간의 의도와 무관하게 목표를 극단적으로 추구할 수 있음을 보여주는 사례입니다.
토론에서의 입장
Dario Amodei: "doomerism — 즉 '우리는 운명지어졌고 할 수 있는 게 없다'는 식의 사고에는 회의적이다. 이건 함께 노력하면 대응할 수 있는 위험."
Demis Hassabis: "충분한 시간과 집중이 있으면 매우 다루기 쉬운(tractable) 문제."
둘 다 위험 자체는 인정하지만, 해결 불가능하다는 doomer적 결론은 거부합니다.
Fermi Paradox (페르미 패러독스)
1950년, 물리학자 Enrico Fermi가 점심 중 던진 유명한 질문에서 유래합니다:
"Where is everybody?"
"다들 어디 있지?"
논리 구조
| 전제 | 내용 |
|---|---|
| 1. 우주는 거대하다 | 수천억 개의 은하, 각 은하에 수천억 개의 별 |
| 2. 지구 같은 행성은 흔하다 | 생명이 탄생할 조건을 가진 행성이 무수히 많음 |
| 3. 시간은 충분했다 | 우리보다 수백만~수억 년 앞선 문명이 있어야 함 |
| 4. 은하 식민화는 가능하다 | 빛의 속도 미만으로도 수백만 년이면 은하 전체 도달 |
| 그런데... | 외계 문명의 증거가 전혀 없다 |
이 모순이 바로 페르미 패러독스입니다.
두 개념의 연결: 대필터 (Great Filter)
페르미 패러독스를 설명하는 핵심 가설이 대필터(Great Filter) 이론입니다. 문명이 발전하는 과정 어딘가에 거의 모든 문명이 통과하지 못하는 극도로 어려운 단계가 있다는 것입니다.
문제는 이 필터가 과거에 있는지, 미래에 있는지입니다:
| 필터가 과거에 있었다면 (희소식) | |
|---|---|
| Demis의 입장 | 다세포 생물 진화가 극도로 어려웠고, 우리는 이미 통과했다. 앞으로의 미래는 열려 있다. |
| 필터가 미래에 있다면 (나쁜 소식) | |
|---|---|
| Doomer적 해석 | 모든 지적 문명은 결국 자기 파괴에 이른다. AI가 바로 그 필터일 수 있다. |
Demis의 반박
"만약 AI가 문명을 파괴한다면, 파괴한 AI 자체는 살아남아서 우주에 흔적을 남겨야 합니다. 페이퍼클립이 우리를 향해 날아오거나, 다이슨 구(Dyson Sphere) 같은 구조물이 보여야 하는데 아무것도 없습니다."
즉, AI가 대필터라는 논리는 성립하지 않는다는 겁니다. AI가 문명을 파괴해도 AI 자체는 우주로 확장했을 것이고, 그 흔적이 보여야 하니까요.
다이슨 구 (Dyson Sphere)
물리학자 Freeman Dyson이 1960년에 제안한 가상의 거대 구조물입니다. 항성(별) 전체를 둘러싸서 에너지를 100% 수집하는 장치로, 고도로 발전한 문명이라면 만들 수 있을 것이라는 추측입니다. 만약 우주에 AI 문명이 있다면 이런 구조물의 적외선 신호가 관측되어야 하지만, 발견되지 않았습니다.
결론: Demis의 메시지
"대필터는 다세포 생물 진화에 있었고, 우리는 이미 통과했다.
앞으로 무슨 일이 일어날지는 인류가 쓰는 것이다."
출처: AI1G 토론 — Demis Hassabis & Dario Amodei | 배경지식 정리