AI가 21세기를 ‘압축’할 것인가?

분명히 인류의 종말에 관한 소문은 크게 과장되었을 수 있습니다. 현재로서는 로봇 해충 구제자가 아닌 살과 피를 지닌 존재로 남아 있는 AI 대군주 중 일부는 이제 업계의 더욱 극단적인 겁주기에 반발하고 있는 것으로 보입니다.

지난 1년 동안, 악성 초지능이 인류에 실존적 위협을 가할 수 있다고 예측한 소위 파멸론자들이 많은 주목을 받았습니다. 이들의 협박 행위로 인해 영국 정부는 지난해 11월 블레츨리 파크에서 AI 안전에 관한 국제 정상회담을 개최하기도 했습니다. 그러나 몇몇 최고의 AI 리더들은 이제 두려움 요인을 억제하고 희망과 과대 광고의 양을 늘리고 있습니다. 눈을 의심하는 회의론자들은 이러한 새로운 기술 낙관주의의 폭발이 주요 AI 스타트업이 모델 개발에 수십억 달러를 계속 투자하면서 대규모 자금 조달을 하는 것과 일치한다는 점에 주목할 것입니다.

지난 달, OpenAI의 공동 창업자인 Sam Altman은 투자자들로부터 60억 달러를 추가로 모금했으며 “지능의 시대”라는 제목의 기사를 발표했습니다. 그는 AI가 놀라운 승리를 가져올 것이라고 예측했습니다. 우주 식민지와 모든 물리학의 발견.”

두 개의 서로 다른 상을 수상한 것은 업계에서 많은 축하를 받았습니다. 물리학 및 화학 분야의 노벨상은 AI 개척자인 Geoffrey Hinton과 Demis Hassabis 경을 포함한 두 팀에게 돌아갑니다. 2억 개의 단백질 구조를 모델링한 AlphaFold 시스템을 개발한 Google DeepMind의 공동 창업자인 Hassabis는 인공지능이 디지털 속도로 과학을 가능하게 한다고 열정적으로 말했습니다.

그러나 아마도 기분 변화에 대한 가장 흥미로운 증거는 Anthropic의 공동 창립자인 Dario Amodei가 이번 달에 출판한 15,000 단어 에세이 “Loving Grace Machines”에서 찾을 수 있습니다. “두려움은 동기 부여의 한 유형이지만 그것만으로는 충분하지 않습니다.”라고 그는 썼습니다. “우리에게도 희망이 필요해요”

Amodei는 자신의 에세이에서 AI의 위험성을 인정하면서도 2026년 초에 도래할 수 있는 초지능의 변혁적 잠재력에 초점을 맞추고 있습니다. 그는 매우 강력한 AI를 “데이터 센터에 있는 천재들의 땅, ”는 많은 분야의 발전을 극적으로 가속화할 수 있습니다. 이러한 혁명적인 혁신은 21세기를 “압축”할 것입니다. “대부분의 사람들은 AI의 이점이 얼마나 급진적인지 과소평가하고 있다고 생각합니다.”라고 그는 썼습니다.

낙관적으로 Amodei는 AI가 과학적 발견의 속도를 크게 가속화할 수 있다고 주장합니다. 이는 우리가 많은 질병을 치료하고 기대 수명을 150세까지 연장하는 데 도움이 될 것입니다. “AI 재무장관과 중앙은행가”는 글로벌 자원을 보다 효율적으로 배분하여 사하라 이남 아프리카의 경제성장률을 10% 이상 높일 수 있습니다. Amodei는 AI가 사회 거버넌스를 개선하고 민주주의 제도를 침식하기보다는 강화할 수 있다고 추측하기도 합니다.

Amodei는 미래에 대해 ‘추측’하는 것만 가능하다는 점을 인정하면서 많은 독자들이 자신의 에세이를 ‘터무니없는 환상’으로 생각할 수도 있다는 점을 인정합니다. 그러나 그의 생각은 최고 AI 경영진이 구축하고 있다고 상상하는 미래에 대한 밝은 비전입니다. AI 개발의 놀라운 속도를 고려할 때 그러한 미래주의를 무시하는 것은 현명하지 못할 것입니다. 이 우울한 시기에 우리는 확실히 낙관적인 태도를 취할 수 있습니다.

그러나 어떤 면에서는 밝은 미래에 대한 이러한 AI 논쟁은 제가 대학에서 공부하는 데 너무 많은 시간을 보냈던 마르크스-레닌주의 이론적 변증법을 생각나게 합니다. 초기 공산주의자들은 거대하고 비인격적인 힘이 인간의 개입과 거의 독립적으로 사회를 가차 없이 재편할 것이라고 믿었습니다. 우리가 원하든 원하지 않든 다가올 미래에 저항하는 것은 쓸모가 없습니다. 그러나 우리가 알고 있듯이 역사는 그런 식으로 발전하지 않았습니다.

Amodei 또는 그의 동료 AI 챔피언이 똑같이 맹목적인 교리를 주장하는 것은 불공평합니다. 실제로 그들은 기술의 불확실성과 위험성에 대해 명시적으로 경고해 왔습니다. 그러나 그들은 인류가 외부 힘(이 경우에는 기술)에 굴복할 것이고 그 반대는 아닐 것이라고 가정함으로써 비슷한 목적론적 오류를 범하는 것 같습니다. 인터넷에서는 “잔디에 나가기” 위해 사무실을 더 떠나야 할 수도 있고, 적어도 11월 5일 미국 선거 결과를 보기 위해 기다려야 할 수도 있습니다.

이제 AI가 인류에게 큰 도움이 될 수 있다는 점에는 의심의 여지가 거의 없지만 AI가 인간의 모든 불완전성을 바로잡을 수는 없으며 우리가 이를 원하지도 않습니다. 철학자 임마누엘 칸트(Immanuel Kant)는 “인류라는 구부러진 나무에서 곧은 것은 아무것도 만들어지지 않았다”고 가르쳤습니다. 그 교훈은 볼셰비키 혁명가든 AI 전도사든 인류를 옹호하려는 모든 사람에게 적용됩니다.

john.thornhill@ft.com