인공지능과 지정학: 규제의 필요성

편집자 노트

1부에서는 인류를 개선하기 위한 인공 지능(AI)의 놀라운 능력과 동시에 치명적인 자율 무기(LAW) 시스템에 초점을 맞춰 인공 지능(AI)의 다중 영역 파괴 잠재력을 살펴보았습니다. AI는 통합을 요구하고 규제를 강요하지만 바로 이 특성은 어떤 대가를 치르더라도 AI를 마스터해야 하는 글로벌 지정학적 필요성을 지시합니다.

AI 쓰나미

핵전쟁과 생물학전은 아마겟돈을 일으킬 수 있습니다. 인공지능과 자율무기가 이를 보장할 것이다. – PR Kumar 중위(퇴역)

무어의 법칙에 따르면 컴퓨팅 성능은 2년마다 두 배로 증가하여 컴퓨터가 할 수 있는 작업이 기하급수적으로 증가합니다. 그러나 AI는 기술, 도메인 및 관리의 모든 측면을 개선하기 위해 이전에 볼 수 없었던 상승 곡선을 따라 더 낮은 비용과 더 쉬운 접근성으로 이를 능가했습니다. (자율적인 의사결정). 기술, 국력, 세계 경제에 대한 혁신적 영향은 전 세계적으로 돌이킬 수 없는 확산을 보장할 것입니다. AI의 장점은 엄청나지만 단점과 종말에 대한 우려도 무시할 수 없습니다.

규제/봉쇄의 필요성 확립을 위해 단점에 집중

AI는 이미 새로운 위험을 불러일으켰습니다. 감지하기가 거의 불가능한 영향력 있는 위험 중 하나는 허위 정보/잘못된 정보로, 이는 지정학적, 경제적, 안보적 측면에서 중대한 영향을 미칩니다. 딥페이크는 프로세스/행정을 마비시키고, 세계 경제를 혼란에 빠뜨리고, 국가 내외의 대립을 일으키고, 전쟁을 일으킬 수 있습니다. 모든 분야의 사이버 공격은 어디에나 존재합니다. 전략적 의사소통의 중단과 핵 생태계의 명령 및 통제 루프는 아마겟돈을 촉발할 수 있습니다. 미국은 이미 전략적 핵 시스템을 교란하는 것은 전쟁 행위로 간주될 것이라고 밝혔습니다. 의학, 생명공학, 생물학전에서 AI를 악마적으로 사용하려는 유혹은 아무리 강조해도 지나치지 않습니다. AI의 힘이 커짐에 따라 독재자/독재자, 심지어 테러리스트 그룹을 포함하여 사회의 모든 수준/측면에 대한 접근성도 높아질 것입니다.

AI 세계로의 지정학

많은 AI 전문가들은 강력한 규제 없이 AI가 새로운 질병이나 사이버 무기를 개발하는 데 사용될 수 있고, 인간이 더 이상 통제할 수 없는 지점까지 발전하여 잠재적으로 종말론적인 결과를 가져올 수 있다고 우려합니다. 문제를 더욱 악화시키는 것은 불안정한 세계 질서이며, 특히 보안 및 군사 분야에서 AI의 모든 이점을 활용하려는 두 초강대국이자 기술 거대 기업인 미국과 중국 간의 대결이 확대되고 있다는 것입니다. 글로벌 반도체 및 칩 전쟁은 지정학이 AI에 영향을 미치는 가치 있는 예입니다. AI에 대한 통제권을 양보하고 싶어하는 국가는 없습니다.

긍정적인 소식: 국가와 활동가들은 규제를 추구하고 있지만…

전문가들의 AI에 관한 2023년 조사 보고서에 따르면 36%는 AI 개발이 “핵 수준의 재앙”을 초래할 수 있다고 우려하고 있습니다. 스티브 워즈니악(Steve Wozniak), 엘론 머스크(Elon Musk), 여러 AI 회사의 CEO 및 기타 저명한 기술 전문가를 포함하여 미래의 생명 연구소(Future of Life Institute)가 작성한 공개 서한에 30,000명이 넘는 사람들이 서명하여 6개월 간의 일시 중지 또는 새로운 첨단 기술의 유예를 요청했습니다. AI 개발. 2023년 11월, 여러 국가는 AI 문제를 해결하기 위한 강력한 국제 협력을 약속하는 공동 성명을 발표했습니다. 규제 문제에 대해 종종 의견이 상충되는 국가들에게는 놀랍게도 중국, 미국 및 EU가 문서에 서명하여 “프론티어” AI의 위험을 해결하는 데 대한 합리적이고 광범위한 관점을 제공했습니다. 조 바이든 미국 대통령의 2023년 10월 AI 관련 행정명령, 2023년 12월 유럽의회가 통과시킨 EU의 AI법, 그리고 중국의 최근 규정은 놀라운 수준의 수렴을 보여준다.

하지만, AI를 위한 새로운 글로벌 거버넌스 체제를 만들기 위한 이러한 명백한 수렴은 단호하고 난공불락의 장애물에 직면합니다. 모든 주요 플레이어가 AI를 완전히 통제할 수 있도록 현실과 지정학을 기반으로 합니다. 미국과 중국이 뒤따르는 최첨단 AI 기술(하드웨어 및 소프트웨어)에 대한 제한 및 수출 통제는 이러한 움직임이 두 국가 모두에 해를 끼치고 인류를 위한 AI의 성장을 방해함에도 불구하고 대표적인 예입니다. 잘 알려지지 않았지만 중요한 또 다른 영역은 AI와 연결된 디지털 및 기술 생태계의 표준화입니다. 이는 전 세계적으로 무게와 온도를 측정하기 위한 여러 표준을 갖는 것과 같습니다. 예를 들어 iPhone 13은 12개 이상의 국가에서 공급된 약 200개의 부품으로 구성되어 있으며 하나의 특정 표준이 필요합니다.

독일의 산업가 베르너 폰 지멘스는 1800년대 후반에 이렇게 말했습니다.표준을 소유한 자가 시장을 소유한다.”

AI 규제/억제 방향으로 이동

현재 국제전기통신연합(International Telecommunication Union), 국제전기기술위원회(International Electrotechnical Commission), 국제표준화기구(International Organization for Standardization), 인터넷엔지니어링태스크포스(Internet Engineering Task Force) 등 몇몇 잘 알려지지 않은 기관들이 디지털 기술에 대한 기술 표준을 협상하고 있습니다. 이들 기관은 글로벌 디지털 무역 및 경쟁 조건을 설정하는 데 중요한 역할을 합니다. 구성원은 다수결의 원칙을 따릅니다. 미국과 유럽의 관료와 기업이 지배하는 동안 중국은 많은 국제적 지원을 받아 빠르게 리더로 부상했습니다. 2015년부터 기술을 통합했습니다. 일대일로 이니셔티브(Belt and Road Initiative) 프로젝트에 표준을 적용합니다. 2018년 3월, 중국은 국제 표준 설정에서 더욱 강력한 중국의 역할을 요구하는 ‘중국 표준 2035’를 발표했습니다. 2019년까지 39개 국가 및 지역과 89건의 표준화 협정을 체결했습니다. 그러나 AI 관련 기술 표준을 두고 의견 차이가 나타났다. 불행하게도 중국, 러시아, 미국은 기존 전쟁법 규정이 잠재적인 피해를 해결하기에 충분하다고 주장하면서 자율 무기를 금지하는 조약에 강력히 반대했습니다. 모든 국가가 데이터 보안을 유지하기를 원하기 때문에 AI, 데이터 보유/전송/공유, 알고리즘 공개 등과 관련된 국가별 법적 체제는 또한 광범위하고 집단적인 솔루션을 좌절시킬 것입니다.

디지털 규제와 관련해 미국은 시장 중심 접근방식을, 중국은 국가 중심 접근방식을, 유럽연합은 권리 중심 접근방식을 추진하고 있다. 이들 세 개의 “디지털 제국”은 AI의 미래를 통제하기 위해 경쟁하고 다른 국가들이 AI 법률에 대한 지침을 모색함에 따라 디지털 세계에서 영향력 영역을 확장하려고 시도합니다.

치명적인 자율 무기(LAW)를 향한 길

국가는 치명적인 의사결정에 필요한 최소한의 인간 개입을 확립하는 광범위한 법적 원칙을 채택할 수 있습니다. 이는 UN 특정 재래식 무기에 관한 협약(CCW)이나 총회를 통해 채택될 수 있습니다. 미국, 중국 등 강대국은 자율 규제를 통해 다른 국가도 이를 따르도록 설득할 수 있습니다. 핵무기와 관련하여 ‘Human in the loop’는 의무화되어야 하며 모든 핵보유국(NWS)에서 입법화해야 합니다.

인도 국가 안보에 AI 적용 개요

불안정한 국경과 대립적인 이웃 국가로 인해 인도는 이미 온전함과 주권을 보호하기 위해 연중무휴 다중 영역 작전에 참여하고 있습니다. 인도는 IT 강국으로 여겨지지만 AI 기반 방어 애플리케이션의 구현 속도는 훨씬 느립니다. 모든 도메인이 AI를 지원하는 경우에만 전쟁에서 승리할 수 있습니다. NITI Aayog와 국방부(MoD)는 국가 안보와 국방을 위해 AI를 전략적으로 구현하기 위해 2018년 태스크포스를 구성했습니다. 위원회의 보고서는 국방 제조에 대해 다루고 제안을 포함했으며 군사적 과제와 AI를 통합한 혁신적인 솔루션에 대한 자금 지원을 확인했습니다. 세 서비스 모두 ‘AI 센터’를 설립했습니다. 국방부는 국방인공지능프로젝트청(DAIPA)에 향후 5년간(2023년부터) 연간 1억 루피(미화 1,200만 달러)의 예산을 투입했습니다. 2022년 정부는 데이터 처리 및 분석, 사이버 보안, 시뮬레이션 및 자율 시스템, 특히 드론에 중점을 둔 국방용 AI 활용과 관련된 75개 우선 프로젝트 목록을 발표했습니다. 간접 방어 애플리케이션을 갖춘 민간 우주 프로그램의 AI 솔루션을 통합하는 것 외에도 수중 영역 인식, 국경 보안 및 반군 작전을 위한 AI 애플리케이션도 우선 순위입니다.

포스트 스크립트

최근 외교부 기사에서는 미국이 LAWS가 전쟁에서 보다 자유롭게 운영되도록 하여 스스로 윤리적 선택을 내릴 수 있도록 해야 한다고 권고합니다(이것이 무엇을 의미하든)! 이 권장 사항은 두 가지 수준에서 위험을 안고 있습니다. 미국은 이미 AI를 규제/격리할 수 없다고 결정했습니다. 둘째, 루프의 최상위에 머물면서 LAWS를 위한 글로벌 경쟁을 시작합니다(핵 도메인 경로로 이동).

PR Kumar 중위(Retd)