AI, 자율 무기 시스템 및 지정학

편집자 주

현대 전쟁에서 AI의 도입이 증가함에 따라 위험이 매우 높은 다양한 시나리오가 공개되었습니다. 맨 인 더 루프(man in the loop)가 점점 더 중복됨에 따라 위험 요소는 점점 더 심각해집니다. 드론 떼든, 핵 보복을 위한 반자동 루프든, 인류에게 재앙이 일어날 가능성은 높아지고 있습니다. 저자는 두 부분으로 구성된 기사(1부)에서 문제를 분석합니다.

인공지능과 자율무기체계

핵전쟁과 생물학전이 아마겟돈을 일으킬 수 있고, 자율무기로 이어지는 인공지능이 이를 보장할 것입니다.

– PR Kumar 중위(퇴역)

휴대폰과 인터넷이 보편화되었듯이 인공지능(AI)도 보편화되었습니다. 무해하게, 그것은 우리 삶에 스며들었고, 우리는 더 이상 그것 없이는 살아갈 수 없습니다. 그렇다면 AI란 무엇인가?

“인공지능(AI) 학습, 추론, 문제 해결 등 인간이 일반적으로 수행하는 작업을 컴퓨터가 수행할 수 있도록 하는 일련의 기술입니다. 흥미롭게도 AI에 대한 아이디어는 고대 발명가들이 “자동 장치”라고 불리는 기계 장치를 만들던 수천 년 전으로 거슬러 올라갑니다. AI는 논리와 수학을 사용하여 인간의 추론을 시뮬레이션하여 컴퓨터가 새로운 정보를 빠르고 정확하게 처리할 수 있도록 합니다.

AI와 머신러닝(ML)은 일반적으로 항상 연결되어 있습니다. AI가 컴퓨터 소프트웨어를 사용하여 인간의 인지를 모방하는 반면, ML은 알고리즘을 사용하여 복잡한 작업을 수행하는 AI의 하위 집합입니다. 신경망은 AI 기술의 핵심 구성 요소입니다. 그들은 정보를 처리하고 문제를 해결하기 위해 인공 뉴런을 사용하여 인간 두뇌의 정보 처리를 모방합니다.”

핵 및 생물학적 영역은 인류 발전을 위한 거대하고 특별한 과정/도구를 제공하지만 동시에 오용될 경우 인류에게 파멸을 초래할 수 있습니다. AI는 ‘인간’이 공통된 합의에 따라 성장을 규제하지 않는 한 인간 진보와 인간 파괴/멸종을 위한 ‘모든 영역의 어머니’가 될 수 있습니다. 아쉽게도 의도는 고귀할 수 있지만 AI의 놀라운 능력과 능력은 국가, 그룹 및 개인이 국제 안보와 안정을 희생하면서 다른 사람을 지배하기 위해 AI를 마스터하도록 보장할 것입니다. 두 부분으로 구성된 이 백서는 AI, 자동화된 무기 시스템 및 지정학이 미래 성장에 어떤 영향을 미치는지 개괄적으로 설명합니다. 1부에서는 자율 무기 시스템에 초점을 맞추고, 2부에서는 이를 규제/격리하는 과제와 지정학의 역할에 대해 자세히 설명합니다.

최근 퇴사하고 Open AI에 합류한 마이크로소프트의 AI 책임자 스티븐 부벡(Stephen Bubeck)과 (AI에 대해 전 세계에 경고하는 데 집중하기 위해) 구글을 그만둔 ‘AI의 대부’로 알려진 제프리 힌튼(Geoffrey Hinton)이 세상에 경고했다. “AI 시스템은 사람보다 더 똑똑해질 수 있다”. GPT-4와 같은 AI 기반의 새로운 대규모 AI 모델은 추론, 문제 해결 및 언어 능력을 획기적으로 향상시킵니다.

현재 AI는 특정 작업을 자동화할 수 있으며, 이는 범위가 급속히 확대되고 상당한 우려를 불러일으키고 있습니다. 지난 5년 동안 엔지니어, 학자, 내부 고발자 및 언론인들은 소프트웨어와 알고리즘으로 구성된 AI 시스템이 인간에게 심각한 피해를 입히거나 기여한 사례를 문서화했습니다. 인종 차별 및 가석방 거부와 같은 형사 사법 시스템에서 불공정한 조언을 권장하는 알고리즘 소셜 미디어의 유해한 콘텐츠를 청소년에게 전달합니다. 광범위한 마비와 심지어 인명 피해를 초래하는 현실적인 소문; 민감한 물류/금융/관리 시스템을 손상시켜 수십억 달러의 손실을 초래합니다. 대규모 범죄가 급증하고 있으며 사이버 범죄 탐지가 거의 불가능합니다. 도덕적, 윤리적 고려 없이 인간을 죽이거나 무력화할 수 있는 자동 무기 시스템을 잊지 마세요(최근 우크라이나, 가자지구, 아제르바이잔-아르메니아에서 일어난 전쟁은 충분한 증거를 제공합니다).

놀랍게도 과학자와 연구자들은 수십억 개의 계산이 포함된 불투명 방정식을 기반으로 하는 이러한 알고리즘이 어떻게 결과를 달성하는지 이해하지 못하는 경우가 많습니다.

자율무기체계 개요

우크라이나는 2023년 9월부터 무인항공시스템(UAS) ‘세이커 스카우트’ 작동 범위는 12km입니다. AI 알고리즘을 기반으로 구축된 소프트웨어와 함께 여러 항공기를 통합합니다. 우크라이나 개발자들은 이 드론이 인간 조작자 없이 64가지 유형의 러시아 군용 물체에 자율 공격을 수행하고 있음을 확인했습니다. 정찰 임무는 위장된 적의 군사 물체를 식별하고 좌표를 찾아 데이터를 지휘 센터로 전송합니다. 일단 획득되면 AI 기반 정찰 UAV는 이를 표적으로 지정하고 Saker Scout 시스템의 일부로 폭발성 FPV 드론을 안내합니다. 이는 Saker가 전파 방해가 불가능하고 검색, 위치 파악, 선택, 지정 및 파괴하도록 설계된 완전 자율 무기임을 의미합니다.

최소 30개국이 자율 모드에서 지상 차량을 위한 대공 및 미사일 방어 시스템과 로켓 방지 시스템을 운영하고 있습니다. 그들은 들어오는 로켓, 대포, 박격포, 미사일 또는 항공기를 자동으로 감지하고 요격합니다. 현재는 인간이 작업을 감독하고 문제가 발생하면 개입할 수 있습니다. 자율 시스템/드론은 취약한 통신 링크에 의존하지 않기 때문에 매우 중요합니다. 반드시 찾아서 파괴해야 합니다. 레이더와 시설을 목표로 삼기 위해 적 전선 뒤 더 깊은 곳까지 도달하기 위해 더 큰 중/고도 드론이 사용되었습니다. 우크라이나는 러시아 흑해 함대를 공격하기 위해 드론 보트를 사용하기도 했습니다.

갈등은 더 훌륭하고 복잡한 자율 시스템을 혁신하기 위한 온상입니다. 미국, 영국, 중국, 프랑스, ​​인도, 러시아는 현재 스텔스 전투 드론을 개발하고 있습니다. 지상 시스템은 공중 및 해상 시스템에 비해 뒤처져 있지만 중국이 선보인 고정 총 배치에 로봇 병사와 로봇이 배치되고 인도-중국 실제 통제선(LAC)을 따라 배치되었다는 보고가 나오고 있습니다. 드론 떼는 자율적으로 행동을 조정하고 인간의 능력을 뛰어넘는 속도로 전장의 변화에 ​​대응할 수 있습니다. 이는 전술 영역뿐만 아니라 분쟁 지역의 속도를 가속화하여 인간의 의사 결정 루프에 강력한 압력을 가하여 자율적인 의사 결정에 대한 의존도를 더욱 높이고 기계 중심 전쟁의 새로운 시대를 예고합니다. ‘전쟁의 원칙’과 그 행위조차도 지속적인 검토가 필요합니다. 이미 복잡한 다중 도메인 충돌 환경을 한 단계 더 발전시킵니다.

AI 통합에 있어 가장 걱정스럽고 설득력 있는 문제는 탄두, 전략적 의사소통, ISR, 전달 시스템, 명령 및 통제 등 전체 핵 생태계와 관련이 있습니다. 2022년에 미국과 영국은 핵무기 사용 결정에 대해 항상 “인간 ‘루프'”를 유지하겠다고 선언했습니다. 러시아와 중국은 공식적으로 그렇게 밝히지 않았지만 최근 2024년 Biden-Xi 회의에서 Xi는 자율 루프에서 인간을 보장하겠다고 약속한 것처럼 보였습니다.

소련은 “페리미터(Perimeter)”라고 불리는 반자동 보복 핵 공격 시스템을 구축했습니다. 일단 활성화되면 일련의 자동화된 센서를 사용하여 소련 땅에 대한 핵 공격을 감지합니다. 만약 하나가 탐지되고 국가 지도자들이 공격으로 사망했기 때문에 아무런 반응이 없다면, 시스템은 자동으로 보안 벙커에 있는 상대적으로 하급 장교에게 핵 발사 권한을 넘겨줄 것입니다.

러시아 관리들은 2018년에 시스템이 여전히 작동 중이며 심지어 업그레이드되었다고 밝혔습니다. 최근에는 모스크바가 핵으로 무장한 자율 수중 드론을 개발하기 시작했습니다. 중국-인도-파키스탄의 맥락에서 국경 분쟁과 불신, 지리적 근접성, 극초음속 및 다탄두 미사일 시스템, 재래식 무기와 핵무기의 공동 배치, 매우 짧은 결정 시간으로 인해 자율 시스템 채택 경향이 더욱 빨라져 더욱 불안정해질 것입니다. 아마겟돈의 가능성도 있습니다.

미래의 분쟁 시나리오에서는 자동화 수준이 높아지고 인간의 통제가 줄어들면서 기계 속도로 인간의 통제를 넘어서는 전쟁이 벌어지게 됩니다. 또한 AI 기반 자동화 시스템은 진입 장벽이 낮기 때문에 테러리스트와 비국가 행위자가 쉽게 접근, 제조, 사용할 수 있어 위험이 더욱 악화됩니다.

(2부에서 이 글은 AI가 지정학에 미치는 영향과 AI의 성장을 규제하거나 억제해야 할 필요성을 탐구할 것입니다.)

PR Kumar 중위(Retd)