AI의 도움으로 미국 전역에 잘못된 정보가 퍼지면서 유권자들은 진실과 허구를 구별하는 데 어려움을 겪고 있습니다.

일부 이미지는 명백한 가짜입니다. 도널드 트럼프가 미국 국회의사당 앞에서 돌격 소총을 휘두르며 두꺼운 문신이 있는 상완 이두근을 불룩하게 내밀고 있습니다. 트럼프 씨와 카말라 해리스가 발톱발 욕조에 나란히 앉아 있고, 손을 잡고 옷을 다 입고 있습니다. 미소 띤 해리스 여사가 일론 머스크에게 소파에 안겨 있고, 그의 손이 그녀의 임신한 배에 있습니다.

하지만 다른 사진들은 실제처럼 보일 수 있고, 그들의 시각적 진실성이 그들의 기이한 내용을 가려버릴 수도 있습니다. 한 사진은 해리스 여사가 불길에 휩싸인 미국 국기 뒤에서 땅에 무릎을 꿇고 있는 모습을 보여줍니다. 트럼프 대통령이 직접 소셜 미디어에 게시한 다른 사진은 테일러 스위프트가 삼촌 샘 의상을 입고 시청자를 가리키며 “테일러 스위프트가 도널드 트럼프에게 투표하기를 바랍니다”라는 캡션을 달고 있습니다.

조 바이든에게 투표했고 2020년에는 해리스 여사를 지지했다고 밝힌 스위프트 여사는 자신이 정치적 입장을 바꾸었다는 어떠한 징후도 보이지 않았습니다.

하지만 일부 트럼프 지지자들이 속았다는 가능성은 새로운 시대가 도래했다는 최신 확인이었습니다. 정치에서 인공지능의 시대입니다. 이는 단순히 새로운 혼란, 사실에 허구를 더 교묘하게 디지털로 삽입, 슈퍼컴퓨터 속도로 허위 정보를 유포하는 것을 약속하는 순간이 아닙니다.

그 일은 이미 일어나고 있습니다.

수요일에 연방통신위원회는 Lingo Telecom이 바이든 씨의 스푸핑 메시지가 자사 네트워크에서 전송되도록 허용한 혐의로 100만 달러의 벌금을 내야 한다고 밝혔습니다. 정치 컨설턴트는 뉴햄프셔 민주당 예비선거 기간 동안 유권자들에게 보낸 메시지에서 AI를 사용하여 대통령의 목소리를 복제하여 투표용지를 던지지 말라고 말했습니다.

동시에, 미국의 정치 시스템은 AI 도구, 신생 기업 및 정치인들로 자신의 기어를 윤활하기 위해 경쟁하고 있습니다. 전략가들은 최신 세대의 컴퓨터 지능을 활용하여 기부자로부터 더 많은 돈을 짜내고, 유권자를 투표장으로 끌어들이는 새로운 방법을 찾고, 더욱 개인적인 관심사에 맞는 메시지를 전달할 수 있기를 바랐습니다.

Tiger Byte Consulting의 CEO인 빅토리아 개프니는 “사용하지 않는다면 경쟁자가 사용하고 있기 때문에 지게 될 것입니다.”라고 말했습니다. 이 회사는 최근에 설립되어 데이터 분석 및 AI 서비스를 제공하는 소규모 회사로, 이번 주 시카고에서 열린 민주당 전당대회에서 예상치 못하게 인기를 얻었습니다. 개프니 씨는 “사람들이 당신이 AI에 있다는 것을 듣자마자 ‘제발, 우리 캠페인을 도와주세요’라고 말합니다.”라고 말했습니다.

타이거 바이트는 이번 달 이탈리아계 미국인 민주당 지도부 협의회와 협력하여 이전 선거에서는 간과되었을 수 있는 이탈리아계 유권자를 찾아냈습니다.

“알래스카에서는 2%를 놓친 것 같습니다.”라고 Gaffney 씨가 말했습니다.

다양한 소수 민족 집단에 대한 홍보에 참여하는 민주당 지도자들은 이미 인종 범주를 8개에서 100개 이상으로 확대하는 등 보다 개인화된 메시지를 전달하는 방법을 모색하고 있습니다. AI 도구는 성을 식별하여 사람들을 분류하는 데 도움이 될 수 있지만 소셜 미디어, 온라인 회원 목록, 학교 동문 기록 및 공개적으로 사용 가능한 집 주소를 걸러내는 데도 도움이 될 수 있습니다. 개인의 배경, 기부 의지, 심지어 도어노킹에 가장 적합한 동네를 평가하는 문제입니다.

정치 캠페인의 경우, AI 도구는 유세 연설문을 가져와 소셜 미디어 게시물로 바꾸거나, 커뮤니케이션에 익숙하지 않은 사람이 보도자료 초안을 작성하도록 할 수 있습니다.

“사람들은 AI가 캠페인을 어떻게 혁신할 것인지 묻습니다. 가능한 가장 지루한 방식으로 혁신할 것입니다.” 기금 모금을 위한 AI 콘텐츠를 생성하는 Quiller의 공동 창립자인 민주당 전략가 Mike Nellis의 말입니다.

퀼러는 볼링 그린 시장 선거에 출마한 전 켄터키주 의원 패티 민터와 협력하여 모금 이메일 초안 작성 시간을 절반으로 줄였습니다.

“그들은 더 많은 돈을 모으지 않습니다. 하지만 그들은 1분에 더 많은 돈을 모으고 있습니다. 즉, 그들은 다른 일을 하고 있다는 뜻입니다.” 넬리스 씨가 말했습니다. 그는 AI 도구를 사용하는 방법을 아는 사람들에게는 “사용할 수 있는 인턴 군대”가 될 수 있다고 말했습니다.

하지만 현재로선 AI 도구는 캠페인을 위한 실험 영역으로만 남아 있습니다.

그들의 유해한 선거 영향력은 그다지 가설적이지 않습니다.

여론 조사에 따르면 미국 유권자 10명 중 8명이 후보자의 위조된 사칭이나 위조된 콘텐츠를 걱정하는 것으로 나타났습니다. 전문가들은 AI의 악의적 사용이 이미 압도적인 수의 성적 딥페이크 이미지의 표적이 된 여성에게 엄청난 영향을 미칠 것이라는 우려의 이유가 있다고 말합니다.

마이크로소프트의 캠페인 성공팀을 이끌며 정당에 AI 혁신 도구를 제공하는 세스 레즈닉은 이 위험은 공직에 출마하려는 사람의 성별 균형을 바꿀 수 있을 만큼 심각한 위험이라고 말했습니다.

넬리스 씨는 선의의 노력조차도 쉽게 실패할 수 있다고 말했습니다. 예를 들어, 아일랜드 남자의 모습을 만들어내려는 한 가지 노력은 화난 술주정뱅이의 이미지를 만들어냈습니다.

넬리스 씨는 “저는 AI가 틀릴까봐 많이 걱정합니다.”라고 말했습니다.

그는 효과적인 대응을 위해서는 규제가 필요하다고 덧붙였다.

일부 기술 회사는 AI가 생성한 이미지를 디지털 방식으로 식별하고, 정품 콘텐츠를 검증하고, 자체 서비스에서 후보자나 선거 직원의 오디오나 영상을 생성하지 못하도록 하는 방법을 개발하기 위해 함께 모였습니다. 자체 AI 도구를 보유한 Microsoft는 정치인과 직원이 위조 콘텐츠를 보고할 수 있는 도구를 개발했습니다.

그러나 지금으로서는 그러한 노력은 자발적이며 엄청난 예외가 있습니다. X에 내장된 AI 도구인 Grok-2는 트럼프 씨가 모스크 안에 무릎을 꿇은 모습, 휠체어를 탄 졸린 바이든 씨, 해리스 씨가 낫과 망치 모양의 공산주의 깃발로 가득 찬 시카고 군중에게 연설하는 모습을 사실적으로 그려냅니다.

그런 이미지 자체가 선거의 모습을 바꿀 수는 없습니다.

“미국에서는 대중의 신뢰가 역대 최저이고, 고착화가 역대 최고인 정보 환경을 헤쳐 나가고 있습니다. 따라서 캠페인 기간 동안 AI가 사람들의 마음과 생각을 의미 있게 바꿀 수 있는 능력에는 실질적인 한계가 있습니다.” 하버드 케네디 스쿨의 수석 연구원이자 해리스 여사의 기술 및 시민권 문제에 대한 수석 정책 고문이었던 아미 필즈-마이어의 말입니다.

하지만 그는 AI가 훨씬 더 심각할 수 있는 다른 위험을 초래한다고 경고했습니다. 올해 초 바이든 씨의 가짜 음성 메시지는 이미 민주주의 과정의 기본에 간섭하는 새로운 방식을 보여주었습니다.

“아마도 지역 목사나 선출된 공무원의 목소리로 전화해서 선거가 연기되었다고 말하는 것일 수도 있고, 투표소에 있는 이민국 직원을 보여주는 가짜 이미지일 수도 있습니다.”라고 그는 말했습니다.

“유권자 억압을 위한 AI 사용은 심각하고 즉각적인 위협입니다.”