국무장관, 엘론 머스크에 X에서 선거 허위 정보를 퍼뜨리는 AI 챗봇을 고치라고 촉구

국무장관 5명이 일론 머스크에게 소셜 미디어 플랫폼 X의 AI 챗봇을 수정하라고 촉구하며, 월요일에 보낸 편지에서 이 챗봇이 선거에 대한 잘못된 정보를 퍼뜨렸다고 주장했습니다.

미시간, 미네소타, 뉴멕시코, 펜실베이니아, 워싱턴의 최고 선거 관리자들은 머스크에게 X의 AI 챗봇인 그록이 조 바이든 대통령이 2024년 대선 경선에서 중도하차한 직후 주 투표 마감일에 대한 허위 정보를 생성했다고 말했습니다.

Grok은 X의 프리미엄 버전 구독자에게만 제공되지만, 이 잘못된 정보는 여러 소셜 미디어 플랫폼에서 공유되었고 수백만 명의 사람들에게 전달되었다고 편지에 나와 있습니다. 챗봇의 허위 투표 마감일 정보는 또한 앨라배마, 인디애나, 오하이오, 텍사스를 언급했지만, 이들 주의 장관은 편지에 서명하지 않았습니다. 장관들은 Grok이 수정되기 전까지 10일 동안 계속해서 허위 정보를 반복했다고 말했습니다.

이 편지는 X에게 “이 중요한 선거 연도에 유권자들이 정확한 정보를 얻을 수 있도록” 챗봇을 즉시 수정하라고 촉구했습니다. 여기에는 Grok에게 미국 선거에 대한 질문을 받으면 National Association of Secretarys of State가 운영하는 투표 정보 웹사이트인 CanIVote.org로 사용자를 보내라고 지시하는 것이 포함됩니다.

미네소타 주무장관 스티브 사이먼은 성명을 통해 “올해 대선에서는 유권자들이 투표권을 행사하는 방법에 대한 정확한 정보를 얻는 것이 매우 중요합니다.”라고 말했습니다. “유권자들은 주 또는 지방 선거 관리자에게 연락하여 어떻게, 언제, 어디에서 투표할 수 있는지 알아내야 합니다.”

X는 논평 요청에 응답하지 않았습니다.

Grok은 작년에 X 프리미엄 및 프리미엄 플러스 가입자를 대상으로 데뷔했으며 Musk는 이를 “대부분 다른 AI 시스템에서 거부하는 매운 질문에 답하는” “반항적인” AI 챗봇이라고 선전했습니다.

소셜 미디어 플랫폼은 선거를 포함한 잘못된 정보를 퍼뜨리는 역할에 대한 비판이 거세지고 있습니다. 이 편지는 또한 AI 제품, 특히 대규모 언어 모델을 기반으로 하는 Grok과 같은 챗봇의 경우 부정확할 수 있다고 경고했습니다.

“미국에서 수천만 명의 유권자가 이 중요한 선거 연도에 투표에 대한 기본 정보를 찾고 있기 때문에 X는 플랫폼을 사용하는 모든 유권자가 헌법상 투표권에 대한 진실하고 정확한 정보를 반영한 ​​가이드에 액세스할 수 있도록 보장할 책임이 있습니다.” 장관들은 편지에 이렇게 썼습니다.

머스크가 2022년에 트위터를 인수하여 이름을 X로 바꾼 이후, 감시 단체들은 플랫폼에서 증오 표현과 잘못된 정보가 급증하고, 콘텐츠 검토팀이 감축되고, 잘못된 정보 기능이 없어지고, 머스크를 비판하는 언론인이 검열받는 것에 대해 우려를 표명해 왔습니다.

전문가들은 이러한 움직임이 2016년 미국 대선 이후 정치적 허위 정보를 효과적으로 퇴치하고자 소셜 미디어 플랫폼이 시도했던 발전에서 후퇴한 것이며, 올해 11월 선거를 앞두고 허위 정보 환경이 더욱 악화될 수 있다고 말한다.