조 바이든을 흉내낸 AI 전화를 뉴햄프셔 유권자들에게 보낸 회사가 100만 달러 벌금 내기로 합의

연방 규제 기관은 인공지능을 이용해 조 바이든 대통령의 목소리를 흉내 내 뉴햄프셔 유권자들에게 사기성 전화를 건 회사가 수요일에 100만 달러의 벌금을 내기로 합의했다고 밝혔습니다.

로봇콜을 전송한 음성 서비스 제공업체인 Lingo Telecom은 원래 200만 달러의 벌금을 청구했던 연방통신위원회의 집행 조치를 해결하기 위해 합의에 동의했습니다.

많은 사람들은 이 사건을 AI가 어떻게 유권자 집단과 민주주의 전체에 영향을 미치는 데 사용될 수 있는지를 보여주는 불안한 초기 사례로 여긴다.

한편, 이 통화를 조직한 정치 컨설턴트 스티브 크레이머는 여전히 FCC에서 600만 달러에 달하는 벌금을 부과받고 있으며, 주정부 형사 고발도 받고 있습니다.

전화 메시지는 1월 21일에 수천 명의 뉴햄프셔 유권자들에게 전송되었습니다. 그 메시지에는 바이든의 목소리와 비슷한 목소리가 담겨 있었는데, 주의 대선 예비선거에서 투표하면 11월 총선에서 투표할 수 없을 것이라고 거짓으로 암시했습니다.

마술사이자 스스로를 “디지털 유목민”이라고 부르는 사람에게 돈을 주고 녹음을 하게 한 크레이머는 올해 초 AP 통신과의 인터뷰에서 예비선거 결과에 영향을 미치려고 한 것이 아니라 AI의 잠재적 위험을 강조하고 의원들에게 조치를 취하도록 독려하고 싶었다고 말했습니다.

유죄 판결이 내려질 경우 크라머는 유권자 억압 혐의로 최대 7년의 징역형을 선고받을 수 있으며, 후보자 사칭 혐의로 최대 1년의 징역형을 선고받을 수 있습니다.

FCC는 Lingo Telecom이 민사 과태료에 동의한 것 외에도, 엄격한 발신자 ID 인증 규칙과 요구 사항을 준수하고 고객과 상위 공급업체가 제공한 정보의 정확성을 보다 철저히 검증하기로 동의했다고 밝혔습니다.

FCC 위원장 제시카 로젠워셀은 성명에서 “우리 모두는 전화선에 있는 목소리가 그들이 주장하는 바로 그 사람이라는 것을 알 자격이 있습니다.”라고 말했습니다. “AI가 사용되고 있다면, 그것을 접하는 모든 소비자, 시민, 유권자에게 명확히 알려야 합니다. FCC는 통신망에 대한 신뢰가 위태로울 때 조치를 취할 것입니다.”

Lingo Telecom은 논평 요청에 즉시 응답하지 않았습니다. 이 회사는 이전에 FCC의 조치에 강력히 반대하며, 새로운 규칙을 소급적으로 부과하려는 시도라고 말했습니다.

비영리 소비자 권익 단체인 Public Citizen은 FCC의 조치에 찬사를 보냈습니다. 공동 회장인 Robert Weissman은 Rosenworcel이 소비자가 진짜 콘텐츠를 받을 때와 AI가 생성한 딥페이크를 받을 때를 알 권리가 있다고 말함으로써 “정확히 옳았다”고 말했습니다. Weissman은 이 사례가 그러한 딥페이크가 “우리 민주주의에 실존적 위협”을 가하는 방식을 보여준다고 말했습니다.

FCC 시행국장인 로얀 이갈은 발신자 ID 스푸핑과 생성형 AI 음성 복제 기술의 결합이 “정치적 이익을 추구하는 국내 요원이나 악의적 영향 또는 선거 간섭 활동을 수행하는 정교한 외국 적대 세력의 손에 의해” 심각한 위협을 초래한다고 말했습니다.