일론 머스크가 공유한 조작된 영상, 카말라 해리스의 목소리를 흉내내, 정치권에서의 AI에 대한 우려 제기

이 기사는 The Globe의 허위 및 잘못된 정보를 다루는 이니셔티브의 일환으로 게시되었습니다. 팁이나 피드백을 공유하려면 이메일을 보내주세요. disinfodesk@globeandmail.com.

부통령 카말라 해리스(Kamala Harris)가 실제로 하지 않은 말을 하는 목소리를 흉내 낸 조작된 영상이 선거를 약 3개월 앞두고 인공지능(AI)이 유권자들을 오도할 수 있는 힘에 대한 우려를 불러일으키고 있다.

이 영상은 기술 억만장자 엘론 머스크가 금요일 저녁 자신의 소셜 미디어 플랫폼 X에 원래 공개된 내용을 명확히 밝히지 않고 공유한 후 주목을 받았습니다. ㅏ 풍자적 개작 시문.

이 영상은 민주당 대선 후보로 유력한 해리스 여사가 지난주 캠페인을 시작하면서 공개한 실제 광고와 동일한 비주얼을 많이 사용합니다. 하지만 이 영상은 해리스 여사를 설득력 있게 가장한 다른 목소리로 음성 해설 오디오를 바꿉니다. 영상에 직접 링크하지 않으므로 더 확대되지 않습니다.

“저, 카말라 해리스는 조 바이든이 토론에서 마침내 자신의 노망을 드러냈기 때문에 민주당 대선 후보입니다.” 영상에서 목소리가 말합니다. 해리스는 여성이자 유색인종이기 때문에 “다양성 고용”이라고 주장하며, 그녀는 “나라를 운영하는 것에 대해 아무것도 모른다”고 말합니다. 영상은 “해리스를 대통령으로”라는 브랜딩을 그대로 유지합니다. 또한 해리스의 과거 클립을 몇 개 더 추가합니다.

해리스 캠페인 대변인인 미아 에렌버그는 AP 통신에 보낸 이메일에서 “우리는 미국 국민이 해리스 부통령이 제공하는 진정한 자유, 기회, 안보를 원한다고 믿습니다. 일론 머스크와 도널드 트럼프의 가짜, 조작된 거짓말은 원하지 않습니다.”라고 말했습니다.

널리 공유된 이 영상은 미국이 대선을 앞두고 정치를 조롱하고 오도하는 데에 실제와 같은 AI 생성 이미지, 비디오 또는 오디오 클립이 어떻게 활용되었는지를 보여주는 사례입니다. 고품질 AI 도구가 훨씬 더 쉽게 접근 가능해졌지만, 지금까지 사용을 규제하기 위한 상당한 연방 조치가 부족하여 정치에서 AI를 안내하는 규칙이 주로 주와 소셜 미디어 플랫폼에 맡겨져 있음을 보여줍니다.

이 영상은 또한 AI의 적절한 사용으로 간주되는 것의 경계를 흐릿하게 하는 콘텐츠를 가장 잘 처리하는 방법에 대한 의문을 제기합니다. 특히 풍자 범주에 속하는 경우 더욱 그렇습니다. 후속 게시물에서 머스크는 영상을 두 번째로 공유하면서 “… 패러디는 미국에서 합법입니다.”라고 덧붙였습니다.

영상을 게시한 원래 사용자인 Mr Reagan이라는 유튜버는 YouTube와 X에서 조작된 영상이 패러디라고 밝혔습니다. 하지만 Musk 씨의 원래 게시물에는 웃는 이모티콘과 함께 “이거 대단해”라는 캡션만 포함되어 있습니다.

X의 “커뮤니티 노트” 기능을 사용하여 게시물에 맥락을 추가하는 일부 참여자는 머스크의 게시물에 라벨을 붙이자고 제안했지만, 월요일 아침까지 그런 라벨은 추가되지 않았습니다. 일부 온라인 사용자는 그의 게시물이 X의 정책을 위반할 수 있는지 의문을 제기했습니다. 이 정책은 사용자가 “사람들을 속이거나 혼란스럽게 하고 해를 끼칠 수 있는 합성, 조작 또는 맥락이 없는 미디어를 공유해서는 안 됩니다.”라고 명시하고 있습니다.

이 정책은 “미디어의 진실성에 대한 심각한 혼란”을 야기하지 않는 한 밈과 풍자에 대한 예외를 두고 있습니다.

머스크 씨는 선거에서 도널드 트럼프 전 대통령을 지지했습니다. 레이건 씨와 머스크 씨는 일요일에 이메일로 보낸 논평 요청에 즉시 응답하지 않았습니다.

AI가 생성한 미디어를 전문으로 하는 두 명의 전문가가 가짜 광고의 오디오를 검토한 결과, 대부분이 AI 기술을 사용하여 생성되었다는 것을 확인했습니다.

캘리포니아 대학교 버클리 캠퍼스의 디지털 포렌식 전문가인 하니 파리드는 이 영상이 생성적 AI와 딥페이크의 힘을 보여준다고 말했습니다.

그는 이메일에서 “AI가 생성한 음성은 매우 좋습니다.”라고 말했습니다. “대부분의 사람들이 그것이 해리스 부통령의 목소리라고 믿지 않을지라도, 그녀의 목소리로 된 단어가 있을 때 영상은 훨씬 더 강력합니다.”

옹호 단체 Public Citizen의 공동 대표인 로버트 바이스먼은 파리드 씨의 의견에 동의하지 않으며, 많은 사람이 이 영상에 속을 것이라고 생각한다고 말했습니다.

“저는 그것이 분명히 농담이라고 생각하지 않습니다.” 바이스먼 씨는 인터뷰에서 말했다. “저는 그것을 보는 대부분의 사람들이 그것이 농담이라고 생각하지 않을 것이라고 확신합니다. 품질은 좋지 않지만 충분히 좋습니다. 그리고 그것이 그녀 주변에서 퍼져 나간 기존 테마에 부합하기 때문에 대부분의 사람들은 그것이 진짜라고 믿을 것입니다.”

의회, 연방 기관 및 주에서 생성 AI를 규제하도록 옹호해 온 조직을 가진 와이스먼 씨는 이 영상이 “우리가 경고해 온 종류의 것”이라고 말했습니다.

미국과 다른 지역의 다른 생성적 AI 딥페이크는 잘못된 정보, 유머 또는 둘 다를 통해 유권자에게 영향을 미치려고 시도했을 것입니다. 2023년 슬로바키아에서 가짜 오디오 클립은 선거를 조작하고 투표 며칠 전에 맥주 가격을 인상할 계획을 논의하는 후보를 사칭했습니다. 2022년 루이지애나에서 정치 행동 위원회의 풍자 광고는 루이지애나 시장 후보의 얼굴을 성적이 낮은 고등학생으로 묘사한 배우에게 중첩했습니다.

의회는 아직 정치에서 AI에 대한 법안을 통과시키지 못했고, 연방 기관은 제한된 조치만 취했으며, 대부분의 기존 미국 규정은 주에 맡겼습니다. National Conference of State Legislatures에 따르면, 3분의 1 이상의 주가 캠페인과 선거에서 AI 사용을 규제하는 자체 법률을 만들었습니다.

X 외에도 다른 소셜 미디어 회사도 플랫폼에서 공유되는 합성 및 조작된 미디어에 대한 정책을 만들었습니다. 예를 들어 비디오 플랫폼 YouTube의 사용자는 생성적 인공 지능을 사용하여 비디오를 만들었는지 여부를 공개해야 하며 그렇지 않으면 정지됩니다.