AI 도구로 인해 가짜 리뷰 급증

인터넷에는 가짜 리뷰가 넘쳐납니다. 연구원과 감시 단체는 생성 인공 지능 도구의 출현으로 인해 판매자, 서비스 제공자 및 소비자가 미지의 영역에 놓이게 되었다고 말합니다. 이러한 도구를 사용하면 사람들은 거의 작업하지 않고도 상세한 온라인 리뷰를 효율적으로 작성할 수 있습니다.

가짜 리뷰는 오랫동안 많은 인기 소비자 웹사이트를 괴롭혀 왔습니다. 일반적으로 가짜 리뷰 브로커와 지불할 의사가 있는 기업 간의 비공개 소셜 미디어 그룹에서 거래됩니다. 때때로 기업은 긍정적인 피드백을 위해 고객에게 기프트 카드와 같은 인센티브를 제공합니다.

기술 업계 전문가에 따르면 AI가 적용된 텍스트 생성 도구를 사용하면 사기꾼이 더 빠르고 더 많은 양의 리뷰를 생성할 수 있다고 합니다. 가짜 리뷰를 작성하는 기만적인 관행은 연중 내내 이루어지지만, 많은 사람들이 선물 구매에 도움을 주기 위해 리뷰에 의존하는 휴가철에는 소비자에게 더 큰 문제가 됩니다. 기술 회사이자 감시 그룹인 투명성 회사(The Transparency Company)는 2023년 중반부터 AI가 생성한 리뷰가 대량으로 나타나기 시작했으며 그 이후로 계속해서 증가했다고 말했습니다.

이번 달 발표된 보고서에서 The Transparency Company는 가정, 법률, 의료 서비스 등 세 가지 부문에서 7,300만 건의 리뷰를 분석했습니다. 리뷰 중 약 14%는 가짜일 가능성이 높으며 회사는 230만 개의 리뷰가 부분적으로 또는 전체적으로 AI로 생성되었다는 “높은 수준의 확신”을 표명했습니다. The Transparency Company의 작업을 검토하고 1월부터 조직을 이끌 예정인 기술 스타트업의 투자자이자 고문인 Maury Blackman은 “이 리뷰 사기꾼에게는 정말 정말 좋은 도구일 뿐입니다.”라고 말했습니다.

1. 지난 8월, 소프트웨어 회사인 DoubleVerify는 생성 AI가 작성한 리뷰를 통해 휴대폰 및 스마트 TV 앱의 “상당한 증가”를 관찰했다고 밝혔습니다. 리뷰는 고객을 속여 기기를 가로채거나 지속적으로 광고를 게재할 수 있는 앱을 설치하도록 하는 데 자주 사용되었다고 회사는 말했습니다.

다음 달, 연방거래위원회(Federal Trade Commission)는 Rytr이라는 AI 작성 도구 및 콘텐츠 생성기를 제공하는 회사를 고소하면서 이 회사가 사기성 리뷰로 시장을 오염시킬 수 있는 서비스를 제공하고 있다고 비난했습니다. FTC는 Rytr의 가입자 중 일부가 이 도구를 사용하여 차고 문 수리 회사, “복제” 디자이너 핸드백 판매자 및 기타 기업에 대한 수백, 수천 건의 리뷰를 작성했다고 밝혔습니다. AI 탐지 회사인 팬그램 랩스(Pangram Labs)의 CEO인 맥스 스페로(Max Spero)는 자신의 회사가 사용하는 소프트웨어를 통해 아마존에 게시된 일부 AI 생성 평가가 너무 자세하고 괜찮아 보였기 때문에 리뷰 검색 결과의 상단에 표시되는 것을 거의 확실하게 감지했다고 말했습니다. 생각.

그러나 무엇이 가짜인지 아닌지를 판단하는 것은 어려울 수 있습니다. Yelp에 대한 AI 생성 댓글의 대부분은 “엘리트” 배지를 얻기에 충분한 리뷰를 게시하려는 개인이 게시한 것으로 보이며, 이는 사용자에게 콘텐츠를 신뢰해야 한다는 점을 알리기 위한 것이라고 Spero는 말했습니다.

AI가 생성한 리뷰로 인해 소비자 신뢰가 복잡해졌습니다.

배지를 통해 지역 사업주와 함께하는 독점 이벤트에 액세스할 수 있습니다. 사기꾼들은 자신의 Yelp 프로필이 더욱 현실적으로 보이도록 하기를 원한다고 Fake Review Watch라는 감시 그룹을 운영하는 전직 연방 범죄 수사관 Kay Dean이 말했습니다. 유명 기업들은 가짜 또는 악의적인 리뷰를 제거하기 위해 AI 생성 콘텐츠가 자사 시스템에 어떻게 적용되는지에 대한 정책을 개발하고 있습니다.

일부에서는 이미 가짜 리뷰를 탐지하고 제거하기 위해 알고리즘과 조사팀을 사용하고 있지만 사용자에게 AI를 사용할 수 있는 유연성을 제공하고 있습니다. Amazon과 Trustpilot의 대변인은 고객이 실제 경험을 반영하는 한 AI 지원 리뷰를 게시할 수 있도록 허용할 것이라고 말했습니다. Yelp는 지침에 따라 검토자가 자신의 사본을 작성하도록 요구하면서 보다 신중한 접근 방식을 취했습니다.

Amazon, Trustpilot, Glassdoor, Tripadvisor 및 Expedia가 작년에 출범한 신뢰할 수 있는 리뷰 연합은 사기꾼이 AI를 불법적으로 사용할 수 있더라도 이 기술은 “리뷰를 사용하려는 사람들에 대해 반발할 수 있는 기회도 제공합니다”라고 말했습니다. 다른 사람을 오해하게 만드세요.”

지난 10월부터 시행된 가짜 리뷰 금지에 따라 해당 기관은 이러한 행위에 관여하는 기업과 개인에게 벌금을 부과할 수 있습니다. 이러한 리뷰를 호스팅하는 기술 회사는 외부인이 플랫폼에 게시하는 콘텐츠에 대해 미국 법률에 따라 법적 책임을 지지 않기 때문에 처벌로부터 보호됩니다. 아마존(Amazon), 옐프(Yelp), 구글(Google) 등 기술 기업들은 자사 사이트에 위조 리뷰를 게재한 혐의로 가짜 리뷰 브로커를 고소했습니다.

회사들은 그들의 기술이 수많은 의심스러운 리뷰와 의심스러운 계정을 차단하거나 제거했다고 말합니다. 그러나 일부 전문가들은 더 많은 일을 할 수 있다고 말합니다. Fake Review Watch의 학장은 “지금까지의 노력은 거의 충분하지 않습니다.”라고 말했습니다.

“이러한 기술 회사가 자사 플랫폼에서 리뷰 사기를 제거하기 위해 그렇게 노력하고 있다면, 자동화 없이 일하는 개인이 하루에 수백 또는 수천 개의 가짜 리뷰를 찾을 수 있는 이유는 무엇입니까?”

연구원에 따르면 소비자는 몇 가지 경고 신호를 주의 깊게 관찰함으로써 가짜 리뷰를 피할 수 있다고 합니다. 지나치게 열정적이거나 부정적인 리뷰는 위험 신호입니다. 제품의 전체 이름이나 모델 번호를 반복하는 전문 용어는 또 다른 잠재적 경품입니다.

AI와 관련하여 Yale의 조직 행동 교수인 Balázs Kovács가 실시한 연구에 따르면 사람들은 AI가 작성한 리뷰와 인간이 작성한 리뷰의 차이를 구분할 수 없는 것으로 나타났습니다. 일부 AI 탐지기는 온라인 리뷰에서 흔히 볼 수 있는 짧은 텍스트에 속을 수도 있다고 연구는 밝혔습니다. 그러나 온라인 쇼핑객과 서비스를 찾는 사람들이 명심해야 할 몇 가지 “AI가 말하는 것”이 ​​있습니다.

Panagram Labs는 AI로 작성된 리뷰는 일반적으로 더 길고 고도로 구조화되어 있으며 일반적인 문구 및 속성과 같은 “빈 설명자”를 포함한다고 말합니다. 또한 글에는 “나를 가장 먼저 놀라게 한 것”, “게임 체인저”와 같은 진부한 표현이 포함되는 경향이 있습니다.