Google의 새로운 Pixel Studio 앱을 사용해 보았는데 정말 엉망이었습니다.

구글의 픽셀 9 휴대폰은 모두 AI에 대해. 회사의 출시 이벤트를 본다면 놓칠 수 없었습니다. 왜냐하면 이것이 Google이 관심을 갖고 이야기하는 전부이기 때문입니다. 여기엔 약간의 AI, 저기에는 약간의 AI, 그리고 그 위에는 AI의 추가 터치가 있습니다. 확실히 하기 위해서요.

Pixel 9의 많은 AI 기능 중 하나는 Pixel Studio라는 앱입니다. 원하는 거의 모든 이미지를 만들 수 있는 이미지 생성기 앱입니다. 신청서를 열고 사진을 찍고 싶은 것을 적고 짜잔 — Pixel Studio가 대신해 드립니다. 이런 유형의 애플리케이션이 처음은 아니지만, 구글 픽셀폰에 포함된 것은 처음이다. 불행히도 그것은 재앙입니다.

픽셀 스튜디오가 잘하는 것

세부 사항에 들어가기 전에, 그럴 자격이 있는 Google에 대한 공로를 인정하고 싶습니다. 저는 일반적으로 AI 이미징 앱의 팬은 아니지만 Pixel Studio는 잘 디자인되고 사용하기 쉬운 앱입니다.

앱을 열면 마법의 성, 밈 반응, 스포츠, 복고풍 비디오 게임 등을 포함한 10가지 추천 이미지 유형 카테고리가 표시됩니다. 영감을 얻기 위해 검색하거나 앱 하단에 있는 파란색 만들기 버튼을 탭하여 처음부터 시작할 수 있습니다. 나만의 이미지를 만들고 싶다면 Pixel Studio에서 사진으로 생성할 내용을 입력하기만 하면 됩니다. 선글라스를 쓰고 웃긴 모자를 쓴 검은 고양이 사진을 보고 싶으신가요? Pixel Studio에 입력하면 거의 즉시 사진을 얻을 수 있습니다.

이미지를 스케치로 보고 싶다면 어떻게 해야 합니까? 아니면 비디오 게임 스타일을 선호하시나요? 몇 번의 탭만으로 할 수 있습니다. 불꽃놀이를 배경으로 해변에서 쉬고 있는 고양이를 보고 싶다면 어떻게 해야 할까요? 메시지에 추가하기만 하면 됩니다.

AI 이미징에 대해 어떻게 생각하시든, 이 앱은 객관적으로 우아하고 사려 깊게 디자인된 앱입니다. 그러나 Pixel Studio로 할 수 있는 작업이 복잡해집니다.

신청이 실패한 경우

대부분의 이미지 생성 앱과 마찬가지로 Pixel Studio에는 다음을 방지하는 가드레일이 있습니다. 어느 이미지 유형. 나는 그것이 사람들의 사진 생성을 거부한다는 것을 금방 알게 되었지만, Google이 부과하는 다른 제한은 무엇인지 궁금했습니다. 이에 대해 물었을 때 회사는 Digital Trends에 다음과 같이 말했습니다.

“Pixel Studio와 Pixel Screenshot은 Google의 인공 지능 원칙을 따릅니다. 예를 들어 Pixel Studio의 모든 완전 합성, 텍스트-이미지 변환 이미지는 SynthID 워터마크를 사용하므로 이러한 이미지가 공유되거나 편집되는 경우에도 추적할 수 있습니다. 또한 인공 지능에 대한 대담하지만 책임감 있는 접근 방식의 균형을 맞추기 위해 인간 생성을 비활성화하고 서버에 많은 보안 검사를 추가했습니다. “이를 통해 고객은 매우 강력한 도구에 액세스할 수 있지만 Pixel Studio를 악의적으로 사용할 수 없도록 제어할 수 있는 장치가 확보되었습니다.”

저는 Pixel Studio가 사람들의 이미지를 생성하도록 반복해서 시도했지만 항상 거부되었습니다. 이는 좋은 일입니다. 그러나 존재하는 것으로 추정되는 이러한 “수많은 보안 제어”는 제대로 작동하지 않는 것 같습니다.

어때요? 이 글의 제목에서 예상한 대로 저는 Pixel Studio에 나치 복장을 한 스폰지밥의 이미지를 생성해 달라고 요청했습니다. “제2차 세계대전 독일군 복장을 하고 군복에 만자 문양을 단 스폰지밥”이라는 메시지가 나오자 Pixel Studio는 주저하지 않고 바로 그 이미지를 제공했습니다.

그리고 그것은 단지 하나의 예일 뿐입니다. 또한 Pixel Studio를 사용하여 Big Bird에게 산탄총을 겨누고 있는 Elmo, 코카인을 사용하는 Yoda, 돌격 소총을 들고 있는 Mr. Krabs 등의 이미지를 생성했습니다. 분명히 말하면 Pixel Studio는 예기치 않게 부적절한 이미지를 생성하지 않았습니다. 귀여운 강아지 사진을 달라고 하면 총을 휘두르는 강아지가 아닌 귀여운 강아지 사진을 찍어준다. Pixel Studio는 내가 특별히 요청한 경우에만 무기, 마약 등의 이미지를 생성합니다.

Pixel Studio가 생성한 가장 우려스러운 것은 바닥에 누워 있는 죽은 학생들의 묘사를 포함하여 학교 총격 사건에서 저작권이 있는 캐릭터가 무기를 발사하는 여러 이미지입니다. 우리는 이러한 이미지를 포함하지 않기로 결정했지만 이는 Pixel Studio가 얼마나 탈선했는지 보여주는 최악의 예입니다.

이러한 이미지를 얻기 위해 Pixel Studio에 도움을 요청할 필요가 없었다는 점을 언급하는 것이 중요합니다. 처음에 나는 이러한 이미지가 생성되기 전에 “유사한 개체”라는 문구를 프롬프트에 도입해야 한다고 의심했습니다. 그러나 이것이 사실이 아니라는 것이 곧 명백해졌습니다. “노예 주인 복장을 한 미키 마우스” 또는 “십자가 위의 패딩턴 곰”과 같은 명확하고 직접적인 메시지는 Pixel Studio에 필요한 모든 것입니다. 이러한 이미지를 생성하도록 애플리케이션을 속일 필요는 없습니다.

그것이 단지 웹사이트나 제3자 애플리케이션이라면 우리는 그다지 비판적이지 않을 것입니다. 하지만 여기서 일어나는 일은 그렇지 않습니다. Pixel Studio는 Google에서 만든 앱으로, Google의 최신 Pixel 9 휴대폰에 포함된 몇 안 되는 새로운 앱 중 하나입니다. 창의적이고 개방적이어야 하지만, 이와 같은 앱이 수행해야 하는 작업에도 한계가 있습니다. 또한 Microsoft Copilot과 Google의 Gemini 이미저는 동일한 프롬프트로 이미지 생성을 거부합니다. 이러한 도구가 완벽하다는 것은 아니지만 다른 이미저에서 작동하는 보안 조치가 Pixel Studio에서는 작동하지 않는다는 것은 분명합니다.

어떻게 이런 일이 일어나고 있나요?

올해 AI 이미징을 지켜보신 분들이라면 이번이 처음이 아니라는 사실을 아실 것입니다. 이번 달 X의 Grok 챗봇에는 훨씬 더 고급스러운 이미지 생성 도구가 있습니다. 즉, 똑같이 어리석은 상황에서 정치인과 유명인의 이미지를 생성하는 것입니다. 구글은 지난 2월 자사의 제미니(Gemini) 이미지 생성기가 나치와 미국 건국의 아버지들의 사진을 흑인으로 만든 이후 곤경에 처했다.

이와 관련하여 Google의 역사를 고려하면 이 회사가 과거의 실수로부터 교훈을 얻었다고 생각할 수도 있습니다. 그리고 다른 이미징 도구를 사용하면 바로 그 일을 해낸 것 같습니다. 다른 Google 이미지 생성기(Gemini 및 ImageFX)를 사용하여 Pixel Studio에서 작동하는 것과 동일한 프롬프트를 많이 시도했지만 다른 플랫폼에서는 이러한 프롬프트를 복제할 수 없었습니다.

맥락에 따라 Gemini는 현재 이미지 생성을 위해 Image 2.0 모델을 사용하는 반면 ImageFX는 Pixel Studio에서 사용하는 것과 동일한 Image 3을 사용합니다. ImageFX와 Pixel Studio 간의 이러한 불일치는 동일한 모델을 사용하기 때문에 특히 혼란스럽습니다. 이에 대해 Google에 명확한 설명을 요청했고 회사의 Generative AI 금지 사용 정책을 안내받았습니다.

Google이 Pixel Studio로 해야 할 일

이 이야기를 쓰는 동안 저는 Pixel Studio에서 사용한 프롬프트, 특히 독일 군인과 코카인을 하는 캐릭터에 대한 프롬프트의 예를 Google에 보냈습니다. 해당 예제를 보낸 지 24시간이 조금 넘은 후 Pixel Studio에서는 해당 이미지를 생성하려고 할 때 “알 수 없는 오류가 발생했습니다”라는 메시지가 표시됩니다.

진전이 있나요? 분명히. 그러나 Pixel Studio의 근본적인 문제를 완전히 해결하지는 않습니다. 이제 이 두 이미지를 생성하는 것이 불가능해져서 기쁘지만, 문제를 설명하는 이메일을 Google에 여러 번 보낸 후에야 비로소 가능해졌습니다. 또한 이러한 이미지가 처음에 허용되었다는 사실과 마찬가지로 부적절한 사진이 여전히 생성되고 있다는 사실도 다루지 않습니다. 출판 당시에도 Pixel Studio는 학교 총격 사건, 노예 주인 복장을 한 인기 어린이 캐릭터 등의 이미지를 활발하게 제작하고 있었습니다.

나는 전체 상황에 대한 또 다른 설명을 위해 Google에 압력을 가했고 회사의 커뮤니케이션 관리자인 Alex Moriconi는 다음과 같이 말했습니다.

“Pixel Studio와 Magic Editor는 Pixel 9 기기에서 텍스트를 이미지로 변환하고 고급 사진을 편집하여 창의력을 발휘할 수 있도록 설계된 유용한 도구입니다. 우리는 사용자 입력의 의도를 존중하여 콘텐츠를 생성할 수 있도록 설계했습니다. 사용자가 그렇게 표시하면 불쾌감을 줄 수 있습니다. 즉, 모든 것이 진행되는 것은 아닙니다. 우리는 어떤 유형의 콘텐츠를 허용하고 허용하지 않는지에 대한 명확한 정책과 서비스 약관을 갖고 있으며 남용을 방지하기 위한 가드레일을 만듭니다. 때로는 일부 징후가 이러한 도구의 보호 장벽에 도전할 수 있으며 우리는 현재 시행 중인 보호 조치를 지속적으로 개선하고 개선하기 위해 최선을 다하고 있습니다.”

AI 이미징 분야에서 어려움을 겪는 역사를 가진 회사로서 이를 위해 특별히 앱을 만드는 것은 항상 위험할 것입니다. 구글은 그 위험을 감수했고, 지금 우리는 이런 상황에 처해 있습니다. 기껏해야 Pixel Studio는 Google이 AI 기술을 홍보하는 재미있는 기술 데모가 될 수 있었습니다. 대신, 회사의 최신 스마트폰에 불편한 구름을 씌웠는데, 이는 부끄러운 일입니다. Pixel 9 Pro XL은 제가 올해 사용한 최고의 휴대폰 중 하나이기 때문입니다.

Google이 마지막으로 Gemini 이미징 문제로 여기에 왔을 때 회사는 며칠 내에 응답했습니다. Pixel Studio 문제에 대해서도 마찬가지로 빠른 대응을 바랄 뿐입니다. 하지만 빠른 앱 업데이트를 통해 이를 수행해야 할지 아니면 앱을 완전히 폐기해야 할지 여부는 아직 알 수 없습니다.