캘리포니아 주지사, 미국 최초로 AI 안전 대책 마련 법안 거부

캘리포니아주 새크라멘토 — 캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)은 미국 최초의 법안 제정을 목표로 하는 역사적인 법안을 거부했습니다. 일요일 대형 인공지능 모델에 대한 보안 조치.

이번 결정은 거의 감독 없이 빠르게 발전하고 있는 국내 산업을 통제하려는 노력에 타격을 주는 것입니다. 지지자들은 이 법안이 국내 최초로 대규모 AI 모델에 대한 규정 중 일부를 확립하고 전국적으로 AI 안전 규정을 위한 길을 열었을 것이라고 말했습니다.

이달 초 민주당 주지사는 소프트웨어 대기업 세일즈포스(Salesforce)가 주최한 연례 컨퍼런스인 드림포스(Dreamforce)에서 청중에게 캘리포니아가 연방의 무반응에 직면해 AI 규제를 주도해야 하지만 이 제안은 “영향을 미칠 수 있다”고 말했습니다. 산업.”

뉴섬은 스타트업, 기술 대기업, 여러 민주당 하원 의원들의 격렬한 반대를 불러일으킨 이 제안은 엄격한 요구 사항을 설정함으로써 지역 산업에 해를 끼칠 수 있다고 말했습니다.

Newsom은 성명에서 “SB 1047은 의도는 좋았지만 AI 시스템이 고위험 환경에 배치되었는지, 중요한 의사 결정이 관련되었는지, 민감한 데이터를 사용하는지 여부를 고려하지 않았습니다.”라고 말했습니다. “그 대신 이 법안은 대규모 시스템에서 구현되는 한 가장 기본적인 기능에도 엄격한 기준을 적용합니다. “나는 이것이 기술로 인한 실제 위협으로부터 대중을 보호하는 최선의 접근 방식이라고 생각하지 않습니다.”

Newsom은 일요일에 주정부가 인공 지능 선구자를 포함한 여러 업계 전문가와 협력할 것이라고 발표했습니다. Fei-Fei Lito는 강력한 AI 모델을 중심으로 가드레일을 개발합니다. 리씨는 AI 안전 제안에 반대했다.

AI로 인해 발생하는 잠재적 위험을 줄이기 위한 이 조치는 기업이 모델을 테스트하고 보안 프로토콜을 공개하여 모델이 국가의 전력망을 무너뜨리거나 화학 무기를 만드는 데 도움을 주는 등 조작되는 것을 방지하도록 요구했을 것입니다. . 전문가들은 업계가 지속적으로 빠르게 발전함에 따라 이러한 시나리오가 미래에도 가능할 수 있다고 말합니다. 또한 내부 고발자로서 근로자를 보호했을 것입니다.

이 법안의 작성자인 민주당 주 상원의원인 스콧 와이너(Scott Weiner)는 거부권을 “대중의 안전과 안녕, 그리고 지구의 미래에 영향을 미치는 중요한 결정을 내리는 거대 기업에 대한 감독을 믿는 모든 사람에게 좌절”이라고 말했습니다.

“고급 AI 시스템을 개발하는 회사는 이러한 모델이 대중에게 제시하는 위험이 현실이며 빠르게 증가하고 있다는 것을 인식하고 있습니다. Wiener는 일요일 늦게 성명을 통해 “대형 AI 연구소가 이러한 위험을 모니터링하고 완화하기 위해 훌륭한 노력을 기울였지만 업계의 자발적인 약속은 시행할 수 없으며 대중에게 잘 작동하는 경우가 거의 없다는 것이 사실입니다.”라고 말했습니다.

Wiener는 법안을 둘러싼 논쟁이 AI 안전 문제를 극적으로 발전시켰으며 그 점을 계속해서 강조할 것이라고 말했습니다.

이 법안은 AI를 규제하고 딥페이크에 맞서 싸우며 근로자를 보호하기 위해 올해 의회에서 통과된 수많은 법안 중 하나입니다. 주 의원들은 캘리포니아가 기회가 있었을 때 소셜 미디어 회사를 통제하지 않음으로써 배운 가혹한 교훈을 언급하면서 올해 조치를 취해야 한다고 말했습니다.

Elon Musk와 Anthropic을 포함한 이 법안의 지지자들은 개발자와 전문가들이 여전히 AI 모델의 작동 방식과 이유를 완전히 이해하지 못하고 있기 때문에 이 제안이 대규모 AI 모델에 대해 일정 수준의 투명성과 책임성을 부여했을 수 있다고 말했습니다. .

이 법안은 구축에 1억 달러 이상이 필요한 시스템을 대상으로 했습니다. 현재 AI 모델은 이 기준점을 충족하지 못하지만 일부 전문가들은 내년에 상황이 바뀔 수 있다고 말했습니다.

OpenAI 연구원 출신으로 지난 4월 회사가 AI 위험에 무관심하다는 이유로 사임한 다니엘 코코타일로(Daniel Kokotajlo)는 “이는 업계 내 투자가 엄청나게 증가했기 때문”이라고 말했습니다. “민간 기업에 대해 설명할 수 없는 통제권을 갖는 것은 엄청난 힘이며, 또한 엄청나게 위험합니다.”

미국은 위험을 제한하기 위해 AI를 규제하는 데 이미 유럽보다 뒤처져 있습니다. 캘리포니아의 제안은 유럽의 규정만큼 포괄적이지는 않지만 일자리 손실, 잘못된 정보, 개인 정보 침해 및 자동화 편견에 대한 우려를 불러일으키는 빠르게 성장하는 기술에 장벽을 치는 좋은 첫 번째 단계였을 것이라고 그의 추종자들은 말했습니다.

지난해 몇몇 주요 AI 기업은 자사 모델에 대한 정보 테스트 및 공유 등 백악관이 마련한 보호 조치를 따르기로 자발적으로 동의했습니다. 캘리포니아 법안은 AI 개발자들이 그러한 약속과 유사한 요구 사항을 따르도록 강요했을 것이라고 이 법안 지지자들은 말했습니다.

그러나 전 미국 하원의장 낸시 펠로시(Nancy Pelosi)를 포함한 비평가들은 이 법안이 “캘리포니아 기술을 죽이고” 혁신을 억제할 것이라고 주장했습니다. 그들은 AI 개발자가 대형 모델에 투자하거나 오픈 소스 소프트웨어를 공유하는 것을 방해했을 것이라고 말했습니다.

법안을 거부하기로 한 Newsom의 결정은 캘리포니아에서 거대 기술 기업과 AI 개발자에게 또 다른 승리를 의미합니다. 이들 중 다수는 지난 1년 동안 캘리포니아 상공회의소와 로비를 통해 주지사와 국회의원이 AI 규정을 발전시키지 않도록 영향력을 행사했습니다.

기술 업계 등의 거센 반대에 직면했던 또 다른 두 가지 전면적인 AI 제안도 지난달 입법 마감일 이전에 실패했습니다. 법안은 AI 개발자에게 AI 생성 콘텐츠에 라벨을 붙이고 고용 결정을 내리는 데 사용되는 인공지능 도구에 의한 차별을 금지하도록 요구했을 것입니다.

주지사는 올 여름 초 AI 분야의 글로벌 리더로서 캘리포니아의 위상을 보호하고 싶다고 밝혔으며, 세계 상위 50개 AI 기업 중 32개가 캘리포니아주에 위치해 있다는 점을 지적했습니다.

그는 캘리포니아를 주의 얼리 어답터로 홍보했습니다. 곧 고속도로 혼잡을 해결하고 재정 지침을 제공하며 노숙자 프로그램을 최적화하기 위해 생성적 AI 도구를 배포할 수 있습니다. 또한 주정부는 또한 학생, 대학 교수, 개발자 및 데이터 과학자 교육을 돕기 위해 거대 인공 지능 Nvidia와 자발적 파트너십을 체결했다고 지난달 발표했습니다. 캘리포니아는 또한 채용 관행에서 AI 차별을 금지하는 새로운 규정을 고려하고 있습니다.

이달 초 뉴섬은 선거 부정을 단속하고 할리우드 근로자를 AI 무단 사용으로부터 보호하기 위한 국가의 가장 엄격한 법률 중 일부에 서명했습니다.

그러나 Newsom의 거부권에도 불구하고 캘리포니아의 보안 제안은 다른 주의 의원들이 유사한 조치를 채택하도록 고무하고 있다고 보안 기술 및 개인 정보 보호에 관해 의원들과 협력하는 비영리 단체인 Future of Privacy Forum의 부국장인 Tatiana Rice가 말했습니다.

라이스 의원은 “그들은 다음 입법 회기에서 이를 복사하거나 유사한 조치를 취할 가능성이 있다”고 말했다. “그래서 안 없어지는 거야.”

—-

Associated Press와 OpenAI는 OpenAI가 AP의 일부 텍스트 파일에 액세스할 수 있도록 허용하는 라이센스 및 기술 계약을 맺었습니다.