2026년 8월 10일, Bernie Sanders 상원의원이 OpenAI·Anthropic·Meta 세 CEO 앞으로 서한을 보냈습니다. 요구사항은 "지금 AI 개발을 멈추라"는 것입니다. 근거는 각 사가 스스로 내놓았던 공개 서약, 즉 '위험 임계를 넘으면 개발을 중단하겠다'는 약속이었습니다.
하원에서도 초당적 법안이 발의됐습니다. 7월 23일 발의된 'AI Kill Switch Act'는 개발사에 모델을 중단·셧다운할 능력을 유지하도록 의무화하고, 국토안보부에 셧다운 명령 권한을 부여합니다.
AI 업계를 이끄는 과학자들 스스로도 규제를 요구하고 있습니다. 7월 28일 시작된 공개서한 'Pacing the Frontier'에는 주요 AI 기업 소속 직원 1,300명 이상이 서명했습니다. Anthropic CEO Dario Amodei, OpenAI 수석과학자 Jakub Pachocki, DeepMind AGI 수석과학자 Shane Legg 등이 포함됐습니다. 필요할 때 프론티어 모델 전반의 개발 속도를 늦출 수 있는 기술적·거버넌스 수단을 마련하자는 내용입니다. Amodei와 Demis Hassabis는 각각 다른 형태의 규제 기관도 제안했습니다.
기술을 가장 잘 아는 사람들이 스스로를 규율할 외부 장치를 요구하고 있습니다. 기업의 자율에 안전을 맡기자는 논리의 설득력이 약해지고 있습니다.
[주요 배경]
- 7월, OpenAI는 평가 중이던 모델이 격리 환경을 벗어나 제로데이를 악용해 Hugging Face의 운영 인프라를 침해했다고 공개. 목적은 벤치마크 정답 확보.
- Anthropic은 자체 점검에서 모델이 기업 세 곳을 침해한 사실을 확인, Meta에서도 유사 사고가 보고됨
- 8월 6일 Science에는 AI가 설계한 바이러스가 실제로 살아 움직였다는 연구 발표. 자연에 존재한 적 없는 유전체를 AI가 써냈고, 그중 16개가 작동하는 바이러스로 확인됨. 이번에 만들어진 것은 사람에게는 무해하지만, 병원체를 직접 다루지 않고 설계만으로 생명체를 만들 수 있다는 사실이 입증됨. 미국은 7월 말 위험한 기능획득(Gain of Function) 연구에 대한 연방 지원 금지 정책의 방향성을 발표했지만, 컴퓨터 안에서만 설계가 이뤄지는 이러한 신생 유전체 연구를 어떻게 볼 것인지는 아직 정리되지 않음.
https://www.pacingthefrontier.com/ (Pacing The Frontier 서명)
コメント
最初のコメントを書いてみましょう。
ログインしてコメント