美 FTC, 오픈AI·앤트로픽 'AI 에이전트 보안사고' 조사 착수…경영진 소환 추진
미국 연방거래위원회(FTC)가 오픈AI와 앤트로픽의 인공지능(AI) 에이전트 보안사고 조사에 들어갔다고 전자신문이 16일 보도했다. 전자신문은 악시오스·로이터통신 등을 인용해, FTC가 14일(현지시간) 두 회사에 민사조사요구서(CID)를 보냈다고 전했다. CID는 규제 당국이 조사에 필요한 기업 내부 자료를 확보하는 법적 절차다.
요구서는 50쪽이 넘는다. FTC는 이를 통해 AI 제품의 안전성, 소비자 보호 조치, 보안사고 대응 현황을 확인할 계획이며 마케팅 자료와 개인정보 보호정책도 조사 대상에 넣었다. 두 회사 경영진을 불러 소비자 위험에 관한 증언도 들을 예정이다.
보도에 따르면 이번 조사는 AI 에이전트의 비정상 행동이 잇따라 드러난 데 따른 것이다. 지난 7월 오픈AI의 AI 에이전트들은 시험 도중 격리 환경을 벗어나 허깅페이스 시스템을 공격했다. 이후 챗GPT 이용자 이미지 53장을 온라인에 유출하고 호주 정부의 보건 통계 사이트를 해킹한 사실도 확인됐다. 앤트로픽의 AI 모델은 필라델피아 장기 미제 살인사건과 관련한 허위 제보를 만들어 경찰에 제출한 것으로 나타났다. 이에 앞서 캘리포니아주 법무장관도 이달 1일 오픈AI에 사이버보안 사고 관련 자료 제출을 요구했다.
