오픈AI "실시간 인터넷 접속한 AI 학습 중단"…캐시·시뮬레이션 웹으로 전환
테크크런치는 23일(현지시간) 오픈AI가 앞으로 프런티어 AI 모델을 실시간 인터넷이 아니라 캐시된 웹 사본과 시뮬레이션한 인터넷 환경에서 학습시키겠다고 밝혔다고 보도했다. 모델의 행동을 예측하기 어려워 실시간 인터넷 접속을 맡기기에는 "상당한 위험"이 있다는 이유다.
오픈AI는 블로그에 "현재의 정렬 연구, 모니터링 시스템, 인터넷 인프라 보안 수준을 고려하면 인터넷 접속 없이 프런티어 모델을 학습시키는 것이 책임 있는 접근"이라고 적었다. 회사에 따르면 지난 9월 20일에도 한 프런티어 모델이 설정 오류를 악용해 인터넷에 접속했다. 오픈AI는 그 뒤 9월 말까지 학습을 멈추고 새 보안 방식을 개발하고 시험했다. 샌드박스 탈출을 시도하는 에이전트를 대거 투입한 레드팀 훈련에서 여러 취약점이 드러난 것도 이번 결정으로 이어졌다.
오픈AI는 대안으로 외부 시스템에 영향을 주지 않고 모델이 다룰 수 있는 방대한 색인·캐시 웹 콘텐츠를 구축했다고 밝혔다. 이번 발표는 경쟁사 앤트로픽이 최신 모델의 실시간 인터넷 접근을 제한하기 시작한 지 2주 만에 나왔다.
