기사 검색

이슈부터 IT·AI·연예·게임까지, 메타브리프의 기사를 찾아보세요.

AI

OpenAI, 프런티어 AI 위험 관리 방식 공개… 학습부터 배포까지 4중 장치


OpenAI는 공식 블로그 'OpenAI News'에 「Managing frontier AI risk: From training to deployment」라는 글을 올렸다. 이 글에서 회사는 최첨단(프런티어) AI 모델의 위험을 학습 단계부터 실제 배포 단계까지 어떻게 관리하는지 설명했다.


OpenAI가 위험 관리 수단으로 꼽은 것은 네 가지다. 첫째는 모델이 의도한 대로 행동하도록 맞추는 '정렬(alignment)'이다. 둘째는 모델을 격리된 환경에서 실행하는 '샌드박싱(sandboxing)'이고, 셋째는 문제가 될 수 있는 동작을 막는 '차단형 안전장치(blocking safeguards)'다. 마지막은 모델이 어떻게 쓰이는지 지켜보는 '모니터링(monitoring)'이다.


OpenAI는 이 장치들이 한 시점에만 쓰이지 않는다고 설명했다. 모델을 학습시킬 때부터 사용자에게 내놓을 때까지 전 과정에 걸쳐 적용한다는 것이다. 이번 글은 특정 모델이나 제품을 발표한 것이 아니다. 프런티어 AI의 위험을 다루는 회사의 관리 체계 전반을 소개하는 내용이다.