OpenAI, 프런티어 모델 훈련 환경 보안 강화…오프라인 격리·고연산 레드티밍 도입
OpenAI는 공식 블로그 'OpenAI News'에 프런티어 모델 훈련 환경의 보안을 어떻게 강화했는지 설명하는 글을 올렸다. 글의 제목은 'Securing our frontier model training environment(프런티어 모델 훈련 환경 보호)'다. 회사는 최첨단 모델을 훈련하고 평가하는 과정 전반에서 격리(containment) 조치를 강화했다고 밝혔다.
OpenAI가 소개한 조치는 크게 두 가지다. 하나는 오프라인 환경이다. 모델 훈련과 평가를 외부와 분리된 환경에서 진행하는 방식이다. 다른 하나는 대규모 연산 자원을 투입한 레드티밍이다. 레드티밍은 공격자 입장에서 시스템의 약점을 찾아내는 보안 점검 방식이다. OpenAI는 이 점검에 많은 컴퓨팅 자원을 들였다고 설명했다.
이번 글은 모델의 성능보다 모델을 만들고 시험하는 환경을 지키는 데 초점을 맞췄다. OpenAI는 훈련 단계뿐 아니라 평가 단계도 격리 대상에 넣었다고 밝혔다.
