Mistral Large 4, 미스트랄 1조 매개변수 공개 가중치 모델…보안·코딩에 강점
Hugging Face는 공식 블로그에서 미스트랄(Mistral)의 새 모델 'Mistral Large 4'(별칭 Le Chonk)를 소개했다. 텍스트와 이미지를 입력받아 텍스트를 생성하는 멀티모달·다국어 전문가 혼합(MoE) 모델이다. 전체 매개변수는 약 1조 개, 실제 연산에 쓰이는 활성 매개변수는 490억 개이며, 최대 100만 토큰의 컨텍스트를 처리한다.
모델 가중치는 공개됐다. 라이선스는 'Mistral Ecosystem Open-Weight License'로, MIT 라이선스를 바탕으로 하되 모델을 서비스 형태로 제공하는 데에는 제한을 둔다. 미스트랄은 이 모델을 주로 방어적 보안 작업용으로 내세운다. 오픈소스 소프트웨어의 실제 취약점을 재현한 뒤 패치하는 Artificial Analysis Cyber Index 테스트에서 82%를 기록했다. 코딩 에이전트 벤치마크인 DeepSWE v1.1에서는 61.7%를 얻었다. 10월 29일 기준으로 Artificial Analysis Intelligence 지수에서 공개 가중치 모델 가운데 5위에 올라 있다.
출시 당일부터 transformers, vLLM, llama.cpp에서 쓸 수 있고, GGUF 양자화 버전도 함께 나왔다. 2비트 양자화 버전은 512GB 통합 메모리를 갖춘 애플 실리콘 Ultra 컴퓨터 한 대에서 실행된다. 나머지 버전은 여러 장비에 나눠 돌리는 분산 추론이 필요하다.
