기사 검색

이슈부터 IT·AI·연예·게임까지, 메타브리프의 기사를 찾아보세요.

AI

MiniMax-M3.1-Flash 공개… 미니맥스, 이미지·텍스트 이해에 100만 토큰 입력


미니맥스(MiniMax)가 10월 17일 이미지와 텍스트를 함께 이해하는 AI 모델 ‘MiniMax-M3.1-Flash’를 허깅페이스(Hugging Face)에 공개했다. 미니맥스가 허깅페이스 공식 계정에 올린 모델 카드에 따르면 이 모델의 매개변수는 2,205억 개다. 한 번에 받아들일 수 있는 입력 길이(컨텍스트)는 최대 1,048,576토큰이다. 라이선스로는 미니맥스의 자체 라이선스인 ‘minimax-community’를 적용했다.


모델 카드는 이 모델의 용도를 ‘이미지·텍스트 이해’로 밝혔다. 글만 처리하는 언어 모델과 달리 사진이나 도표 같은 이미지와 문장을 함께 입력받아 내용을 해석하는 방식이다. 모델은 허깅페이스의 ‘MiniMaxAI/MiniMax-M3.1-Flash’ 저장소에서 내려받을 수 있다. 미니맥스는 이번에 이 모델 하나만 올렸다.


이번 모델에서 가장 눈에 띄는 수치는 입력 길이다. 최대 1,048,576토큰은 약 100만 토큰에 해당한다. 토큰은 AI가 글을 처리할 때 쓰는 기본 단위다. 입력 한도가 클수록 긴 보고서나 여러 문서를 나눠 넣지 않고 한꺼번에 넣어 질문할 수 있다. 이미지와 텍스트를 함께 다루는 모델이므로 많은 분량의 자료를 한 번의 요청으로 처리하는 작업에 쓸 수 있다.


매개변수 2,205억 개는 공개 모델 가운데서도 큰 편이다. 매개변수는 모델이 학습하면서 조정한 내부 값으로, 수가 많을수록 모델이 크고 돌리는 데 드는 자원도 늘어난다. 모델 카드 기준으로 가중치 파일은 약 224GB다. 가중치를 4비트로 줄이는 양자화를 해도 약 123GB 안팎이 남는다. 양자화는 모델의 숫자 정밀도를 낮춰 용량을 줄이는 기법으로, 큰 모델을 적은 메모리로 돌릴 때 흔히 쓴다. 하지만 실제로 실행하려면 이 파일 크기보다 메모리가 더 필요하다. 그래픽카드 한 장을 단 일반 개인 PC로는 돌리기 버거운 규모여서, 직접 운영하려면 메모리가 넉넉한 서버급 장비를 갖추는 것이 현실적이다.


라이선스도 짚어볼 부분이다. MiniMax-M3.1-Flash는 아파치나 MIT 같은 범용 오픈소스 라이선스가 아니라 미니맥스가 직접 정한 ‘minimax-community’ 라이선스로 배포된다. 상업적으로 쓸 수 있는지와 그 조건은 이 라이선스 문서에 따른다. 기업이 자사 서비스나 제품에 이 모델을 넣으려면 먼저 라이선스 문서의 이용 조건을 확인해야 한다.


이 기사의 모델 정보는 미니맥스가 허깅페이스에 올린 모델 카드를 기준으로 정리했다. 성능 관련 수치는 회사가 발표한 내용이다.


한눈에 보기
· 모델 이름: MiniMax-M3.1-Flash (https://huggingface.co/MiniMaxAI/MiniMax-M3.1-Flash)
· 용도: 이미지·텍스트 이해
· 매개변수: 2,205억 개
· 라이선스: minimax-community — 상업 이용 조건은 이 라이선스 문서에 따른다
· 최대 입력 길이(컨텍스트): 1,048,576 토큰
· 가중치 파일: 약 224GB · 4비트 양자화 시 약 123GB 안팎 — 실제 실행에는 이보다 메모리가 더 든다