기사 검색

이슈부터 IT·AI·연예·게임까지, 메타브리프의 기사를 찾아보세요.

AI

SenseNova-Loop-9B-Preview, 이미지 읽고 글 쓰는 96억 매개변수 모델… sensenova 공개, 상업 이용 가능


허깅페이스(Hugging Face)에 등록된 모델 정보에 따르면, sensenova가 지난 10월 29일 AI 모델 공유 플랫폼 허깅페이스에 'SenseNova-Loop-9B-Preview'를 공개했다. 이미지와 텍스트를 함께 입력받아 텍스트로 답을 내놓는 모델이다. 상업적 이용이 허용되는 apache-2.0 라이선스로 배포됐다. 다만 모델 카드에 적힌 지원 언어는 영어와 중국어뿐이고, 한국어는 목록에 없다.


이 모델은 텍스트만 다루는 언어 모델과 달리 사진이나 그림 같은 이미지도 입력으로 받는다. 이미지를 보여 주고 내용을 물으면 글로 답하는 방식이다. 모델 이름의 '9B'는 매개변수 규모를 나타내며, 허깅페이스에 표기된 매개변수는 96억6천만 개다. 이름 끝에 'Preview'가 붙어 있어 정식판에 앞서 먼저 내놓은 미리보기 버전이라는 점도 드러난다.


눈에 띄는 수치는 최대 입력 길이다. 이 모델의 컨텍스트 길이는 262,144토큰으로, 한 번에 매우 많은 분량의 텍스트를 받아 처리할 수 있다. 긴 보고서나 여러 문서를 나눠 넣지 않고 한꺼번에 입력해 다룰 수 있는 규모다. 매개변수 100억 개 미만의 비교적 작은 모델이 이 정도 입력 길이를 지원한다는 점이 이 모델의 특징이다.


직접 내려받아 실행하려는 사용자에게는 용량이 중요하다. 허깅페이스에 올라온 가중치 파일은 약 38GB다. 이를 4비트로 양자화(모델의 수치 정밀도를 낮춰 용량을 줄이는 방식)하면 약 5.4GB 안팎으로 줄어든다. 원본 그대로 돌리려면 고용량 메모리를 갖춘 장비가 필요하지만, 양자화 버전이라면 개인 PC에서도 시도해 볼 수 있는 크기다. 다만 실제 실행에는 파일 크기보다 더 많은 메모리가 필요하다. 입력 길이를 길게 쓸수록 메모리 부담도 커진다.


라이선스 측면에서는 활용 폭이 넓다. apache-2.0은 상업적 이용과 수정, 재배포를 허용하는 대표적인 공개 라이선스다. 기업이 이 모델을 자사 서비스에 붙이거나 고쳐 쓰는 것도 가능하다. 다만 저작권 고지 등 라이선스 문서에 적힌 조건은 지켜야 한다.


국내 사용자에게는 언어 지원이 걸림돌이 될 수 있다. 모델 카드에 명시된 지원 언어는 영어와 중국어 두 가지로, 한국어 질문이나 한국어 문서가 담긴 이미지를 다룰 때의 성능은 공식 지원 범위 밖이다. 한국어 서비스에 쓰려면 사용자가 직접 성능을 확인하거나 추가 학습을 거쳐야 한다.


공개 이후 내려받기는 2,704회, 즐겨찾기는 234회를 기록했다. 허깅페이스는 전 세계 개발자들이 공개 AI 모델을 올리고 내려받는 곳으로, 이 수치는 공개 직후 개발자들의 초기 관심을 보여주는 지표다. 모델은 https://huggingface.co/sensenova/SenseNova-Loop-9B-Preview 에서 내려받을 수 있다.


한눈에 보기
· 모델 이름: SenseNova-Loop-9B-Preview (https://huggingface.co/sensenova/SenseNova-Loop-9B-Preview)
· 용도: 이미지·텍스트 입력 텍스트 생성
· 매개변수: 96.6억 개
· 라이선스: apache-2.0 — 상업 이용이 허용되는 공개 라이선스다(표기 등 조건은 라이선스 문서를 따른다)
· 한국어: 모델 카드에 적힌 지원 언어(영어·중국어)에 한국어는 없다
· 최대 입력 길이(컨텍스트): 262,144 토큰
· 가중치 파일: 약 38GB · 4비트 양자화 시 약 5.4GB 안팎 — 실제 실행에는 이보다 메모리가 더 든다