"토큰 생성 없이 정보 추출"…AI 전문모델 잇단 공개, OpenAI는 고령층 교육 나서
AI 업계에서 대형언어모델(LLM) 대신 특정 작업에 특화된 경량 모델을 내세우는 흐름이 잇따르고 있다. 마크테크포스트(MarkTechPost)는 지난 9월 16일 놀리지에이터 엔지니어링(Knowledgator Engineering)의 정보 추출 모델 'GLiFormer' 공개를, 9월 15일에는 프라이어 랩스(Prior Labs)의 표 형식 데이터 기반 모델 'TabPFN-3.5' 출시를 각각 보도했다. 같은 기간 OpenAI는 자사 뉴스룸을 통해 미국은퇴자협회(AARP)와 함께 고령층 대상 챗GPT 교육 프로그램을 운영한다고 밝혔다.
마크테크포스트에 따르면 GLiFormer는 개체명 인식(NER), 텍스트 분류, 관계 추출, 중첩 JSON 구조화, 텍스트 임베딩을 모델 하나로 처리하는 스키마 조건부 인코더다. 허깅페이스에 공개된 체크포인트는 베이스 2억6420만 파라미터, 라지 5억7560만 파라미터 두 종이며 모두 아파치 2.0 라이선스로 CPU·GPU에서 구동된다. 기존 LLM이 필드명과 구두점, 값을 토큰 단위로 생성하는 것과 달리 GLiFormer는 출력 생성 단계를 제거하고, 값을 원문의 구간(span)에서 선택하는 방식이라 입력에 없는 값을 지어낼 수 없다는 것이 특징이다. 다만 구간 선택이나 레코드 배치, 계층 구조는 틀릴 수 있다고 매체는 전했다.
성능 수치는 모두 놀리지에이터가 제시한 것으로, NER·분류 통합 지표에서 라지 모델이 파라미터가 약 14배 많은 젬마-4-E4B를 앞섰다고 보고됐다. 베이스 모델의 구조화 작업 지연시간은 RTX PRO 6000 블랙웰 GPU(FP16)에서 중간값 69밀리초, 8스레드 AMD EPYC 9B45 CPU(FP32)에서 547밀리초로 측정됐다. '최대 95.8배 빠르다'는 핵심 주장은 실제 LLM 실행 측정치가 아니라 입력 초당 2000토큰·출력 초당 60토큰을 가정한 분석적 추정치라고 매체는 짚었다.
TabPFN-3.5는 데이터셋별 학습이나 튜닝 없이 한 번의 순전파로 표 데이터를 예측한다. 마크테크포스트는 이 모델이 2015년 캐글 '오토 그룹 상품 분류 챌린지'의 우승 기록을 넘어섰다고 전했다. 당시 3505개 팀이 상금 1만 달러를 두고 겨뤘고, 우승작은 수작업 특징을 바탕으로 36개 모델을 쌓아 올린 스태킹 구조로 로그 손실 0.382를 기록했다. TabPFN-3.5는 원본 데이터에 기본 설정만으로 0.375를 기록했으며, 소요 시간은 RTX PRO 6000 GPU에서 약 1분이었다. 이 모델은 합성 데이터만으로 사전학습돼 캐글 데이터셋을 본 적이 없다. 기술 보고서는 TabArena, BeyondArena, STRABLE, MulTaBench 등 7개 벤치마크 1위를 제시했고, 51개 데이터셋 기반 TabArena에서 베이스 모델은 1866 Elo로 AutoGluon 1.6 익스트림을 130 Elo 앞섰다. 다만 대규모 학습 데이터에서는 이전 버전보다 최대 2배 느리다. 가중치는 공개되지만 상용 이용에는 API나 별도 라이선스가 필요하다.
OpenAI는 AARP와 함께 미국 10개 도시에서 고령층 1000명을 대상으로 무료 실습형 챗GPT 워크숍을 열어 안전한 AI 활용 능력을 기르도록 지원한다고 발표했다.
본지 종합하면 세 소식의 방점은 서로 다르다. 마크테크포스트의 두 기사는 공통적으로 '거대 모델 없이도 되는 일'을 부각하지만, GLiFormer 보도는 제조사가 내건 속도 주장이 실측이 아닌 추정임을 명시하며 수치의 출처를 구분하는 데 지면을 할애했고, TabPFN-3.5 보도는 인간 그랜드마스터 우승 기록과의 직접 비교라는 서사에 무게를 실었다. 반면 OpenAI의 발표는 모델 성능이 아니라 이용자 저변을 향한다. 성능 경쟁의 축이 파라미터 규모에서 작업 적합성과 검증 가능성으로, 그리고 다시 활용층 확대로 갈라지고 있음을 세 사례를 나란히 놓으면 읽을 수 있다.