칭화대 연구진 "AGI 스케일링, 덮어놓고 키우지 말고 '쓸모 있는 연산'에 집중해야"
중국 칭화대학교(Tsinghua University) 연구진이 인공일반지능(AGI)으로 가는 길을 새로 제안했다. 모델을 무조건 키우기보다, 가벼운 예측기가 "실행할 가치가 있는 일"을 먼저 골라 주는 구조로 연산을 크게 줄일 수 있다는 것이다. Qi Wang 등 연구자 13명은 사전공개 논문 저장소 arXiv에 「Does Scaling Toward AGI Depend on What System-1 Lets System-2 Execute?」(AGI를 향한 스케일링은 시스템-1이 시스템-2에 무엇을 실행하게 하느냐에 달려 있는가?)라는 논문을 공개했다. 이 논문은 연구자 커뮤니티 플랫폼 허깅페이스의 일일 논문 목록에서 추천 29회를 받았다.
논문의 출발점은 지금까지의 AI 발전 방식이다. 저자들은 AGI를 향한 진전이 주로 비용이 많이 드는 실행 주체, 곧 '시스템-2'를 키우는 데 기대 왔다고 짚는다. 모델을 더 크게 만들고, 데이터와 연산을 늘리고, 추론을 더 길게 하고, 에이전트를 더 많이 투입하는 식이다. 연구진은 다음 단계의 발전이 이런 규모 확대가 아니라 '시스템-1'과 함께 설계하는 데서 나올 수 있는지를 따졌다. 시스템-1은 의미를 이해하는 가벼운 예측기로, 실제로 실행하기 전에 후보 작업을 평가한다. 시스템-2는 그중 비용을 들일 만한 것만 처리한다. 연구진이 내놓은 답은 "조건부로 그렇다"이다.
연구진은 이 구조를 '조건부 상호작용(conditional interaction)'이라고 부른다. 예측, 선별(게이트), 실행, 갱신의 4단계가 고리처럼 돈다. 먼저 시스템-1이 후보마다 효용을 추정한다. 이어 상황에 따라 바뀌는 문턱값을 넘은 후보만 시스템-2가 실행한다. 실행 결과는 다시 시스템-1을 갱신하는 데 쓰인다. 저자들은 이 고리를 모델 훈련, 테스트 시점 추론, 적응형 의사결정, 에이전트의 도구 사용까지 폭넓게 적용할 수 있다고 설명한다. 무엇을 효용과 비용으로 볼지는 응용 분야마다 정한다.
이론적 결과도 제시했다. 선별이 완벽하고 모든 실행 비용이 같다면, 실행에 드는 연산은 최대 '1/ρ_u'배까지 줄어든다. ρ_u는 전체 후보 가운데 실제로 효용과 관련된 상호작용이 차지하는 밀도다. 예를 들어 후보 10개 중 1개만 의미가 있다면 이론상 실행 연산을 10분의 1 가까이로 줄일 수 있다. 실행 비용이 서로 다르면 비용 가중치를 반영해 밀도를 계산한다. 다만 저자들은 현실에서는 예측 오류, 탐색 비용, 데이터 분포 변화 때문에 절감 폭이 이보다 작아진다고 밝혔다. 잘못 고를 때 생기는 손실, 곧 '선택 후회(selection regret)'의 상한도 구했다. 이 상한은 예측기의 오류 크기와 효용 격차로 정해진다.
이 결과를 바탕으로 연구진은 핵심 가설을 내놓았다. ρ_u는 측정할 수 있는 값이며, 스케일링 효율을 나타내는 하나의 좌표가 된다는 것이다. 따라서 스케일링을 설명할 때 투입한 연산 전체보다 실제로 쓸모 있는 결과로 이어진 '정보성 있는 연산(informative compute)'이 더 적절한 기준이라고 주장한다.
이 주장이 맞다면 AI 성능 경쟁의 기준도 달라진다. 지금까지는 연산을 얼마나 쏟았는지가 중요했다면, 앞으로는 무엇에 연산을 쓰지 않을지 고르는 능력이 효율을 좌우하는 변수가 된다. 추론을 길게 하고 여러 에이전트와 도구를 함께 쓰는 최근 AI 시스템일수록 실행 후보가 많아진다. 그만큼 그중 무엇을 걸러낼지가 비용에 주는 영향도 커진다.
이 논문은 저자가 공개한 초록을 바탕으로 정리한 것이며, 동료평가를 거치지 않은 사전공개 논문이다. 논문 번호는 arXiv:2610.39497이다.
