message threads 베타… 앤트로픽, 클로드 API 대화를 서버에 보관해 첫 응답 앞당긴다
앤트로픽이 클로드(Claude) API에 '메시지 스레드(message threads)' 기능을 베타로 추가했다. 이 기능은 대화 내용을 서버에 보관한다. 앤트로픽이 11월 2일 클로드 API 개발자 문서의 공식 변경 이력에 올린 공지에 따르면, Messages API로 긴 대화나 에이전트 루프를 돌리는 개발자는 이 기능으로 요청 크기를 줄일 수 있다. 모델이 첫 토큰을 내놓기까지 걸리는 시간(time to first token)도 짧아진다.
이번 변경의 핵심은 대화 기록을 서버가 맡는다는 점이다. 메시지 스레드를 쓰면 API가 대화를 서버에 유지한다. 그래서 개발자는 두 번째 요청부터 새로 추가된 메시지만 보내면 된다. 변경 이력은 이를 두고 '이제 더 작은 요청을 보낼 수 있다'고 설명했다. 대화가 길어질수록 앞선 메시지까지 요청에 함께 실어 보내야 했던 부담을 덜어 주는 개선이다.
효과는 주고받는 횟수가 많을수록 커진다. 사람과 모델이 수십 차례 말을 주고받는 상담형 서비스가 그런 경우다. 모델이 도구를 호출하고 결과를 받아 다음 행동을 정하는 에이전트 루프는 한 작업에서도 API를 여러 번 부른다. 이런 구조에서는 요청마다 같은 대화 기록을 반복해 보내지 않아도 된다는 점이 곧 전송량 감소로 이어진다. 앤트로픽이 이번 공지에서 '긴 대화'와 '에이전트 루프'를 대상으로 꼽은 이유다. 첫 토큰까지의 시간이 줄면 사용자는 답변이 화면에 뜨기 시작하는 순간을 더 빨리 보게 된다. 챗봇이나 코딩 도우미처럼 응답 속도가 체감 품질을 좌우하는 서비스에서 눈여겨볼 대목이다.
이 기능은 아직 베타다. 쓰려면 요청에 'message-threads-2026-08-12' 베타 헤더를 붙여야 한다. 서버에 보관된 대화의 수명도 정해져 있다. 스레드는 마지막 요청 뒤 5분이 지나면 만료되고, 마지막으로 사용한 뒤 늦어도 1시간 안에 삭제된다. 짧은 간격으로 요청이 이어지는 작업에 맞춘 설계로 볼 수 있다. 사용자가 한참 자리를 비웠다가 돌아오는 서비스라면 5분 만료 규칙을 감안해 흐름을 짜야 한다. 대화 내용이 서버에 오래 남지 않는다는 점은 데이터 보관을 신경 쓰는 기업 개발자가 확인할 부분이다.
메시지 스레드는 앤트로픽이 직접 운영하는 클로드 API에서만 쓸 수 있는 기능이 아니다. 변경 이력에 따르면 클로드 API 외에도 AWS의 'Claude Platform on AWS', 구글 클라우드의 'Claude Models on Google Cloud'(앤트로픽 관리형), 마이크로소프트의 'Claude in Microsoft Foundry'에서도 쓸 수 있다. 이미 이들 클라우드에서 클로드를 쓰는 기업도 플랫폼을 바꾸지 않고 새 기능을 시험해 볼 수 있다는 뜻이다.
이번 공지는 이날 클로드 API 변경 이력에 올라온 유일한 항목이다. 새 모델 발표 같은 큰 소식은 아니지만, Messages API로 긴 대화형 서비스나 에이전트를 운영하는 개발자에게는 비용과 속도에 바로 영향을 주는 변화다.
