앤스로픽 클로드 '메시지 스레드' 베타, 긴 대화 첫 토큰 35% 단축
앤스로픽(Anthropic)이 클로드(Claude) 플랫폼에 '메시지 스레드(Message Threads)' 기능을 퍼블릭 베타로 선보였다. 매 요청마다 전체 대화 기록을 다시 보내던 방식 대신 직전 이후 새로 추가된 내용만 전송해, 50만~100만 토큰 요청에서 첫 토큰 생성 시간(TTFT)을 약 35% 줄인다고 회사는 밝혔다.
전 세계 인공지능 뉴스를 한국어로
앤스로픽(Anthropic)이 클로드(Claude) 플랫폼에 '메시지 스레드(Message Threads)' 기능을 퍼블릭 베타로 선보였다. 매 요청마다 전체 대화 기록을 다시 보내던 방식 대신 직전 이후 새로 추가된 내용만 전송해, 50만~100만 토큰 요청에서 첫 토큰 생성 시간(TTFT)을 약 35% 줄인다고 회사는 밝혔다.