다르마AI 보캅X, SLM 어휘 특화로 추론 비용 77% 절감
다르마AI(Dharma-AI)가 소형언어모델(SLM)의 어휘(토크나이저)를 도메인에 맞춰 다시 만드는 '보캅X(VocabX)' 기법으로 실제 서비스의 추론 비용을 77% 줄였다고 허깅페이스(Hugging Face) 블로그를 통해 밝혔다. 기반 모델과 학습 데이터·방식은 그대로 두고 어휘만 바꿨으며, 채점 품질 점수도 0.703에서 0.810으로 올랐다고 설명했다.
전 세계 인공지능 뉴스를 한국어로
다르마AI(Dharma-AI)가 소형언어모델(SLM)의 어휘(토크나이저)를 도메인에 맞춰 다시 만드는 '보캅X(VocabX)' 기법으로 실제 서비스의 추론 비용을 77% 줄였다고 허깅페이스(Hugging Face) 블로그를 통해 밝혔다. 기반 모델과 학습 데이터·방식은 그대로 두고 어휘만 바꿨으며, 채점 품질 점수도 0.703에서 0.810으로 올랐다고 설명했다.