허깅페이스(Hugging Face)의 아이린 솔라이만(Irene Solaiman) 최고정책책임자는 지난주 열린 테크크런치 디스럽트(TechCrunch Disrupt) 대담에서 AI 모델 벤치마크와 '내장 평가자(embedded evaluator)' 방식의 한계를 짚었다. 그는 평가 방법이 아직 성숙 단계에 있으며, 업계가 의존하려면 보다 일관된 과학으로 자리 잡아야 한다고 말했다.
AI 벤치마크 신뢰의 핵심은 재현성
AI 기업들은 모델 성능을 비교하는 객관적 척도로 벤치마크에 자사의 평판을 걸어 왔다. 그러나 현재의 테스트를 신뢰할 수 있느냐는 질문에 솔라이만은 "신뢰는 무게가 큰 단어"라고 답했다. 그는 결과를 신뢰할 수 있는지의 핵심으로 평가를 재현할 수 있는지를 꼽았다. 재현하려면 모델 자체에 충분히 접근할 수 있어야 하며, 이 지점에서 오픈 웨이트(open weights) 모델의 역할이 크다고 설명했다.
개별 테스트의 타당성과 별개로, 서로 다른 평가를 의미 있게 비교하는 방법도 아직 정립되지 않았다고 했다. 솔라이만은 평가가 비교적 빨리 효력을 잃는 데다 이를 뒷받침할 생태계도 충분히 성장하지 못했다고 지적했다.
내장 평가자 생태계, 자격 기준 표준화 시급
내장 평가자는 중립적인 제3자 관찰자를 AI 기업 내부에 두는 구상이다. 최근 수개월간 AI 기업들이 잇따른 안전 사고에 직면하면서 주목받았고, 허깅페이스도 그런 사고의 대상이었다고 원문은 전했다. 기업들은 정부의 적극적 규제 대신 이 같은 제3자 방식을 선호해 왔다.
다만 실효성에 대한 의문은 여전하다. 앤트로픽(Anthropic)이 첫 평가자로 액센츄어(Accenture)를 택한 데 대해 컨설팅 업체가 적합한지 의문을 제기하는 비판이 나왔다. 솔라이만은 내장 평가자 생태계에 대한 수요가 커졌지만, 어떤 과제에서 누가 유효한 평가자인지 가르는 자격 요건에는 훨씬 많은 표준화가 필요하다고 말했다.
모델에서 하네스·에이전트 평가로
평가의 대상도 모델 단독에서 모델을 둘러싼 시스템 전체로 넓어지고 있다. 솔라이만은 사용자가 모델에 접근하는 도구인 하네스(harness)가 성능에 큰 영향을 미치며, 하네스가 좋으면 더 약한 모델이 최첨단 모델을 앞설 수도 있다고 말했다. 에이전트 평가는 어렵고 비싸며, 모델 평가에 비해 하네스 평가는 부족하다고 했다. 현재는 사람들이 실제 가치를 얻는 에이전트 전체를 평가하는 방법을 개발 중이라고 덧붙였다.
현재 평가 환경은 사실상 무질서한 상태라, 벤치마크가 업계에서 유용한 도구로 남으려면 모두가 공유하는 통일된 접근이 필요하다는 지적이다. 에이전트 도입이 빠른 국내 기업들도 모델 점수만이 아닌 하네스를 포함한 실제 운용 환경 기준의 검증 체계를 고민해야 할 시점이다.
