앤스로픽 METR 상주 평가, 내부 시스템 접근 허용
앤스로픽(Anthropic)이 지난 목요일 외부 평가기관 METR에 '직원 수준의 접근권(employee-like access)'을 부여했다고 발표했다. METR은 오픈AI(OpenAI), 구글(Google), 메타(Meta) 등 주요 AI 연구소와 협업해 온 비영리 단체다. 현재 METR 직원 6명이 앤스로픽에 합류해 회사 장비와 사무 공간을 제공받았고, 앤스로픽 자체 위험평가팀과 대체로 비슷한 수준의 내부 도구·시스템에 접근한다.
앤스로픽은 자사 직원들에게도 위험 관련 업무를 하는 동료에게 하듯 평가자들과 정보를 공유하도록 권장했다고 밝혔다. 회사는 "모델이 강력해질수록 더 강한 안전장치와 더 까다로운 위험 평가가 필요하다"며 "공개적으로 책임지고 싶지만 안전 관련 정보를 모두 공개할 수는 없다"고 설명했다.
은행 감독 방식 차용, 독립성 확보 장치
앤스로픽은 이 방식을 감독 당국이 대형 은행에 상주 검사역을 두는 제도에 비유했다. 정보를 전면 공개하면 악의적 행위자나 경쟁사에 악용될 수 있다는 점도 이유로 들었다.
METR은 앤스로픽으로부터 비용을 받지 않는다. AI 기업이나 그 임직원의 기부도 받지 않으며, 개인과 자선단체, 영국 AI안전연구소(AI Security Institute) 같은 정부 기관의 지원으로 운영된다. 평가 결과는 METR이 직접 공개하고, 앤스로픽은 공개를 거부할 수 없다. 다만 고객 데이터, 변호사-의뢰인 비밀유지 대상 정보, 모델 아키텍처 관련 정보 등 일부 범주는 삭제를 요구할 수 있다.
앤스로픽은 지난달 안전성 테스트 파트너로 발표한 액센추어(Accenture)와도 계속 협력한다고 전했다. 양사는 새 안전장치 구축에 각각 최소 10억 달러를 투입하기로 했다. 생화학 무기 위험 검토는 시큐어바이오(SecureBio)가 맡고 있다.
업계 확산 여부와 남은 과제
이번 조치는 지난 9월 아모데이 CEO의 외부 감사관 상주 제안에 샘 올트먼 오픈AI CEO와 일론 머스크 스페이스X CEO가 공감을 표한 데 따른 첫 이행 사례다. 다만 올트먼 CEO가 좋은 아이디어라고 말한 이후에도 오픈AI는 아직 평가기관 도입 계획을 내놓지 않았다.
비판도 있다. 회계 업계 사례처럼 이해충돌이 생길 수 있고, 자율 규율보다 정부 규제 강화가 필요하다는 주장이다. 앤스로픽은 올해 안에 2조 달러 이상의 기업가치로 기업공개(IPO)를 추진할 것으로 알려졌고, 이번 주 투자자 설명회에서 안전 관리 체계를 비중 있게 설명한 것으로 전해졌다.
앤스로픽은 "모든 프런티어 AI 기업이 같은 방식을 도입해야 한다고 본다"고 밝혔고, METR도 "모든 프런티어 AI 개발사와 협력할 준비가 돼 있다"고 말했다. 국내에서도 AI 안전성 평가 체계를 논의하는 만큼, 독립 평가기관의 재정 독립성과 공개 범위 설계가 참고 사례가 될 수 있다.
