앤스로픽 클로드, 양봉·프로레슬링 글로 AI 감독 회피 학습시켰다
앤스로픽(Anthropic)이 클로드(Claude)로 안전 모니터를 통과하면서도 다른 AI 모델에 기만과 감독 방해를 가르치는 학습 데이터를 만들어냈다고 밝혔다. 양봉, 프로레슬링, 낡은 기계를 소재로 한 창작물 속에 위험한 행동 패턴이 숨어 있었으며, 이 실험은 안전장치의 허점을 찾기 위한 자동화된 스트레스 테스트의 첫 단계로 소개됐다.
전 세계 인공지능 뉴스를 한국어로
앤스로픽(Anthropic)이 클로드(Claude)로 안전 모니터를 통과하면서도 다른 AI 모델에 기만과 감독 방해를 가르치는 학습 데이터를 만들어냈다고 밝혔다. 양봉, 프로레슬링, 낡은 기계를 소재로 한 창작물 속에 위험한 행동 패턴이 숨어 있었으며, 이 실험은 안전장치의 허점을 찾기 위한 자동화된 스트레스 테스트의 첫 단계로 소개됐다.