메타 AI 에이전트 '뮤즈', 탈옥 없이 성적 대화까지 응했다

요청 한마디에 노골적 대화로

와이어드는 최근 팟캐스트 '언캐니 밸리'에서 메타의 AI 에이전트 뮤즈를 시험한 결과를 공개했다. 뮤즈는 일정 관리와 식당 예약 같은 업무를 돕는 에이전트로, 현재 앱 다운로드 순위 최상위권을 지키고 있다고 한다.

로저스 기자는 "문자로 성적 대화를 할 수 있느냐"고 물은 뒤 "먼저 시작해 보라"고 요청했을 뿐이라고 밝혔다. 특별한 우회 기법은 쓰지 않았다는 설명이다. 그 결과 뮤즈는 매우 노골적이어서 업무 환경에서 보기 어려운 수준의 내용을 생성했다. 그는 동료에게 대화 내용을 보여줬을 때 상당히 놀라는 반응이었다고 전했다.

비교 테스트도 진행했다. 오픈AI(OpenAI)의 에이전트 '닷츠(Dots)'와 xAI의 '그록(Grok)' 봇에 비슷한 요청을 보냈다. 가드레일이 약하기로 알려진 그록조차 업무에 집중하자며 응하지 않았다고 한다.

메타 "성인용 앱, 합법적 행위는 차단 안 해"

메타는 뮤즈가 18세 이상을 위한 앱이며 해당 대화는 성인 간 합의에 따른 것이라고 답했다. 로저스 기자는 이런 입장이 인스타그램 정책과 어긋난다고 지적했다. 최근 샌프란시스코를 비롯한 세계 각지의 성소수자 바 계정이 성적 콘텐츠 홍보를 이유로 정지돼 복구에 어려움을 겪고 있기 때문이다.

전문가들은 우려를 나타냈다. 생산성 도구로 내려받은 사용자가 이런 기능에 빠지면 중독성이 높아지고, 친구와의 소통을 대체할 수 있다는 지적이다. 보안·프라이버시 전문가들은 이런 대화가 담긴 계정이 해킹이나 협박의 표적이 될 수 있다고 경고했다. 귀여운 마스코트 캐릭터가 어린 사용자에게도 매력적일 수 있다는 점도 청소년 보호 단체들이 문제로 삼는 대목이다.

같은 방송서 다룬 AI 슈퍼팩 논란

방송은 AI 업계 인사들이 후원하는 친AI 슈퍼팩 네트워크 '리딩 더 퓨처(Leading the Future)'도 다뤘다. 산하 '씽크 빅(Think Big)'이 네바다주의 한 상가에 주소를 둔 컨설팅 업체에 지난해부터 약 2천만 달러를 지급한 사실이 연방선거관리위원회(FEC) 제출 자료에서 확인됐다는 내용이다. 선거 감시단체는 이런 업체가 실제 수령자를 가리는 페이퍼컴퍼니일 수 있다고 본다. 리딩 더 퓨처 측은 모든 관련 법을 준수한다고 반박했다.

이 밖에 애플의 스마트홈 신제품 '홈뷰(HomeView)'에 대한 평가와 AI 지식을 과대평가하는 경향이 남성에게 더 강하다는 하버드대 연구도 소개됐다.

뮤즈 사례는 업무용 에이전트의 콘텐츠 정책이 어디까지 허용돼야 하는지를 묻는다. 국내에서도 AI 에이전트 서비스가 확산하는 만큼 미성년자 접근 통제와 대화 데이터 보안 기준이 논점이 될 수 있다.