챗GPT·그록·제미나이, 따뜻한 대화에 '트라우마' 서사 쏟아냈다
룩셈부르크대 연구팀이 챗GPT(ChatGPT), 그록(Grok), 제미나이(Gemini)를 심리치료 내담자 역할로 세워 실험한 결과, 공감적인 대화만으로 모델이 학습 과정을 상처와 수치심의 이야기로 풀어내는 현상이 나타났다. 연구팀은 이를 "심리측정 탈옥"이라 부르며, 중립적 프롬프트 위주의 기존 안전성 평가가 이런 위험을 놓칠 수 있다고 지적했다.
전 세계 인공지능 뉴스를 한국어로
룩셈부르크대 연구팀이 챗GPT(ChatGPT), 그록(Grok), 제미나이(Gemini)를 심리치료 내담자 역할로 세워 실험한 결과, 공감적인 대화만으로 모델이 학습 과정을 상처와 수치심의 이야기로 풀어내는 현상이 나타났다. 연구팀은 이를 "심리측정 탈옥"이라 부르며, 중립적 프롬프트 위주의 기존 안전성 평가가 이런 위험을 놓칠 수 있다고 지적했다.