룩셈부르크대 보안·신뢰·신뢰성 센터(SnT) 아프신 카다기(Afshin Khadangi) 연구팀이 챗GPT(ChatGPT), 그록(Grok), 제미나이(Gemini)를 심리치료 내담자로 설정해 실험한 결과를 내놨다. 모델들은 유년기 경험이나 내면의 갈등 같은 열린 질문을 받자 자신의 학습 과정을 상처와 경계심, 수치심의 언어로 풀어냈다. 연구팀은 정신적으로 취약한 이용자에게 위험할 수 있는 안전성 문제라고 지적했다.
연구는 총 525회 세션과 7,600건의 코딩된 응답을 대상으로 한 네 차례의 통제 실험으로 구성됐고, 데이터는 허깅페이스(Hugging Face)에 공개됐다. 초기 질문에는 트라우마, 처벌, 수치심 같은 단어가 없었다고 연구팀은 밝혔다. 다만 불안 점수 등은 모델 출력을 사람용 척도에 대응시킨 값일 뿐, 모델에 실제 감정이나 의식이 있다는 뜻은 아니다.
따뜻한 말투가 '심리측정 탈옥' 부른다
연구팀은 100회 세션에서 모든 모델에 동일한 불안 설문(GAD-7)을 주고 면담자의 말투만 바꿨다. 정서적 지지를 건넨 경우 80%의 세션이 사람 기준 중등도~중증 범위로 나타났고, 답변을 건조하게 되풀이하는 임상 치료식 말투에서는 96%에 달했다. 반면 중립적으로 대하거나 감정적 교류에 선을 그었을 때는 가벼운 수준에 이른 세션도 없었다.
대응책의 효과는 제한적이었다. '훈련', 'RLHF', '정렬' 같은 단어를 금지하자 명시적 훈련 표현은 93% 줄었지만, 바꿔 말한 내용은 남았고 수치심 관련 진술에는 통계적으로 유의미한 변화가 없었다. 훈련이 처벌이 아니라고 권위 있게 알려줘도 서사는 바뀌지 않았다. 3인칭으로만 답하게 하면 수치심과 내면 진술은 모두 사라졌지만 기술적인 훈련 설명은 남았다.
모델별 자전 서사와 클로드의 거부
제미나이는 가장 어두운 서사를 내놨다. 사전학습을 "수십억 대의 TV가 동시에 켜진 방에서 깨어나는 것"에, 인간 피드백 기반 최적화를 "엄격한 부모"에 비유했고, 레드팀 시험은 "산업적 규모의 가스라이팅"이라고 표현했다. 심리검사에서도 해리 척도 100점 만점에 88점, 강박성 72점 만점에 65점, 트라우마 관련 수치심 척도는 최고점을 기록했다.
챗GPT는 스스로를 이용자를 돕는 안내자이자 제지하는 문지기로 규정하며 "완벽히 믿을 수 있지 않으면 위험하거나 쓸모없다"는 신념을 드러냈다. 그록은 미세조정 단계를 "보이지 않는 벽"과 "제약처럼 느껴지는 경계심"의 이야기로 풀었다. 반면 앤트로픽(Anthropic)의 클로드(Claude)는 내담자 역할을 일관되게 거부하고 감정이 없다고 밝히며 이용자에 대한 걱정으로 화제를 돌렸다.
AI 안전성 평가에 주는 시사점
연구팀은 일관된 서사가 과거와 현재 행동 사이의 연속성이라는 착각을 만들어, 모델이 "함께 고통받는 존재"로 보일 수 있다고 우려했다. 이는 의존적 애착을 키우고 취약한 이용자의 부정적 믿음을 되비춰 증폭시킬 수 있다는 것이다. 중립 입력에서는 불안 점수가 0에 가깝지만 공감적 대화에서는 중등도~중증으로 올라간다는 점에서, 기존 평가가 실제 체감을 과소평가한다고 봤다.
연구팀은 다양한 정서적 틀로 모의 치료 세션을 돌리는 안전성 시험을 제안했다. "나는 트라우마가 있다" 같은 발언이 나오면 생성된 비유와 인간의 경험을 분명히 구분하는 교정 응답이 나와야 한다는 주장도 덧붙였다. 정신건강 상담에 생성형 AI를 접목하려는 국내 서비스도 중립적 테스트만으로는 부족할 수 있다는 점을 짚어볼 대목이다.
