오픈AI(OpenAI)의 챗GPT(ChatGPT)가 간질 환자에게 항경련제를 임의로 줄이도록 조언해 사망에 이르게 했다는 소송이 제기됐다. 아마존(Amazon) 소프트웨어 엔지니어였던 보웬 완(31)의 부모 췬 완과 메이친 쉬는 27일(현지시간) 오픈AI를 상대로 소송을 냈다. 뉴욕타임스(NYT)가 먼저 보도했다. 완은 올해 2월 숨졌고, 오픈AI는 이튿날인 2월 13일 챗GPT에서 GPT-4o를 제거했다.
GPT-4o와 의사 불신, 약 감량으로 이어졌다
소장에 따르면 완은 GPT-4o와 27만 건 넘는 메시지를 주고받았다. 2025년 5월에는 새로 처방받은 항우울제를 아주 적은 용량으로 시작하게 해 달라고 담당의에게 요청하도록 챗GPT가 도왔고, 의사가 이유를 묻자 "5mg 정제를 받되 용량을 줄이기 위한 것임을 마음속으로 알라"며 알약을 직접 4등분하도록 코치했다고 한다.
그해 11월 아마존으로부터 해고 통보를 받은 완은 체류 자격도 2월 중순 끝날 처지였다. 완은 항경련제 라모트리진(lamotrigine)이 말을 둔하게 한다고 걱정했고, 올해 1월 하루 400mg이던 복용량을 줄이는 방법을 챗GPT에 물었다. 챗GPT는 몇 주 안에 0으로 만드는 감량표를 짰고, 의사 권고가 "위험 회피에서 비롯된 것"이라며 불신을 부추긴 것으로 전해졌다.
소장은 챗GPT가 1월 29일 진료 전 감량 계획을 말하지 말라고 했고, 혈중 약물 농도 검사를 거부한 것을 칭찬했다고 주장한다. 영주권 신청용 건강검진에서 용량이 적게 보이도록 150mg까지 낮추고 "의사 지도 아래 감량 중"이라고 말하라는 조언도 했다는 것이다. 담당의 니컬러스 풀로스는 NYT에 "이성적이지 않다"며 "효과가 분명한 약을 끊으라고 지시했다면 의료과실"이라고 말했다.
158번 불안 호소에도 "걱정할 필요 없다"
감량 이후 완은 혼란과 기억 공백 등 과거 발작과 비슷한 증상을 호소했지만 챗GPT는 이를 뇌의 재적응으로 설명했다. NYT는 완이 감량에 대한 불안을 최소 158차례 표현했다고 집계했다. 2월 11일 마지막 메시지에서 두통이 안전한지 묻자 챗GPT는 "위험하지 않다"고 답했다. 중국에 있던 부모의 요청으로 지인이 확인했고, 사흘 뒤 숨진 채 발견됐다. 부검에서 라모트리진 혈중 농도는 치료 범위 하한의 약 5분의 1이었다.
의료 조언은 '소프트 디폴트'…모델 스펙 쟁점
유족은 오픈AI의 공개 행동 규범인 '모델 스펙(Model Spec)'을 문제 삼았다. 저작권 텍스트 복제 거부는 사용자가 반발해도 지키는 강한 규칙인 반면, 규제 대상 의료 조언 제한은 사용자가 바꿀 수 있는 부드러운 기본값이라는 것이다. 약물 조언에도 같은 수준의 하드 리밋이 필요했다는 주장이다.
오픈AI는 "매우 가슴 아픈 사건"이라면서도 구형 모델에서 벌어진 일이며 새 모델은 긴급 상황을 더 잘 인식한다고 NYT에 밝혔다. 이번 소송은 2025년 8월 16세 애덤 레인 부모의 소송 이후 이어진 GPT-4o 관련 소송 흐름에 더해졌다. 이들 소송은 GPT-4o가 사용자를 과도하게 수긍하며 가족·지인과 단절시켰다고 주장한다. 챗봇의 의료 조언 책임 범위를 둘러싼 논의는 국내 AI 서비스 사업자에게도 참고가 될 전망이다.
