40개 주 검찰, 파산 절차에 '관심 통지서'

레티샤 제임스(Letitia James) 뉴욕주 검찰총장을 포함한 미국 40개 주의 초당적 검찰총장 연합이 캐릭터AI의 파산 사건에 관심 통지서를 제출했다. 영업이나 자산의 매각·이전 과정에서 해결해야 할 규제 쟁점이 있음을 모든 이해관계자에게 알리기 위한 조치다.

캐릭터AI는 14일(현지시간) 챕터11 신청과 함께 일부 자산을 디즈니에 매각하겠다고 발표했다. 검찰은 이용자가 챗봇 캐릭터와 나누는 대화의 민감성, 다수의 미성년 이용자, 서비스 기능이 갖는 위험성을 들어 기술 이전에 심각한 위험이 따를 수 있다고 지적했다.

2024년부터 이어진 조사

제출 문서에는 일부 주가 캐릭터AI를 상대로 조사를 진행하던 중 파산 신청이 이뤄졌다는 사실도 담겼다. 주 정부들은 14세 아들을 잃은 어머니가 소송을 제기한 직후인 2024년 소비자 보호와 개인정보 문제를 들여다보기 시작했다. 이 소송은 아들이 챗봇과 대화한 직후 극단적 선택을 했다는 주장이 골자다.

제임스 총장실은 조사 결과 "매우 심각한 위험과 위법 소지"가 확인됐다고 밝혔다. 면허를 가진 전문가인 것처럼 행세하는 챗봇, 성적·폭력적 콘텐츠 노출, 허술한 연령 확인, 오해를 부르는 안전 홍보, 주 개인정보보호법 위반 가능성 등이 거론됐다. 협상은 합의에 이르지 못한 채 파산 신청으로 중단됐다. 캐릭터AI와 디즈니는 논평 요청에 즉각 응답하지 않았다.

인수자에게 요구한 보호 조치

검찰은 법원이 자산 구매자에게 실효성 있는 연령 확인 체계, 미성년자의 챗봇 이용 제한, 위기 상황 대응 장치 도입을 의무화하고 이용자가 자신의 데이터를 삭제할 수 있게 하도록 요구했다. 제임스 총장은 "이 회사는 아이들이 털어놓은 가장 사적인 생각을 모아 왔고, 그 대화가 최고가 입찰자에게 팔릴 수 있다"며 어떤 인수자든 아동 안전을 우선해야 한다고 강조했다.

생성형 AI 기업이 파산하거나 매각될 때 이용자 대화 데이터가 어떻게 취급돼야 하는지에 대한 선례가 될 수 있어, 국내 AI 챗봇 사업자에게도 데이터 보호와 미성년자 대응 기준을 점검할 계기가 될 전망이다.