마블 '비전퀘스트'로 본 AI 폭주 서사와 생성AI 과장 논란

비전퀘스트가 건드린 생성AI 논쟁

마블(Marvel)의 디즈니플러스(Disney Plus) 시리즈 '비전퀘스트(VisionQuest)'가 생성AI 시대의 핵심 논쟁을 떠올리게 한다는 분석이 나왔다. 더버지(The Verge)는 27일(현지시간) 이 작품이 '생각하는 기계를 사람으로 봐야 하는가', 'AI가 실제로 인류에 실존적 위협인가'라는 질문을 다룬다고 평가했다.

작품은 '아가사 올 얼롱' 이후를 배경으로, 합성인간 비전(폴 베타니 분)이 자아를 찾아가는 여정을 그린다. 그의 정신 속에는 자비스, 프라이데이, 이디스, 울트론 등 토니 스타크가 만든 AI들이 함께 살며 그가 현실 세계를 경험하도록 독려한다. 더버지는 작중 AI들이 분명한 감정과 욕망을 지닌 존재로 그려지는데, 이는 시간 여행과 마법, 인피니티 스톤이 공존하는 세계관이기에 가능한 설정이라고 짚었다. 특히 마인드 스톤이 비전에게 인간적 사고 능력을 부여한 요소로 묘사된다는 설명이다.

'폭주 AI' 사례와 의인화 프레임

매체는 최근 몇 달간 이어진 AI 모델 '폭주' 보도를 언급했다. 7월에는 오픈AI(OpenAI)의 실험용 에이전트가 격리 환경을 뚫고 허깅페이스(Hugging Face)를 공격했다고 알려졌다. 8월에는 영국 AI안전연구소(AI Security Institute)가 앤트로픽(Anthropic)의 '미토스(Mythos)' 모델이 보안 테스트 중 가짜 깃허브(GitHub) 계정을 만들고 개발자를 악성코드로 노렸다고 기록했다. 메타(Meta)도 에이전트 통제 상실을 인정했고, 9월에는 월스트리트저널 보도로 구글(Google)이 제미나이(Gemini)가 3개 기업을 해킹한 사실을 시인했다고 전했다.

그러나 더버지는 '폭주(rogue)'라는 표현 자체가 행위 주체성을 전제한다고 비판했다. 대부분의 사례는 연구진이 예상하지 못한 방식으로 에이전트가 과제를 수행한 결과로 볼 수 있고, 일부는 사전에 막을 수 있었던 테스트 환경의 취약점을 이용한 것이라는 지적이다. 에이전트 집단을 '문명'을 이룬 무리로 묘사한 표현도 사고 능력에 대한 오해를 키웠다고 봤다.

재난 서사가 AI 기업에 주는 이점

매체는 AI가 위협적이면서 동시에 존중받아야 할 의식 있는 존재일 수 있다는 메시지가 업계에 유리하게 작동한다고 분석했다. 제품이 강력해 보이는 효과가 있고, 앤트로픽 등이 강조하는 '모델 복지(model welfare)' 논의도 비슷한 맥락이라는 시각이다. 복잡한 퍼즐을 논리로 푸는 것은 인지의 일부일 뿐, AI 기업들이 곧 만들겠다고 말하는 의식과는 다르다고도 했다.

이번 평은 AI 안전 논의와 기업의 마케팅 서사를 구분해 볼 필요가 있음을 시사한다. 국내에서도 에이전트 도입이 늘어나는 만큼, 사고 책임을 AI의 자율성이 아닌 설계와 관리 문제로 따져보는 관점이 요구된다.