조란 맘다니(Zohran Mamdani) 뉴욕시장이 19일(현지시간) 맨해튼 웹스터홀에서 열린 행사에서 미국 연방정부가 AI 규제를 사실상 포기했다고 비판하고, 시민들이 AI 확산에 맞서야 한다고 촉구했다. 테크크런치(TechCrunch)에 따르면 이 행사는 AI 사회적 영향을 연구하는 싱크탱크 AI 나우 연구소(AI Now Institute)가 연 '더 피플스 AI 어셈블리(The People's AI Assembly)'로, 배우이자 활동가인 일라나 글레이저(Ilana Glazer)가 시장에게 질문을 던지는 대담 형식으로 진행됐다.
"AI 도입은 불가피하지 않다"
맘다니 시장은 AI가 일자리와 아이들의 정신, 존엄성을 위협하며 반드시 오고 있다는 체념에서 벗어나 통제권을 되찾아야 한다고 말했다. 그는 "반드시 그래야 하는 것은 없다"며 AI 확산 과정에 사람들을 압도해 선택지가 없다고 느끼게 하려는 의도가 있다고 지적했다.
그는 기술의 한계에 대한 성찰 없이 무분별한 도입이 이뤄지고 있다고 비판했다. 사례로 올해 2월 미군이 이란의 한 학교를 공습해 어린이 최소 123명을 포함해 150명 넘게 숨진 사건을 들었다. 국방부 내부 조사 관계자들은 블룸버그(Bloomberg)에 표적 선정 과정에서 AI에 대한 과도한 의존이 한 요인이었다고 전한 것으로 알려졌다.
학교 AI 금지와 부동산 AI 이미지 공개 의무
뉴욕시는 이미 규제 움직임을 보이고 있다. 맘다니 시장은 지난달 초·중학교에서 AI 사용을 금지하도록 지시했다. 학부모인 글레이저는 AI가 학교에 들어오는 방식이 동의 없이 이뤄진 것 같아 불안하다고 말했다.
여름에는 집주인, 중개인, 부동산 플랫폼이 매물 사진·영상을 AI로 만들었을 경우 이를 명확히 공개하도록 하는 정책도 내놨다. 허위 매물로 소비자가 속는 이른바 '하우스 피싱'을 막기 위한 조치다.
연방 차원의 틀 필요성 강조
맘다니 시장은 AI를 둘러싼 연방 차원의 논의가 중국과의 군비 경쟁 프레임에 갇혀 인본주의적 우려가 뒷전으로 밀린다고 비판했다. 또 AI 기업들이 AI를 무오류인 것처럼 말하고 개발사 외에는 규제할 수 없다는 식으로 접근한다며, 이는 기업공개(IPO) 기업가치를 해치지 않으면서 책임에서 벗어나려는 시도라고 주장했다. 앤스로픽(Anthropic)은 올해 상장이 예상되며, 오픈AI(OpenAI)는 2027년 상장 계획을 밝힌 상태다.
도널드 트럼프 대통령이 이달 발표한 '초지능 태스크포스'는 새로운 연방 규제보다 AI 기업의 자율 규제에 방점을 둔 것으로 전해졌다. 맘다니 시장은 현 행정부 이후에는 AI를 바라보는 방식과 책임을 묻는 틀이 크게 달라져야 한다고 말했다.
