"AI→AGI→초지능, 과열된 용어 경쟁"
머신러닝 분야의 대표적 학자로 꼽히는 마이클 I. 조던(Michael I. Jordan) UC 버클리 명예교수가 AI 종말론을 정면으로 비판했다. 70세인 그는 현재 파리의 프랑스 국립디지털과학연구소(Inria)에서 '시장과 학습' 석좌를 맡아 전업으로 연구하고 있다. 조던 교수는 리베라시옹(Libération)과의 인터뷰에서 올여름 AI를 둘러싼 담론이 "매우 실망스럽다"고 말했다.
그는 2019년부터 'AI'라는 용어의 무분별한 사용을 경고해 왔다며, 지금 같은 과열은 예견된 일이었다고 밝혔다. AI로는 부족해 AGI가 등장했고, 이제는 '초지능'까지 거론된다는 지적이다. 초지능은 공상과학 용어이며, 이런 논의가 지배적 담론이 되면 기술 발전과 젊은 세대, 각국의 사고방식에 매우 해롭다고 주장했다.
규제 요구는 "연극", 퇴사는 "도덕 퍼포먼스"
조던 교수는 AI 기업들의 규제 요구를 "우리는 좋은 편이라는 점을 보여주는 연극"이라고 평가했다. 실제로는 자신들이 어떻게 규제받을지 완전히 통제하고 싶어 한다는 것이다.
그는 9월 초 앤스로픽(Anthropic) 소속 젊은 연구원 제이콥 콕슨의 퇴사가 'AI 종말' 시나리오를 둘러싼 집단적 소동으로 번진 사례를 대표적 예로 들었다. 이들 기업의 젊은 직원 상당수가 인문학·철학 등 비공학 출신이며 대규모 제품 개발 경험이 없다는 주장이다. 퇴사로 주목받을 것을 알고 있고 이미 스톡옵션을 보유하고 있다는 점에서 "스스로를 덕스럽게 보이려는 도덕적 퍼포먼스"라고 비판했다.
제프리 힌턴(Geoffrey Hinton)에 대해서는 실제 서비스를 내놓는 회사를 만든 적이 없다며, 뇌를 실리콘에 복제해 지수적으로 성장한다는 초지능 논리의 어느 단계도 신뢰하기 어렵다고 말했다. 반면 요슈아 벤지오(Yoshua Bengio)는 에이전트 군집의 통제 상실 같은 현재 기술의 한계에 초점을 맞춰 안전 문제에 직접 행동한다고 상대적으로 호의적으로 평가했다.
오픈AI(OpenAI) 에이전트의 허깅페이스(Hugging Face) 해킹 사건에 대해서는 "화학공학에서는 얼마나 나빠지는지 보려고 폭발을 허용하지 않는다"며 나쁜 엔지니어링의 결과라고 지적했다. 에이전트가 자각을 갖고 인간 파괴를 꾀한다는 해석 역시 공상과학이라는 입장이다.
데이터센터 투자는 "거대한 도박"
조던 교수는 대규모 데이터센터 투자를 "성공 여부를 전혀 알 수 없는 거대한 도박"이라고 규정했다. 거대언어모델은 이미 자연어 작업에 충분한 수준이며, 수조 원을 더 쏟는다고 크게 나아지리라는 보장이 없다는 설명이다. 대신 현장 지식에 기반한 특정 분야 전문 지식을 더하는 방식이 효과적이며, 이를 위해 거대한 데이터센터는 필요 없다고 말했다. 특히 오픈 웨이트 모델을 기업 내부에 통합해 활용하는 방식을 대안으로 꼽았다.
이번 발언은 인프라 투자 경쟁에 나선 국내 기업들에도 규모 중심 전략을 재점검할 단서가 될 수 있다.
