앤스로픽 "AI 웜, 몇 달 내 현실화 가능"…가전 기기 감염 경고

저사양 기기 15대에 26B 모델 분산 구동

앤스로픽은 이번 주 공개한 블로그 글에서 소형 AI 모델이 가정용 기기를 숙주로 삼아 스스로 퍼지는 'AI 웜'이 "몇 달 앞으로" 다가왔을 수 있다고 밝혔다. 연구진은 구글(Google)의 젬마 4(Gemma 4·260억 개 매개변수)를 안드로이드 스마트TV 박스 15대에 나눠 올리는 데 성공했다. 개별 기기로는 구동이 불가능한 모델이었으며, 속도는 매우 느렸다고 한다.

모의 네트워크에서 복제 실험

연구진은 안드로이드 기기처럼 동작하는 가상 네트워크를 만들고, 새 기기를 찾아 모델을 복사한 뒤 실행시키는 AI 웜을 투입했다. 전파 대상은 메타(Meta)의 라마 3.1-8B(80억 개 매개변수)였으며, 공격을 조율한 모델과는 달랐다. 테스트한 모델 중 중국 즈푸AI(Z.ai)의 GLM-5.2만이 네트워크 전체로 확산시켰고, 더 작은 모델들은 개별 단계만 수행했다. 연구진은 소형 모델이 올해 말까지 GLM-5.2 수준에 이를 것으로 내다봤다.

연구진은 "완전한 로그 복제체(rogue replicator)"를 입증한 것은 아니라고 인정하면서도 "AI 웜의 생명 신호"가 확인됐다고 평가했다. 이어 복제체의 확산을 어렵게 하도록 시스템을 강화하되, 이들이 사라지지 않는 세계에도 대비해야 한다고 강조했다. 이번 실험에는 앤스로픽의 자체 모델이 쓰이지 않았다. 앤스로픽은 그동안 개방형 모델이 폐쇄형보다 "더 위험하다"고 주장해 왔다.

전문가 "과장 논란 있지만 경고는 타당"

저사양 TV 박스에서 느리게 돌아가는 수준과 실제 가전을 휩쓰는 웜 사이에는 큰 간극이 있어 홍보성 과장이라는 비판도 나온다. 그러나 전문가들은 위협 자체는 현실적이라고 본다. 팰리세이드리서치(Palisade Research)의 제프리 래디시(Jeffrey Ladish) 이사는 올해 초 AI 모델이 다른 기기로 스스로 복사될 수 있음을 보인 데 이어, 이번 연구는 훨씬 작은 모델로 같은 일이 가능함을 보였다고 평가했다. 그는 "기기 보안을 대대적으로 강화하지 않으면 AI 웜이 번식할 토양이 많다"며 "12개월 안에 실제 사례가 나올 것"이라고 전망했다.

토론토대의 니콜라스 페이퍼노(Nicolas Papernot) 교수는 그동안 공격 비용 때문에 표적이 되지 않던 기기도 더 가치 있는 대상을 공격하는 발판으로 쓰일 수 있다며, 병원과 전력망 같은 핵심 인프라 보안에 즉각 대응해야 한다고 말했다.

스마트 가전과 IoT 기기 보급률이 높은 국내에서도 제조사와 통신사의 기기 보안 업데이트 체계 점검이 필요하다는 시사점이 있다.