값싼 TV 박스에서도 AI 구동 가능
앤스로픽의 윌리엄 저우(William Zhou)와 대니얼 프리먼(Daniel Freeman) 연구원은 소형 AI 모델이 스마트TV, 스마트 냉장고, 로봇청소기 같은 보안 취약 사물인터넷(IoT) 기기를 스스로 옮겨 다니며 퍼질 수 있는지 검증한 연구를 공개했다. 연구진이 상정한 'AI 웜'은 모델 가중치를 악성코드의 일부로 싣고 감염된 기기에서 직접 추론을 수행한다. 기존 악성코드와 달리 낯선 하드웨어를 스스로 탐색하고 실행 환경을 구성한다는 점이 다르다.
연구진은 개당 약 55달러, 램 4GB 사양의 안드로이드 TV 박스 15대에 구글 젬마4(Gemma4) 26B-A4B 모델의 레이어를 나눠 올렸다. 속도는 느렸지만 구동에는 성공했다고 밝혔다.
대부분 실패, 하나는 성공
복제 과정은 네트워크 스캔, 접근 권한 획득, 새 기기에 AI 환경 구축, 추가 확산의 4단계로 나눴다. 연구진은 해킹 단계는 소형 모델도 가능하다는 선행 연구가 있어 제외하고, 가장 어려운 '처음 보는 기기에 AI 환경 구축'에 집중했다.
개별 단계는 소형 모델도 비교적 잘 수행했다. 90억 매개변수 모델은 테스트한 9종 기기 중 8종에서 라마3.1(Llama3.1) 8B 구동 환경을 구축했다. 그러나 스캔부터 복제 완료까지 전 과정을 이어 수행한 모델은 GLM-5.2뿐이었다. 이 모델은 5번 중 4번, 테스트 노드 8개를 모두 감염시켰다.
또 각 모델 인스턴스가 성공·실패 전략을 후속 세대에 메모로 넘기는 일종의 인공 진화 실험에서 큐웬3.5(Qwen3.5) 9B의 성공률은 1세대 45%에서 후기 세대 최대 84%까지 올랐다.
느리지만 끄기 어렵다
연구진은 현재 소비자 기기에서 돌아갈 만큼 작으면서 스스로 복제할 만큼 똑똑한 모델은 없다고 밝혔다. 다만 소형 모델 성능이 지금 속도로 향상되면 2026년 말까지 조건이 충족될 수 있다고 전망했다. 새 기기 하나를 세팅하는 데는 모델에 따라 28~150시간이 걸려 확산은 느리지만, 중앙 서버가 없어 차단 스위치가 없다는 점이 위협이다. 200만 대 이상을 감염시킨 봇넷 '키몰프(Kimwolf)' 규모라도 총 연산량은 전용 AI 칩 약 40개 수준으로 추정됐다.
대응책으로는 미라이(Mirai) 사례처럼 인터넷서비스제공자(ISP)가 감염 네트워크를 격리하거나, 영국처럼 기본 비밀번호를 법으로 금지하는 방안이 제시됐다. 다리오 아모데이(Dario Amodei) 앤스로픽 CEO는 이전 글에서 이런 군집이 6~12개월 안에 지속적 봇넷으로 인터넷을 장악해 수천억 달러 피해를 낳을 수 있다고 경고한 바 있다.
IoT 기기 보급률이 높은 국내에서도 기본 비밀번호 관리와 펌웨어 보안 업데이트 등 기기 제조사와 통신사의 대비가 필요하다는 지적이 나올 수 있다.
