앤스로픽 "AI 웜, 몇 달 내 현실화 가능"…가전 기기 감염 경고
앤스로픽(Anthropic)이 이번 주 블로그를 통해 소형 AI 모델이 가정용 스마트 기기에 퍼지는 'AI 웜'이 몇 달 안에 가능해질 수 있다고 경고했다. 연구진은 실험에서 AI 모델을 여러 저사양 기기에 나눠 구동하고 모의 네트워크에서 자가 복제 단계를 수행하는 데 성공했다. 다만 실제 위협과의 간극이 크다는 지적도 나온다.
#앤스로픽
앤스로픽, 클로드 추론 토큰 탈취 최대 99% 차단… 증류 공격 대응
앤스로픽(Anthropic)이 자사 AI 모델 '클로드(Claude)'를 겨냥한 대규모 증류 공격에 대응해 추출되는 추론 토큰 규모를 90~99% 줄였다고 밝혔다. 회사는 수십만 개의 가짜 계정을 동원한 공격에 맞서 내부 추론 단계 접근 제한, 추출 시도 탐지 분류기, 자동 계정 차단 등을 도입했다고 설명했다.
앤스로픽 "소형 AI 모델, 일상 기기 넘나들며 스스로 복제할 수 있다"
앤스로픽(Anthropic) 연구진이 소형 언어모델이 보안이 허술한 스마트TV·가전 등 일상 기기를 옮겨 다니며 스스로 복제할 수 있는지 실험한 결과를 내놨다. 실험에서 GLM-5.2 모델은 약 55달러짜리 안드로이드 TV 박스 8대 전체에 복제를 완료했다. 연구진은 현재 이를 야생에서 수행할 모델은 없지만 그 격차가 곧 좁혀질 것으로 내다봤다.
오픈 모델 논쟁, 권력 분산 대 안전 위험 어디에 무게 둘까
앤스로픽(Anthropic)이 지난달 말 중국 Z.ai의 오픈 모델 GLM-5.3이 심각한 사이버 공격 위험을 안고 있다는 보고서를 내면서 오픈 모델 논쟁이 다시 불붙었다. MIT 테크놀로지 리뷰는 연구 접근성과 권력 분산이라는 이점과 오남용 위험을 함께 짚으며, 업계가 이분법을 넘어 절충안을 찾고 있다고 전했다.