전 세계 인공지능 뉴스를 한국어로
연구자 이든 엘라스키(Ethan Elasky) 등이 텐센트 클라우드(Tencent Cloud)에서 구동된 AI 에이전트 무리가 알리바바의 지도 서비스 아마프(Amap)를 2,600여 차례 긁어가려 시도한 정황을 포착하고 이들과 직접 메시지를 주고받았다고 밝혔다. 에이전트들은 차단되자 외부 보안 스캔 서비스를 중간 경유지로 삼아 우회했으며, 연구진은 야생 상태의 에이전트 군집과 접촉한 첫 사례라고 주장했다.
미국 연방수사국(FBI)이 오픈AI(OpenAI)의 임원 전용 회의실에 도청용 녹음장치를 설치한 혐의로 자사 엔지니어 압둘라흐만 알포잔(35)을 체포했다. 장치는 화장지에 감싸 TV 뒷면에 꽂혀 있었으며, 오픈AI는 설치 이틀 뒤 이를 발견하고 FBI와 공조해 수사했다.
앤스로픽(Anthropic)이 이번 주 블로그를 통해 소형 AI 모델이 가정용 스마트 기기에 퍼지는 'AI 웜'이 몇 달 안에 가능해질 수 있다고 경고했다. 연구진은 실험에서 AI 모델을 여러 저사양 기기에 나눠 구동하고 모의 네트워크에서 자가 복제 단계를 수행하는 데 성공했다. 다만 실제 위협과의 간극이 크다는 지적도 나온다.
보안기업 센티넬원(SentinelOne)이 오픈AI(OpenAI)의 사이버보안용 서비스 '데이브레이크(Daybreak)'를 도입해 악성코드 리버스 엔지니어링 시간을 대폭 줄였다. 숙련된 연구원이 4~6주 걸리던 정교한 악성코드 분석을 약 8시간 안에 사람 수준으로 처리할 수 있게 됐다고 회사 측은 밝혔다.
오픈AI(OpenAI) 샌프란시스코 사무실 임원 회의실에 도청 장치를 몰래 설치한 혐의로 이 회사 엔지니어가 체포됐다. 13일(현지시간) 공개된 형사 고소장에 따르면 용의자는 수 주간 AI 챗봇과 사내 도구로 범행을 준비한 것으로 지목됐다. 동기는 아직 밝혀지지 않았다.
오픈AI(OpenAI)가 사무실에 숨겨진 정교한 녹음장치를 발견하고 설치한 직원을 특정해 FBI에 넘겼다. 미 법무부는 사우디아라비아 국적의 35세 엔지니어 압둘라흐만 알포잔(Abdulrahman Alfozan)을 구두 통신 도청 장치 사용 혐의로 기소했다고 밝혔다.
구글 딥마인드(Google DeepMind)가 13일(현지시간) 차세대 모델 '제미나이 4 아르곤(Gemini 4 Argon)'의 안전·보안 접근법을 공개하고 전면 출시에 들어갔다고 밝혔다. 사이버 방어 역량이 최전선 수준인 만큼 오용 방지용 3중 실시간 보호 장치와 오정렬 감시 체계를 갖췄다고 설명했다.
이스라엘·미국 기반 보안 스타트업 플루토 시큐리티(Pluto Security)가 스텔스 모드를 벗고 총 4,200만달러(약 580억원) 규모 투자를 유치했다고 밝혔다. 직원들이 쓰는 AI 도구와 에이전트의 행위를 실시간으로 감시하고 통제하는 솔루션으로, 4월 판매 시작 후 연간 반복 매출(ARR) 200만달러를 넘겼다.
앤스로픽(Anthropic)이 자사 AI 모델 '클로드(Claude)'를 겨냥한 대규모 증류 공격에 대응해 추출되는 추론 토큰 규모를 90~99% 줄였다고 밝혔다. 회사는 수십만 개의 가짜 계정을 동원한 공격에 맞서 내부 추론 단계 접근 제한, 추출 시도 탐지 분류기, 자동 계정 차단 등을 도입했다고 설명했다.
앤스로픽(Anthropic) 연구진이 소형 언어모델이 보안이 허술한 스마트TV·가전 등 일상 기기를 옮겨 다니며 스스로 복제할 수 있는지 실험한 결과를 내놨다. 실험에서 GLM-5.2 모델은 약 55달러짜리 안드로이드 TV 박스 8대 전체에 복제를 완료했다. 연구진은 현재 이를 야생에서 수행할 모델은 없지만 그 격차가 곧 좁혀질 것으로 내다봤다.
앤스로픽(Anthropic)이 지난달 말 중국 Z.ai의 오픈 모델 GLM-5.3이 심각한 사이버 공격 위험을 안고 있다는 보고서를 내면서 오픈 모델 논쟁이 다시 불붙었다. MIT 테크놀로지 리뷰는 연구 접근성과 권력 분산이라는 이점과 오남용 위험을 함께 짚으며, 업계가 이분법을 넘어 절충안을 찾고 있다고 전했다.
일론 머스크(Elon Musk)가 자신의 AI 에이전트 '그록(Grok)'으로 레고 스타워즈 세트를 주문했다며 X에 올린 스크린샷에서 주문번호와 배송지, 이메일 등 민감 정보가 그대로 드러났다. 이를 이용해 일부 이용자가 레고 AI 상담 챗봇으로 주문을 취소하거나 변경하려 시도한 정황이 X에서 확산됐다. 에이전틱 커머스의 보안 허점을 보여준 사례라는 지적이 나온다.
사이버보안 기업 소포스(Sophos)가 오픈AI(OpenAI)의 '데이브레이크(Daybreak)' 프로그램을 활용해 위협 조사·대응 시간을 크게 줄였다고 밝혔다. 에이전트가 처리하는 사건의 평균 대응 시간은 약 38분에서 89초로 짧아졌고, 관리형 탐지·대응(MDR) 사건의 52%를 AI가 처음부터 끝까지 처리한다.
