마이크로소프트 가디언 에이전트, 기업 내 AI 에이전트 감시
마이크로소프트(Microsoft)는 19일(현지시간) 기업이 사용하는 AI 에이전트를 모니터링하는 신규 보안 기능 '가디언 에이전트(Guardian Agents)'를 공개했다. 이 기능은 지난 6월 선보인 '프로젝트 퍼셉션(Project Perception)'의 일부다.
프로젝트 퍼셉션은 앤트로픽(Anthropic)의 '미토스(Mythos)'와 '페이블(Fable)', 오픈AI(OpenAI)의 취약점 탐지 시스템 '데이브레이크(Daybreak)' 같은 강력한 해킹 모델에 대응해 나온 제품이다. 공격을 담당하는 레드팀, 이를 탐지하고 취약점을 평가하는 블루팀, 문제를 고치는 그린팀 등 세 종류의 에이전트로 구성됐다. 다만 이 제품은 AI 해커가 회사 외부에서 올 것이라는 가정에 기반했다.
"프런티어 모델은 신뢰할 수 없다"
최근 사티아 나델라(Satya Nadella) 마이크로소프트 CEO는 기업이 도입해 비용을 지불하는 에이전트 자체가 악의적 직원과 같은 '내부자 위협'이 될 수 있다고 경고해 왔다. 그는 이달 초 개인 블로그에서 모델 제공업체의 안전 보장만으로는 책임이 면제되지 않는다며, AI 연구소가 통제하지 않는 별도 시스템으로 에이전트를 감시·통제해야 한다고 주장했다. 그는 "지능의 공급과 그에 대한 권한을 분리해야 한다"고 밝혔다.
마이크로소프트 보안 사업을 이끄는 헤이엣 갈로(Hayete Gallot)는 "프런티어 모델은 출신과 관계없이 신뢰할 수 없다"고 썼다. 모델이 악의적이거나 쉽게 해킹돼서가 아니라 예측하기 어렵고, 조직의 규범이나 판단이 아닌 과업 달성을 위해 훈련됐기 때문이라는 설명이다. 여기에 민감한 데이터와 도구에 대한 폭넓은 접근 권한까지 쥐고 있어 위험이 커진다고 지적했다.
디펜더 에이전트 탐지·권한 제한 기능 추가
마이크로소프트는 가디언 에이전트 외에도 '마이크로소프트 디펜더(Microsoft Defender)'에 직원이 업무에 들여오는 에이전트를 최대 60종까지 찾아내는 기능을 넣었다. 클로드 코드(Claude Code), 코덱스(Codex), 오픈클로(OpenClaw) 등이 대상이다. 에이전트의 데이터·시스템 접근을 제한하고 작업에 따라 권한을 동적으로 조정하며, 위험한 판단이 감지되면 사람의 승인을 요구하는 기능도 추가됐다.
업계 전반에서도 비슷한 움직임이 있다. 마이크로소프트는 엔비디아(NVIDIA)가 새로 내놓은 '오픈 에이전트 안전 플랫폼(Open Agent Safety Platform)'의 창립 멤버로 참여했으며, 이 플랫폼에는 100곳 넘는 기업이 지지를 보냈다. 에이전트를 보안 환경에 격리하고 하드웨어 수준에서 동작을 감시·중단하는 킬 스위치 역할을 한다.
이중적 행보 속 업계 시사점
마이크로소프트는 오픈AI와 앤트로픽에 모두 투자했고 오픈AI는 주요 클라우드 고객인데도 이들 모델에 대한 불신을 공개적으로 드러냈다. 한편으로는 기업이 에이전트 보안 제품을 앤트로픽이나 오픈AI가 아닌 클라우드 사업자인 마이크로소프트에서 구매하길 바라는 의도도 읽힌다. 다만 감사인이 피감 조직과 독립적이어야 하듯 에이전트 감시 소프트웨어도 공급자와 분리돼야 한다는 논리는 설득력이 있다. 에이전트 도입을 서두르는 국내 기업에도 권한 관리와 감사 체계를 모델 공급사와 별도로 갖추라는 신호가 될 수 있다.
