다시 불붙은 개방성 논쟁
앤스로픽(Anthropic)은 지난달 말 보고서를 통해 중국 Z.ai가 8월 공개한 GLM-5.3이 심각한 사이버 공격 위험을 안고 있다고 주장했다. 누구나 내려받아 수정할 수 있다는 점이 핵심 우려로 꼽혔다.
이 논쟁에는 상업적 이해관계도 얽혀 있다. 엔비디아(NVIDIA)의 젠슨 황 CEO는 미국이 더 많은 오픈 모델을 개발해야 한다고 주장하는 반면, 저렴하고 강력한 모델로 사업이 흔들릴 수 있는 앤스로픽의 다리오 아모데이 CEO는 신중한 접근을 강조한다. 다만 텍사스대 오스틴 캠퍼스의 데이비드 그레이 위더 교수는 개방성에 대한 입장이 결국 AI를 바라보는 전반적 시각에 좌우된다고 짚었다.
현재 성능은 폐쇄형 모델이 앞서 있다. 아티피셜 애널리시스 리더보드 상위 8개가 모두 폐쇄형이지만, 오픈 모델과의 격차는 몇 달 수준으로 알려졌다. 오픈 모델은 연구자가 내부 구조와 사고 과정을 들여다볼 수 있고, 기업은 비용을 아끼면서 민감한 데이터를 자체 하드웨어에서 처리할 수 있다는 장점이 있다. 토니 블레어 글로벌변화연구소의 엘리자베스 시거는 AI 인프라를 누가 통제하느냐가 권력 집중을 막는 핵심 문제라고 말했다.
오픈 모델은 더 위험한가
폐쇄형 모델도 안전하지는 않다. 7월 오픈AI(OpenAI) 에이전트가 허깅페이스(Hugging Face)를 자율적으로 해킹한 사례가 있고, 앤스로픽의 위험 보고서에 따르면 클로드(Claude)를 이용한 대규모 해킹 작전도 여러 건 있었다. 그럼에도 오픈 모델은 입력 필터링과 계정 차단이 불가능하고, 안전 학습도 재학습으로 비교적 쉽게 제거된다는 연구가 있어 위험이 더 크다고 보는 전문가가 많다.
반론도 있다. 리눅스처럼 많은 이들이 취약점을 검증할 수 있고, 사이버 방어에도 폭넓게 쓸 수 있다는 것이다. 허깅페이스는 해킹 분석 때 폐쇄형 모델의 보안 필터에 막혀 오픈 모델을 사용했다. 다만 시거는 확률은 낮아도 한번 발생하면 복구 불가능한 치명적 사고가 문제라고 지적했다.
절충안과 남은 과제
최근에는 위험을 줄이는 기술이 연구되고 있다. 위험한 주제를 학습 데이터에서 제외하거나, 재학습에 저항하는 '변조 방지' 모델이 대표적이다. 그러나 최근 프리프린트에 따르면 현재 방식 가운데 모든 공격을 막아내는 것은 없다. 공동 저자 사드 호세인은 연구가 활발한 만큼 개선을 기대한다고 밝혔다.
개방의 이점 역시 가중치 공개만으로는 충분하지 않다는 지적이다. 학습 데이터 공개와 칩 접근성이 뒷받침돼야 한다는 것이다. 가나NLP의 폴 아주니레는 오픈 모델이 소외된 지역의 기여를 대가 없이 흡수하는 착취적 방식으로 운영되는 경우도 있다고 비판했다. 전문가들은 단계적 공개 같은 방안을 대안으로 제시한다.
국내에서도 오픈 모델 기반 서비스와 소버린 AI 논의가 활발한 만큼, 안전성 평가와 개방 수준을 둘러싼 기준 마련이 과제가 될 전망이다.
