오픈AI·NASK, AI 안전 연구 협약 체결
오픈AI(OpenAI)는 폴란드 국립연구소 NASK(NASK National Research Institute)와 AI 안전, 보안, 기술 연구 분야의 협력을 모색하는 협약을 체결했다고 밝혔다. 양측은 새롭게 나타나는 위험을 더 정확히 이해하고 안전장치를 강화하는 한편, 첨단 AI가 보다 안전하고 회복력 있는 디지털 생태계에 기여할 방법도 살펴볼 계획이다.
협력의 한 축은 폴란드 AI안전연구소(AISI) 역할을 하는 NASK 산하 AI안전연구센터다. 양측은 갈수록 성능이 높아지는 AI 시스템을 평가하는 방법과 잠재적 취약점을 찾아내는 방법, 안전장치를 보강하는 방안을 공동으로 연구한다.
국제 AI 안전 표준 논의의 일환
오픈AI는 AI 성능이 높아질수록 개발사와 공공 연구기관 간 국제 협력이 중요해진다고 강조했다. 이미 미국의 CAISSI(Center for Advancing Standards and Innovation for Super Intelligence), 영국 AI보안연구소(AISI) 등 각국 공공 연구기관과 협력해 안전장치를 강화하고 AI 에이전트의 보안 취약점을 찾아 고치는 성과를 냈다고 설명했다.
오픈AI는 미국이 각국과 함께 첨단 AI의 국제 기술 표준을 마련해야 한다는 입장도 밝혀 왔다. 역량 평가, 위험 평가, 안전장치 시험, 사고 보고 방식에 공통 접근법이 있으면 국경을 넘는 위험에 대응하기 쉽다는 취지다. 오픈AI는 NASK 같은 국가 단위 파트너가 없으면 글로벌 표준이 실제 AI 활용 현장과 동떨어질 수 있다고 덧붙였다. NASK는 공공 서비스와 폴란드의 디지털 정보 생태계를 보호하는 데 AI 안전 연구를 적용해 온 기관이다.
사이버 방어 협력 사례: 미크로틱 취약점 6건 발굴
이번 협약은 폴란드 사이버 방어팀과의 기존 협력 위에 이뤄졌다. NASK 산하 CERT Polska는 지난 7월 오픈AI의 사이버 특화 모델을 '데이브레이크(Daybreak)'를 통해 사용할 수 있게 됐다. 이 팀은 오픈AI 모델을 활용해 미크로틱(MikroTik) 라우터OS(RouterOS)에서 취약점 6건을 찾아냈다. 이 중에는 서로 결합하면 인증 없이 기기를 장악할 수 있는 결함도 포함됐다.
제조사는 수정 패치를 내놓았으며, CERT Polska는 이 패치가 자신들이 관찰한 공격을 실제로 막았다고 확인했다.
