데이브레이크 블루 세션 데이터, 학습 제외에서 활용으로

오픈AI(OpenAI)가 사이버보안 서비스 데이브레이크 블루(Daybreak Blue)의 세션 데이터를 오는 11월 29일부터 자사 모델 학습에 활용한다. 오픈AI는 신뢰 접근 프로그램(Trusted Access) 회원들에게 보낸 이메일로 이 같은 방침을 알린 것으로 전해졌다.

이 데이터는 지금까지 이용자가 '모두를 위한 모델 개선' 설정을 꺼두지 않았더라도 학습 대상에서 제외돼 왔다. 이번 변경으로 기존의 예외 보호가 사라지는 셈이다. 안전성 검토 과정에서 문제가 있는 것으로 분류된 상호작용은 이전과 마찬가지로 안전 목적에 한해 계속 사용될 수 있다.

반발 이어지자 별도 옵트아웃 약속

방침이 알려지자 회원들의 반발이 빠르게 확산됐다. 오픈AI는 이후 두 번째 이메일을 보내 별도의 옵트아웃(거부) 방법을 제공하겠다고 약속했다. 다만 구체적인 시행 시점과 방식은 원문에서 확인되지 않았다.

보안 분야 세션에는 취약점 분석이나 내부 시스템 정보처럼 민감한 내용이 담기기 쉽다. 이 때문에 학습 제외라는 기존 약속이 이용자 신뢰의 핵심 조건이었다는 점에서 파장이 큰 것으로 보인다.

코덱스 수학 증명 논란이 되살린 우려

연구자들 사이에서는 '벅마스터-알푀게 사건'이 다시 거론되고 있다. 수학자 트리스탄 벅마스터(Tristan Buckmaster)와 레벤트 알푀게(Levent Alpöge)는 나비에-스토크스 방정식 관련 초안을 오픈AI의 코덱스(Codex)에 올렸는데, 얼마 뒤 오픈AI가 자체 증명을 공개했다. 오픈AI는 이들의 입력을 학습에 쓰지 않았다고 부인했다.

실제 학습 활용 여부와 무관하게, 입력 데이터가 경쟁적 성과로 이어졌을 수 있다는 의심만으로도 연구자들에게는 충분한 경고가 됐다는 평가다. 데이브레이크 블루 데이터 활용 방침 역시 같은 우려를 키우고 있다.

보안 데이터를 AI 서비스에 맡기는 국내 기업과 연구기관도 학습 활용 조건과 옵트아웃 범위를 계약 단계에서 꼼꼼히 확인할 필요가 있어 보인다.