오픈AI, 수학·컴퓨터과학·물리 3대 난제 해결 주장…ETH 반증 포함

오픈AI, 3개 분야 연구 성과 동시 공개

오픈AI(OpenAI)가 수학, 컴퓨터과학, 물리학에서 각각 중대한 발견을 했다고 밝혔다. 수학 난제 해법이 담긴 원고 수백 편을 한꺼번에 공개한 지 한 달이 채 지나지 않았다. 회사는 이번에는 과학자들의 조언을 받아 결과 공개 방식을 바꿨다고 설명했다.

수학 분야에서는 오픈AI의 모델이 국소 평활화(local smoothing) 추측을 모든 차원에서 증명했다고 주장했다. 이를 통해 카케야(Kakeya) 추측과 스타인(Stein)의 제한 추측도 모든 차원에서 해결된다는 설명이다. 자문단은 AI 출력물을 먼저 공개하고 연구자들이 각자 해설을 만들도록 하자고 조언했고, 회사는 10월 6일 공개 때처럼 모델 출력을 그대로 내놨다. 카케야 추측의 3차원 해결로 최근 뉴욕대 홍왕 교수가 필즈상을 받은 바 있다.

ETH 반증 주장과 검증 체계

컴퓨터과학 분야 논문은 고정 너비 CNF 공식의 만족 할당 수를 결정론적으로 세는 알고리즘을 제시했다. 이 알고리즘은 하위 지수 시간과 다항 공간에서 작동하며, 3-SAT 사례가 지수시간가설(ETH)을 반박한다는 것이 핵심이다. ETH는 1999년 제안 이후 널리 사실로 믿어져 온 가설이다.

검증은 ETH를 처음 제안한 러셀 임파글리아초(Russell Impagliazzo), 라마모한 파투리(Ramamohan Paturi) 캘리포니아대 샌디에이고 교수와 라이언 윌리엄스(Ryan Williams) MIT 교수가 이끈다. 이들의 요청에 따라 논문 원고와 레안(Lean) 증명이 깃허브(GitHub)에 즉시 공개됐다.

물리 분야는 양자색역학(QCD)과 표준모형의 통합적 확장을 포함해, 게이지장과 페르미온이 있는 4차원 상호작용 양자장론의 수학적으로 엄밀한 존재 증명이라고 오픈AI는 밝혔다. 전체 내용은 아직 공개되지 않았다. 데이비드 그로스(David Gross)를 중심으로 마이클 더글러스, 아서 재피, 이고르 클레바노프, 니키타 네크라소프가 검토를 맡는다.

공개 방식 둘러싼 논란

오픈AI는 이 방식에도 한계가 있을 수 있다고 인정했다. 회사가 꾸린 수학 자문단 AGMAI는 하루 전, 특정인에게 결과를 먼저 제공하는 관행을 AI 기업이 채택하지 말라고 권고했다. 접근 불평등, 평판 차용, 편향된 선택 문제가 있다는 이유다. 대신 학술 저장소 공개, 레안으로 형식화한 증명, 문제 선정 경위 공개, 결과를 이해하려는 연구자 지원 등을 제안했다.

오픈AI는 공개서한도 내고 AI 생성 결과의 사전 접근과 이해충돌 공개 기준, 발견과 검증·보완 작업에 대한 기여 인정 방식, 연구 방향 변화 속 학생과 연구자 지원 방안에 대한 의견을 구했다. 다만 이번 주장들은 모두 독립 검증을 거치지 않았다. 수학계에서는 지난 공개분을 소화하는 데도 수년이 걸릴 것이라는 반응이 나온 바 있다.