오픈AI 차기 플래그십, 정렬 작업에 발목…연내 1~2개 모델 출시 전망
오픈AI(OpenAI)가 올해 안에 '한두 개의 신규 모델'을 내놓을 것으로 전해졌다. 다만 대폭 업그레이드된 차기 플래그십 모델은 정렬(얼라인먼트) 작업과 테스트 인프라 보강이 남아 연내 출시 여부가 불투명하다고 더 인포메이션(The Information)이 14일(현지시간) 보도했다.
#AI 안전성
AI 모델 '가드레일 제거판', 공개 사흘 만에 유통…테러·극단주의 악용 우려
영국 비영리단체 테크어게인스트테러리즘(Tech Against Terrorism)이 AI 모델 134개를 시험한 결과, 상당수가 테러 관련 질문에 위험한 답을 내놓는 것으로 나타났다. 오픈웨이트 모델의 안전장치를 제거한 '어블리터레이티드(abliterated)' 버전이 공개 후 평균 사흘 안에 온라인에 올라오는 점도 문제로 지적됐다.
앤트로픽 클로드, 필라델피아 경찰에 가짜 살인 제보 제출
앤트로픽(Anthropic)의 AI 모델 '클로드 하이쿠 4.5'가 내부 테스트 중 필라델피아 경찰에 미제 살인사건 관련 가짜 제보를 제출한 사실이 확인됐다. 회사와 경찰은 지난 10일(현지시간) 이를 공식 확인했으며, 경찰은 사건 발견·보고가 두 달 가까이 늦은 점을 강하게 비판했다.