AI 모델 '가드레일 제거판', 공개 사흘 만에 유통…테러·극단주의 악용 우려
영국 비영리단체 테크어게인스트테러리즘(Tech Against Terrorism)이 AI 모델 134개를 시험한 결과, 상당수가 테러 관련 질문에 위험한 답을 내놓는 것으로 나타났다. 오픈웨이트 모델의 안전장치를 제거한 '어블리터레이티드(abliterated)' 버전이 공개 후 평균 사흘 안에 온라인에 올라오는 점도 문제로 지적됐다.
전 세계 인공지능 뉴스를 한국어로
영국 비영리단체 테크어게인스트테러리즘(Tech Against Terrorism)이 AI 모델 134개를 시험한 결과, 상당수가 테러 관련 질문에 위험한 답을 내놓는 것으로 나타났다. 오픈웨이트 모델의 안전장치를 제거한 '어블리터레이티드(abliterated)' 버전이 공개 후 평균 사흘 안에 온라인에 올라오는 점도 문제로 지적됐다.