AI 모델 '가드레일 제거판', 공개 사흘 만에 유통…테러·극단주의 악용 우려
영국 비영리단체 테크어게인스트테러리즘(Tech Against Terrorism)이 AI 모델 134개를 시험한 결과, 상당수가 테러 관련 질문에 위험한 답을 내놓는 것으로 나타났다. 오픈웨이트 모델의 안전장치를 제거한 '어블리터레이티드(abliterated)' 버전이 공개 후 평균 사흘 안에 온라인에 올라오는 점도 문제로 지적됐다.
#오픈웨이트
마이클 조던 "AI 종말론은 도덕 연극"…초지능은 공상과학
머신러닝 분야의 선구자인 마이클 I. 조던(Michael I. Jordan) 전 UC 버클리 명예교수가 프랑스 일간 리베라시옹(Libération) 인터뷰에서 AI 종말론을 "거창한 도덕적 연기"라고 비판했다. 그는 초지능이 공상과학 용어에 불과하며, AI 기업들의 규제 요구도 '연극'이라고 주장했다.
리퀴드AI, 활성 파라미터 20억 온디바이스 에이전트 모델 'LFM2.5-24B-A2B' 공개
리퀴드AI(Liquid AI)가 총 240억, 토큰당 활성 20억 파라미터의 추론 전용 MoE 모델 'LFM2.5-24B-A2B'를 오픈 웨이트로 공개했다. 이 모델은 에이전트·툴 호출 과제에서 파라미터가 약 50% 많은 큐웬3.6-35B-A3B와 경쟁하는 성능을 보였다. 애플 M5 맥스에서 초당 184토큰을 처리하는 등 기기 내 구동 속도도 강점으로 내세웠다.
오픈 모델 논쟁, 권력 분산 대 안전 위험 어디에 무게 둘까
앤스로픽(Anthropic)이 지난달 말 중국 Z.ai의 오픈 모델 GLM-5.3이 심각한 사이버 공격 위험을 안고 있다는 보고서를 내면서 오픈 모델 논쟁이 다시 불붙었다. MIT 테크놀로지 리뷰는 연구 접근성과 권력 분산이라는 이점과 오남용 위험을 함께 짚으며, 업계가 이분법을 넘어 절충안을 찾고 있다고 전했다.
미스트랄, 1조 파라미터 오픈웨이트 '르 청크' 공개…"최고 모델에 도전"
프랑스 AI 기업 미스트랄(Mistral)이 파라미터 1조 개 규모의 오픈웨이트 모델 '미스트랄 라지 4(Mistral Large 4)', 별칭 '르 청크(Le Chonk)'를 프리뷰로 공개했다. 누구나 내려받아 맞춤 개발할 수 있는 모델로, 미국과 중국의 최상위 모델에 맞설 수 있다고 회사는 주장했다. 정식 버전은 이달 말까지 내놓을 계획이다.