Z.ai의 오픈 가중치 모델, 안전성 및 거버넌스 우려 촉발
SaferAI의 최신 보고서에 따르면, Z.ai의 오픈 가중치 모델 GLM 5.2가 최첨단 성능에 근접했으나 필수적인 안전 조치가 결여된 것으로 나타났다.
SaferAI의 최신 보고서에 따르면, Z.ai의 오픈 가중치 모델인 GLM 5.2가 최첨단(frontier) 인공지능 성능에 근접하고 있으나 필수적인 안전 조치는 결여된 것으로 나타났다. 이러한 동향은 누구나 접근 가능한 모델의 강력한 성능과 필수적인 안전장치 도입 사이의 격차가 점차 벌어지고 있음을 시사한다.
이번 조사 결과는 오픈 가중치 인공지능의 발전 방향에 대한 기존의 우려를 다시금 점화시키고 있다. 이러한 모델들이 점차 고도화되어 선도적인 독점 시스템의 성능에 필적하게 됨에 따라, 강력한 안전 조치의 부재는 업계의 관리 감독에 중대한 과제를 안겨주고 있다.
현재의 거버넌스 체계는 강력한 접근형 모델들의 빠른 출시 속도를 따라가는 데 어려움을 겪고 있다. GLM 5.2의 안전 조치 결여는 인공지능 분야 내 개방형 혁신과 효과적인 규제적 안전장치 필요성 사이의 광범위한 긴장 관계를 단적으로 보여준다.
- ·SaferAI 보고서가 Z.ai의 GLM 5.2 모델의 성능과 안전성을 평가했다.
- ·해당 오픈 가중치 모델은 최첨단 인공지능 성능에 근접하고 있다.
- ·이 시스템은 뛰어난 성능에도 불구하고 핵심적인 안전 조치가 결여되어 있다.
- ·이번 결과는 강력한 오픈 모델이 현재의 거버넌스와 안전장치를 앞지르고 있다는 우려를 재점화했다.
Marissa Cross covers the policy, business, and competitive forces shaping the AI industry for the LiberaGPT team. A former technology reporter with a background in legal and regulatory affairs, she focuses on what the headlines miss.