Il modello open weight di Z.ai solleva preoccupazioni su sicurezza e governance
Un rapporto SaferAI rivela che il modello open weight GLM 5.2 di Z.ai sfiora capacità di frontiera, ma manca di essenziali misure di sicurezza.
Un nuovo rapporto di SaferAI indica che il modello open weight GLM 5.2 di Z.ai si sta avvicinando alle capacità dell'intelligenza artificiale di frontiera, pur essendo sprovvisto delle necessarie misure di mitigazione del rischio. Questo sviluppo evidenzia una crescente disparità tra la potenza grezza dei modelli accessibili e l'implementazione delle indispensabili tutele di sicurezza.
I risultati rinnovano le attuali preoccupazioni riguardo alla traiettoria dell'intelligenza artificiale open weight. Man mano che questi modelli diventano sempre più sofisticati e raggiungono le prestazioni dei principali sistemi proprietari, l'assenza di solide misure di sicurezza rappresenta una sfida significativa per la supervisione del settore.
Le attuali strutture di governance faticano a tenere il passo con il rapido rilascio di potenti modelli accessibili. La mancanza di misure di sicurezza nel GLM 5.2 esemplifica la più ampia tensione tra l'innovazione aperta e la necessità di efficaci tutele normative nel settore dell'intelligenza artificiale.
- ·Un rapporto di SaferAI valuta le capacità e la sicurezza del modello GLM 5.2 di Z.ai.
- ·Il modello open weight si avvicina alle capacità dell'intelligenza artificiale di frontiera.
- ·Il sistema è privo di fondamentali misure di sicurezza nonostante le sue prestazioni avanzate.
- ·I risultati rinnovano il timore che i potenti modelli aperti stiano superando l'attuale governance e le relative tutele.
Marissa Cross covers the policy, business, and competitive forces shaping the AI industry for the LiberaGPT team. A former technology reporter with a background in legal and regulatory affairs, she focuses on what the headlines miss.