Le modèle en poids ouverts de Z.ai soulève des inquiétudes en matière de sécurité et de gouvernance
Un rapport de SaferAI révèle que le modèle en poids ouverts GLM 5.2 de Z.ai frôle les capacités de pointe mais manque de garde-fous essentiels.
Un nouveau rapport de SaferAI indique que le modèle en poids ouverts GLM 5.2 de Z.ai s'approche des capacités de l'intelligence artificielle de pointe, tout en étant dépourvu des mesures de sécurité essentielles. Cette évolution met en exergue une disparité croissante entre la puissance brute des modèles accessibles et la mise en œuvre des garde-fous nécessaires.
Ces conclusions ravivent les inquiétudes persistantes quant à la trajectoire de l'intelligence artificielle en poids ouverts. À mesure que ces modèles gagnent en sophistication et égalent les performances des principaux systèmes propriétaires, l'absence de mesures de sécurité robustes constitue un défi majeur pour la supervision du secteur.
Les cadres de gouvernance peinent actuellement à suivre le rythme des publications rapides de modèles accessibles et puissants. L'absence d'atténuations des risques dans GLM 5.2 illustre la tension plus large entre l'innovation ouverte et la nécessité de garanties réglementaires efficaces dans le secteur de l'intelligence artificielle.
- ·Un rapport de SaferAI évalue les capacités et la sécurité du modèle GLM 5.2 de Z.ai.
- ·Ce modèle en poids ouverts s'approche des capacités de l'intelligence artificielle de pointe.
- ·Le système est dépourvu de mesures de sécurité clés malgré ses performances avancées.
- ·Ces conclusions ravivent les craintes que les modèles ouverts puissants ne dépassent la gouvernance et les garde-fous actuels.
Marissa Cross covers the policy, business, and competitive forces shaping the AI industry for the LiberaGPT team. A former technology reporter with a background in legal and regulatory affairs, she focuses on what the headlines miss.