El modelo de pesos abiertos de Z.ai suscita inquietudes sobre seguridad y gobernanza
Un informe de SaferAI revela que el modelo de pesos abiertos GLM 5.2 de Z.ai roza las capacidades de frontera sin mitigaciones de seguridad esenciales.
Un nuevo informe de SaferAI indica que el modelo de pesos abiertos GLM 5.2 de Z.ai se está aproximando a las capacidades de la inteligencia artificial de frontera, al tiempo que carece de las mitigaciones de seguridad esenciales. Este avance pone de manifiesto una creciente disparidad entre la potencia bruta de los modelos accesibles y la implementación de las salvaguardas necesarias.
Estos hallazgos reavivan la preocupación actual sobre la trayectoria de la inteligencia artificial de pesos abiertos. A medida que estos modelos se vuelven cada vez más sofisticados y equiparan el rendimiento de los principales sistemas privativos, la ausencia de medidas de seguridad robustas plantea un desafío significativo para la supervisión del sector.
En la actualidad, los marcos de gobernanza tienen dificultades para seguir el ritmo de los rápidos lanzamientos de potentes modelos accesibles. La falta de mitigaciones de seguridad en GLM 5.2 ejemplifica la tensión general entre la innovación abierta y la necesidad de salvaguardas regulatorias eficaces en el sector de la inteligencia artificial.
- ·Un informe de SaferAI evalúa las capacidades y la seguridad del modelo GLM 5.2 de Z.ai.
- ·El modelo de pesos abiertos se aproxima a las capacidades de la inteligencia artificial de frontera.
- ·El sistema carece de mitigaciones de seguridad clave a pesar de su avanzado rendimiento.
- ·Los hallazgos reavivan el temor de que los potentes modelos abiertos estén superando la gobernanza y las salvaguardas actuales.
Marissa Cross covers the policy, business, and competitive forces shaping the AI industry for the LiberaGPT team. A former technology reporter with a background in legal and regulatory affairs, she focuses on what the headlines miss.