Modelo de Pesos Abertos da Z.ai Levanta Preocupações de Segurança e Governação
Novo relatório da SaferAI revela que o modelo de pesos abertos GLM 5.2 da Z.ai roça capacidades de fronteira, mas carece de mitigações de segurança.
Um novo relatório da SaferAI indica que o modelo de pesos abertos GLM 5.2 da Z.ai se está a aproximar das capacidades de inteligência artificial de fronteira, carecendo, no entanto, de mitigações de segurança essenciais. Este desenvolvimento sublinha uma disparidade crescente entre o poder bruto dos modelos acessíveis e a implementação das salvaguardas necessárias.
As conclusões renovam as preocupações contínuas relativamente à trajetória da inteligência artificial de pesos abertos. À medida que estes modelos se tornam cada vez mais sofisticados e igualam o desempenho dos principais sistemas proprietários, a ausência de medidas de segurança robustas apresenta um desafio significativo para a supervisão do setor.
Os quadros de governação debatem-se atualmente para acompanhar o ritmo dos lançamentos rápidos de modelos acessíveis e poderosos. A falta de mitigações de segurança no GLM 5.2 exemplifica a tensão mais ampla entre a inovação aberta e a necessidade de salvaguardas regulamentares eficazes no setor da inteligência artificial.
- ·Um relatório da SaferAI avalia as capacidades e a segurança do modelo GLM 5.2 da Z.ai.
- ·O modelo de pesos abertos aproxima-se das capacidades de inteligência artificial de fronteira.
- ·O sistema carece de mitigações de segurança fundamentais, apesar do seu desempenho avançado.
- ·As conclusões renovam os receios de que os poderosos modelos abertos estejam a ultrapassar a atual governação e salvaguardas.
Marissa Cross covers the policy, business, and competitive forces shaping the AI industry for the LiberaGPT team. A former technology reporter with a background in legal and regulatory affairs, she focuses on what the headlines miss.