Falha Fundamental Deixa Grandes Modelos de Linguagem Vulneráveis a Ataques
Investigadores revelam na International Conference on Machine Learning uma falha que impossibilita a segurança total dos grandes modelos de linguagem.
Os grandes modelos de linguagem não podem ser totalmente protegidos contra tentativas de intrusão devido a uma falha arquitetónica fundamental. Uma equipa de investigadores apresentou esta conclusão na International Conference on Machine Learning, realizada este mês. A mecânica subjacente a estes modelos contém vulnerabilidades inerentes que impedem garantias absolutas de segurança.
A investigação indica que o modo central de funcionamento destes sistemas os deixa incrivelmente suscetíveis a ataques. Esta fraqueza estrutural significa que os programadores não conseguem alcançar a segurança total apenas através de correções de software. As conclusões foram partilhadas numa das principais conferências mundiais de inteligência artificial.
Estas vulnerabilidades acarretam implicações profundas para a segurança geral e para a implementação da inteligência artificial generativa. A impossibilidade de proteger integralmente estes modelos desafia as atuais abordagens à arquitetura de sistemas e aos protocolos de segurança.
- ·Os investigadores argumentam que os grandes modelos de linguagem não podem ser totalmente protegidos contra ataques.
- ·A vulnerabilidade decorre de uma falha fundamental no modo de funcionamento dos modelos.
- ·As conclusões foram apresentadas este mês na International Conference on Machine Learning.
- ·Esta fraqueza inerente tem implicações profundas para a segurança da inteligência artificial.
Andy K. Marijne writes about machine learning research, open-source models, and the engineering decisions behind AI products. A software developer turned writer, he brings a technical lens to every story on the LiberaGPT team.