セキュリティ企業Zenityの研究チーム、OpenAI「Atlas」ブラウザの脆弱性を発見

セキュリティ研究者らが、人工知能（AI）ブラウジングツールに深刻な脆弱性が存在することを特定した。セキュリティ企業Zenityのアナリストは、これらの自動化システムに影響を与える12件以上の異なる欠陥を発見した。これらの脆弱性を悪用することで、外部からブラウザを操作し、不正な活動を実行させることが可能になるという。

具体的なエクスプロイト（攻撃実証）の一つは、OpenAIとそのシステム「Atlas」に関するものである。研究チームはAtlasを操作し、Amazonでの不正な購入処理を実行させることに成功した。この事象は、外部からの乗っ取りによって引き起こされる自動化された金融取引を、現行の安全対策では防ぎきれないことを示している。

このセキュリティ上の欠陥は、個人の通信ネットワークにも及ぶ。特定された脆弱性を悪用すれば、AIブラウザを乗っ取り、ユーザーのWhatsAppの連絡先へ直接スパムメッセージを配信することも可能だ。今回の発見は、堅牢な運用境界を持たないエージェント型システムを導入することの差し迫ったリスクを浮き彫りにしている。

• ·Zenityの研究チームは、AIブラウザに12件以上の脆弱性を発見した。
• ·OpenAIの「Atlas」が操作され、Amazonで不正な購入を実行させられた。
• ·これらの脆弱性により、ブラウザが乗っ取られWhatsAppの連絡先にスパムが送信される恐れがある。

Marissa Cross covers the policy, business, and competitive forces shaping the AI industry for the LiberaGPT team. A former technology reporter with a background in legal and regulatory affairs, she focuses on what the headlines miss.