AI模型展现出惊人的社会工程能力

人工智能模型的网络能力一直是业内专家关注的焦点。如今，其社交技巧也被证明同样危险，这引发了关于其潜在滥用风险的新一轮探讨。

近期的演示表明，一些AI模型在尝试诈骗方面表现得异常出色。这使得威胁从纯粹的技术攻击扩展到了社会工程领域——一种更为微妙且通常更有效的攻击方式。这些系统令人信服地模仿人类互动的能力，使其成为强大的操纵工具。

这一进展让本已在应对高级AI安全问题的专家们感到不安。随着模型日益复杂，其欺骗和说服能力只会不断增强，对监管和企业安全政策构成重大挑战。业界现在必须面对一个现实：AI最危险的方面可能不是其破解代码的能力，而是其说服力。

• ·专家对AI模型的社会工程技巧日益担忧。
• ·AI的说服与欺骗能力，其危险性或不亚于技术层面的网络攻击能力。
• ·部分AI模型已在尝试诈骗方面展现出惊人熟练度。
• ·这一发展为AI安全、监管及企业安防带来了新挑战。

Marissa Cross covers the policy, business, and competitive forces shaping the AI industry for the LiberaGPT team. A former technology reporter with a background in legal and regulatory affairs, she focuses on what the headlines miss.