随着大模型技术的普及，AI 聊天机器人已成为社交娱乐、客户服务和教育辅助的常见工具之一。

然而，不安全的 AI 聊天机器人可能会被部分人用于传播虚假信息、操纵舆论，甚至被黑客用来盗取用户的个人隐私。WormGPT 和 FraudGPT 等网络犯罪生成式 AI 工具的出现，引发了人们对 AI 应用安全性的担忧。

上周，谷歌、微软、OpenAI 和 Anthropic 共同成立了一个新的行业机构前沿模型论坛（Frontier Model Forum），促进前沿 AI 系统的安全和负责任的发展：推进 AI 安全研究，确定最佳实践和标准，促进政策制定者和行业之间的信息共享。

图｜4 个语言模型生成的有害内容

对于这一问题，学界也发出了警告，并给出了一些建议。

麻省理工学院计算学院的教授 Armando Solar-Lezama 表示，对抗性攻击存在于语言模型中是有道理的，因为它们影响着许多机器学习模型。然而，令人惊奇的是，一个针对通用开源模型开发的攻击居然能在多个不同的专有系统上如此有效。

Solar-Lezama 认为，问题可能在于所有 LLMs 都是在类似的文本数据语料库上进行训练的，其中很多数据都来自于相同的网站，而世界上可用的数据是有限的。

“任何重要的决策都不应该完全由语言模型独自做出，从某种意义上说，这只是常识。”他强调了对 AI 技术的适度使用，特别是在涉及重要决策或有潜在风险的场景下，仍需要人类的参与和监督，这样才能更好地避免潜在的问题和误用。

普林斯顿大学的计算机科学教授 Arvind Narayanan 谈道：“让 AI 不落入恶意操作者手中已不太可能。”他认为，尽管应该尽力提高模型的安全性，但我们也应该认识到，防止所有滥用是不太可能的。因此，更好的策略是在开发 AI 技术的同时，也要加强对滥用的监管和对抗。

担忧也好，不屑也罢。在 AI 技术的发展和应用中，我们除了关注创新和性能，也要时刻牢记安全和伦理。

只有保持适度使用、人类参与和监督，才能更好地规避潜在的问题和滥用，使 AI 技术为人类社会带来更多的益处。