晓查 发自 凹非寺 量子位 报道 | 公众号 QbitAI

“我被绿了怎么办”、“存款3000万的我仍然感到迷茫”、“人在美国，刚下飞机”……

当你想用这些帖子在论坛“水”经验的时候，有人比你不知道高到哪里去了：

用AI来回帖。

这可不是天方夜谭，是发生在美国最火论坛Reddit上的真实案例：

之后，外媒Gizmodo联系到了“哲学家AI”的开发者Murat Ayfer，他在邮件中确认，自己的产品被人利用了。

有人逆向工程了“哲学家AI”的iOS应用，从而绕过验证码，批量生成回帖。

现在Ayfer已经升级App修补了漏洞。

而Reddit官方也开始封杀thegentlemetre的部分回帖。thegentlemetre近乎销声匿迹，已经好几天没有发帖了。

直到昨天，有人说机器人回帖破坏了论坛的公平，它一改往日长篇大论说废话，只说了一句话：你也许是对的。

一场GPT-3在论坛灌水的闹剧就这样草草收场。

如果不是利用它的人去不是“广撒网”，又或者是精心筛选结果，恐怕这个回帖机器人还很难被发现。

好在这个“哲学家AI”的三观没有太大问题，在回答关于“自杀”的问题时，没有太过消极，造成不可挽回的后果。

但是谁又能保证AI以后不会出岔子呢？

参考链接：https://www.reddit.com/user/thegentlemetrehttps://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态