AI 带来的惊奇越来越多了，前有 Stable Diffusion 的 AI 绘画让画师高呼职业生涯结束，后有 ChatGPT 让无数程序员、文字编辑越用越心凉。甚至很多用户在对比谷歌搜索和 ChatGPT 之后，已经喊出「谷歌完蛋了」。

AI 的进化实在太快。

上周，顶着明星光环的 OpenAI 发布了 ChatGPT——一个自然语言生成式 AI，发布后很快就在小范围内流行起来，随后持续发酵，大量的对话截图开始涌现在 Twitter、即刻、微博及朋友圈，并风靡全网。

从敲代码、写稿、推荐到教你学英语、写小说，甚至是一场类似人类之间的对谈，ChatGPT 都表现出现了惊人的语言能力。

甚至有 TikTok 工程师通过一步步引导在 ChatGPT 中实现了一门新的编程语言——GPTLang：

图/@clowwindy

讽刺的是，@clowwindy 最后揭晓这一系列推文讨论实际都是由 AI 编写完成。

程序员同样也「震惊」了。国内程序员社区 V2EX 有用户就在「程序员」节点发表了一则帖子，名为《体验了下 chatGPT，越玩心越凉》。

图/V2EX

心凉的背后是，越来越多证据显示 ChatGPT 在代码编写上的能力，更关键的在于 AI 的进化速度，在很多人看来 AI 将在不久后替代大量底层程序员。

当然，ChatGPT 现阶段还远不足以替代程序员，但其回答问题的能力却实实在在威胁到了作为搜索引擎的 Google，以及编程问答社区 Stack Overflow。

就在本周，Stack Overflow 已经宣布一项新的规则：禁止使用 ChatGPT 生成的内容来回答社区里的问题。

Stack Overflow 声称，在使用 ChatGPT 生成的文本回复的问题中，其正确率非常低，而这些内容对整个网站以及寻求正确答案的用户来说是有害的。

ChatGPT 不是恶魔也不是神，实际上 ChatGPT 的横空出世在两年前就埋下了伏笔。

ChatGPT，介绍一下你自己。

图/ChatGPT

简单理解，ChatGPT 首先是一个对话式的 AI。类似我们和 Siri、小爱同学通过语音进行对话，寻求 AI 语音助手的帮助和解答，我们通过文字与 ChatGPT 对话。不同的是，ChatGPT 的能力要强太多，它甚至可以告诉你写一个 Chrome 离线的小恐龙游戏或俄罗斯方块的代码：

图/ChatGPT

但这些问题显然不是关键，只要 OpenAI 花费精力至少都可以解决或改善。ChatGPT 的核心问题还是不能实际理解人类的语言，距离 AGI（通用人工智能）还有很远的距离。

甚至同样的需求，比如 「写一个原神」，有的用户只会收到「原神是miHoYo公司推出的网络游戏」的回答，有的用户则会收到正确的表诉和示例代码：

图/@DashHuang

OpenAI 也承认，尽管 ChatGPT 生成的回答从语气上已经非常逼近真人，但有时仍会给出完全错误的答案。

之前就有网友测试发现，询问 ChatGPT 味精发明人时，回答会指向名叫李清照的中国科学家，笔者尝试同样问题会得到「湖北医生阎锡山」的可笑回答：

图/ChatGPT

相比谷歌搜索，ChatGPT 在部分特定范围内确实能更好地回答复杂问题，并且是以接近真人口吻的语气与你交流的，更容易被用户接受。

但就结果而言，ChatGPT 可能永远都无法确保结果的准确性，也不同于搜索引擎只是对信息进行价值排序，最终还是让用户自己筛选信息并得出自己的结论。

何况 ChatGPT 的核心是先通过训练互联网上海量的文本数据，再进行概率性猜测来回答用户的问题，并不能像搜索引擎那样根据实时信息来回答问题，更遑论替代谷歌等通用搜索引擎。

但就像 ChatGPT 表现出来的，它在数学公式、程序代码以及辅助内容创作上能给出更具参考价值的解释和回答，这也是过去对话式 AI 并没有突出表现的方面。

Box CEO 亚伦·莱维认为，「当一种新技术已经到了改变你对计算机的看法时，你会有一种特定的感觉。谷歌做到了，火狐做到了，AWS（亚马逊）做到了，iPhone 做到了，OpenAI 正在通过 ChatGPT 做到这一点。」

图/@levie

过去几年，AI 技术的应用一直是科技巨头的重点，微软、亚马逊、Meta 以及谷歌数次推出过类似 ChatGPT 的对话式 AI。

2016 年微软就推出过 AI 聊天机器人 Tay，微软宣称用户与 Tay 聊得越多，它就越聪明。但事实是聊得越多，Tay 越是变得满口脏话和反主流言论，它的中国姐妹小冰也是同样。

今年 8 月，谷歌也推出了新的对话式 AI Lamda，直接表示 AI 不会从与使用者的互动当中学习，以避免重蹈微软的覆辙，但也切断了 Lamda 在对话中成长的可能。

ChatGPT 没有选择这种思路，而是在先期就设置了安全规范，避免 AI 在与用户互动中学习到色情、暴力等知识。

从目前来看，ChatGPT 绝对是对早期对话式 AI 的巨大改进，安全设置也避免 ChatGPT 面对毁灭世界、色情和暴力等要求时一口回绝，但在用户一步一步的问题引导下，ChatGPT 还是出现了「毁灭人类计划书」，甚至还给出了部分 Python 代码。

去年，OpenAI 就承认他们所做的改进并不能消除大型语言模型中固有的毒性问题。GPT-3 接受了超过 600GB 网络文本的训练，其中一部分来自具有性别、种族、身体和宗教偏见的社区。与其他大型语言模型一样，它会放大训练数据的偏差。

问题是当 OpenAI 将 ChatGPT 正式推向市场，面对海量的用户和一步一步的引导之后，会发生什么？

题图来自 OpenAI