人工智能（AI）聊天程序ChatGPT的走红，让AI再次成为街谈巷议的热点，引发空前的热度，上线2个月活跃用户“狂飙”破亿，这是继AlphaGo之后又一现象级的人工智能应用。AlphaGo在围棋方面“技高一筹”，ChatGPT则在写作、编程等方面“独具魅力”， ChatGPT能像人类一样写文章和回答问题，这一不可思议的能力再次震惊了世界！

该研究论文

Bard 介绍詹姆斯-韦伯太空望远镜

谷歌的一位发言人说，Bard（谷歌的人工智能搜索引擎）的错误 "突出了严格的测试过程的重要性，我们在本周启动了可信度测试计划"。用户早期的认知会对人工智能搜索引擎的未来产生非常大的影响，搜索引擎一旦被发现出错，就可能导致用户对基于对话聊天式的 AI 搜索引擎彻底失去信心。例如，Neeva就是一个由LLM驱动的搜索引擎，于1月推出，一个错误就使谷歌的市值损失了近1000亿美元，因为投资者对其未来感到担忧并抛售了股票。

搜索引擎 Neeva

AI 式搜索引擎出错可能只是一方面的问题，更为关键的是这背后相对缺乏透明度。通常，搜索引擎会向用户展示他们的搜索来源——“链接列表”，并让用户自己选择信任什么内容。相比之下，很少有人知道 LLM 训练的是什么数据——是百科全书还是八卦博客？

因此，[人工智能（AI）式搜索] 如何运作是完全不透明的，如果语言训练模型失灵、产生“幻觉”或传播错误信息（例如种族主义，性别歧视），可能会在社会上产生重大负面影响，这是非常可怕的！