1、引言
2023年新年伊始,ChatGPT风靡全球,朋友圈相关文章持续刷屏,中美股市相关公司股票也是全线飘红。其实我个人从去年11月底OpenAI发布ChatGPT,就持续跟进关注,在我看来,ChatGPT的出现标志着强人工智能时代的来临,人类或许将会迎来Ray Kurzweil所说的技术奇点(Singularity)。因此,认真研究ChatGPT,理解其中蕴含的机遇与挑战具有非常重要的意义。
近期恰逢好友孙继伟教授邀请我参加一个活动,分享这个话题的个人看法,虽明知力有不逮,但也斗胆一试。能力有限,错误难免,欢迎大家拍砖。我计划从如下几个问题来展开说明。
而之所以能做到这一点,有赖于产品背后的算法模型,这其实也是ChatGPT的本来含义。按照ChatGPT给出的答案,这是一种由 OpenAI 公司开发的自然语言处理 (NLP) 模型,用于实现对话生成和语言模型预测,通过分析对话历史和当前语境,生成合适的回复文本。在英文中“chat”是聊天的意思,GPT是一种预训练语言模型(Generative Pre-trained Transformer)的缩写, ChatGPT其实就是基于GPT,然后利用人工微调升级的一个新语言模型。
GPT也在持续进化,最新到了3.5版本,GPT-3.5的相关数据并未被公开。从GPT-3公开信息来看,整个神经网络就已经有1750亿个参数。而要对这么多参数进行训练,所需要的数据和算力都是惊人的。
先说数据,GPT和其他大语言模型的数据来源大致包括如下六类,分别是:维基百科、书籍、期刊、Reddit链接、Common Crawl和其他数据集。根据2020OpenAI发布的关于GPT-3模型论文,训练数据集来源、文件大小(GB)和token数量(单位是Billion)如下图所示其中所有合计数据集容量为753GB,包含4990亿Token(0.7字节/Token)。
那么ChatGPT主要可以扮演哪些角色来帮助我们呢?个人以为,ChatGPT的优势在于能像人一样处理信息,即根据实际需要将问题简化并把握重点,而且它具有流畅自然写作的能力,能够准确地表达信息。基于ChatGPT告知用户信息、启发用户联想、帮助用户写作的作用,其优势特点可以用“百事通、点子王和笔杆子”三个关键词来归纳。ChatGPT自然的对话方式超越了搜索引擎的关键词抓取形式,使人机互动更加高效便利,带来人机互动新模式,进而让知识传递、获取和创造更加高效。
大哲学家维特根斯坦说过,语言就是世界。因为语言是我们表达世界观的重要工具,也会塑造我们对世界的看法。ChatGPT出现,破解了人类自然语言密码,直接促进了人机交流效率,间接促进了人际交流效率,必将对人类知识增长带来助力,或许会让人类拥有全新的世界观。
相关文章
猜你喜欢