> 自媒体 > AI人工智能 > 关于chatGPT-3的信息整理
关于chatGPT-3的信息整理
来源:托月山大娇
2023-09-02
168
管理

ChatGPT是由OpenAI开发的大型语言模型,它采用了GPT(Generative Pre-trained Transformer)架构。GPT是一种基于Transformer模型的语言生成模型,其目标是通过对大量文本数据进行预训练,从而使其具备生成连贯、有逻辑的语言回复的能力。

一、数据等级(Data scale)指的是训练模型所使用的数据量大小。GPT-3模型是ChatGPT的前身,使用了数十TB的文本数据进行训练。尽管具体的数据规模并没有公开披露,但据了解,它的训练数据涵盖了互联网上大量的多样化文本内容,包括维基百科、新闻文章、书籍、论坛帖子等。目前截止数据是2021年9月。

二、层级(Model size)指的是模型的规模和复杂程度。GPT-3模型拥有1750亿个参数(即1750 billion parameters),这使得它成为当时最大的语言模型之一。这种巨大的模型规模使得GPT-3在生成文本时能够产生非常流畅、具有逻辑连贯性的回复,具备一定的语义理解和推理能力。

三、值得注意的是,GPT-3是在2020年发布的,而ChatGPT是基于GPT-3.5架构的模型,所以对于GPT-3.5的具体数据等级和层级,没有具体信息。

据说已经发布了3.5版本,估计会有较大的提升,我们拭目以待。也期待国内有志青年投身人工智能行业,追赶世界的脚步,勿要错过这波风口。

0
点赞
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与华威派无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
凡本网注明 “来源:XXX(非华威派)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。
如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。
QQ:2443165046 邮箱:info@goodmaoning.com
关于作者
乖乖(普通会员)
点击领取今天的签到奖励!
签到排行
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索