> 自媒体 > AI人工智能 > 浙江大学人工智能研究所所长吴飞:ChatGPT的训练门槛是1万张英伟达V100芯片、约10亿人民币
浙江大学人工智能研究所所长吴飞:ChatGPT的训练门槛是1万张英伟达V100芯片、约10亿人民币
来源:每日经济新闻
2023-04-09
270
管理

每经记者:杨煜 每经编辑:张海妮

今日(4月8日),由中国人工智能学会主办的“人工智能大模型技术高峰论坛”主论坛在杭州萧山启幕。论坛上,CAAI教育工委会主任、浙江大学人工智能研究所所长、求是特聘教授、国家杰青获得者吴飞发表演讲。

吴飞教授作了《从ChatGPT到GPT-4的分析与思考》主题报告,他指出,在ChatGPT的技术路线中,数据是燃料、模型是引擎、算力是加速器。

具体而言,数据方面,训练中使用了45TB数据、近1万亿个单词(约1351万本牛津词典所包含单词数量)以及数十亿行源代码。模型方面,包含了1750亿参数,将这些参数全部打印在A4纸张上,一张一张叠加后,叠加高度将超过上海中心大厦632米高度。算力方面, ChatGPT的训练门槛是1万张英伟达V100芯片、约10亿人民币,模型训练算力开销是每秒运算一千万亿次,需运行3640天(3640 PetaFLOPs per day )。

吴飞表示,ChatGPT和GPT-4中以“共生则关联”为核心的概率统计模型,体现了“计算独大、表示丰富和机理式微”的特点,这也反映了计算机所体现的“试错与暴力”优势。吴飞还在报告中分析了GPT所包含1750亿参数的涌现了合成能力,是多者异也的结果。吴飞表示:“我们不仅需要善于制造工具,还要善于去利用ChatGPT这个工具开创更加美好的时代,因为在人和人造物协同共长的时代,人有人的作用。”

每日经济新闻

1
点赞
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与华威派无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
凡本网注明 “来源:XXX(非华威派)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。
如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。
QQ:2443165046 邮箱:info@goodmaoning.com
关于作者
冷熙(普通会员)
点击领取今天的签到奖励!
签到排行
1
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索