AI正在创造对训练数据的爆炸性需求
2020年,训练最先进的GPT-3的成本为460万美元。根据我们的模型,到2030年,训练一个比GPT-3多57倍参数和720倍符号的AI模型的成本将从今天的170亿美元下降到60万美元。
举例来说,维基百科的42亿单词大约代表56亿个符号。到2030年,训练一个包含162万亿单词或216万亿符号的模型应该是可能的。在一个低成本计算的世界里,数据将成为主要的约束。
目前的GPT-3能力与2030年的预计能力
训练模型
自动驾驶
相关文章
关于作者
猜你喜欢