PaLM 2在超过100种语言的多语言文本上进行了训练。
据介绍,PaLM 2在超过100种语言的多语言文本上进行了训练,这使得它在语言理解、生成和翻译上的能力更强,并且会更加擅长常识推理、数学逻辑分析。
PaLM 2的数据集中有海量论文和网页,其中包含非常多的数学表达式。在这些数据的训练后,PaLM 2能轻松解决数学问题,甚至是制作图表。
根据基准测试,对于具有思维链prompt(提示)或自洽性的MATH、GSM8K和MGSM基准评估,PaLM 2的部分结果超越了GPT-4。
谷歌健康团队打造的Med-PaLM 2。
目前谷歌正在尝试让它具备多模态能力,比如检查X光片然后给出诊断。在今年夏天晚些时候,这个模型将对一小部分谷歌云用户开放。
另一个专业大模型是面向网络安全维护的Sec-PaLM 2,它使用人工智能来帮助分析和解释潜在恶意脚本的行为,并在非常短的时间内检测哪些脚本实际上对个人和组织构成威胁。
另外,在Google Brain和DeepMind合并之后,新的大模型也在研制过程当中。皮查伊表示现在谷歌的研究重心正在转向Gemini——一种多模态和高效的机器学习工具。该模型是在今年才开始研发的,将具有像GPT-4一样的万亿参数。目前,Gemini仍在训练中,但已经展示出了以往模型中从未见过的多模态能力。
DeepMind副总裁祖宾·加赫拉马尼(Zoubin Ghahramani)在介绍 PaLM 2的博客中表示,他们发现模型并不总是越大越好。“壁虎”非常轻巧甚至能在移动设备上离线运行,也就是说在手机也能运行交互式应用程序,同时保证速度(每秒可处理20个token)。这意味着微调PaLM 2会更加方便,由此它也能支持更多产品和应用。
英伟达AI研究员Jim Fan对这样的尝试表示赞同,“下一波LLM(大型语言模型)将是移动原生的。一个离线的、永远在线的LLM不仅可以降低服务成本,而且还为用户体验开辟了全新的途径。例如,一个元应用程序可以从你的移动工作流程中学习,并为你实现自动化。在小屏幕上节省的生产力,将比在大屏幕上多得多。”
自动生成遛狗业务的收费表。
谷歌搜索蓝牙音箱。
但是要是想要访问这一功能,必须选择Search Generative Experience(SGE)这一新功能。并非所有搜索都会有AI生成的答案。只有当谷歌的算法认为它比标准答案更有用时,AI内容才会出现,而像健康、财务等敏感主题完全不会有AI生成。
发布会上,谷歌还宣布了一个重磅消息:聊天机器人Bard未来也能像ChatGPT一样,接入网络,实时搜索网页。
这次,Bard有诸多升级并很快就会支持各种第三方扩展,例如AI可以自动根据你输入的文本生成图像。
谷歌在发布会上展示了一个案例。假如用户问Bard,美国的新奥尔良有哪些必看的景点,那么Bard就能图文并茂地解答这个问题,就像用户在谷歌搜图中问同样的问题一样。
另一个功能是图像提示系统,由Google Lens提供,它能够识别图片中的物体。比如说,上传一张狗的照片,然后给一个prompt“为这两只狗写一个有趣的标题”。Google Lens就可以识别狗的品种,然后Bard就能写下与狗特征相关的内容
Tailwind操作演示。
Tailwind不仅仅能为学生服务,对任何从不同来源获取信息的人都有帮助。
隐藏在Tailwind背后的理念是,为什么不能为每个用户定制不同的AI语言模型呢?用户目前可以注册Project Tailwind进行测试。
三大基础模型上线谷歌云、安卓开发小助手等
在宣布了AI方面的一系列更新后,谷歌也为自己的云端机器学习平台Vertex AI推出了三款大模型:Codey(text-to-code,帮助程序员写代码)、Imagen(text-to-image,生成高质量图像)、Chirp(speech-to-text,方便沟通)。
LLM模型需要大量的计算能力来训练和运行。认识到这一点,谷歌云在谷歌I/O大会上宣布了一款新的A3超级计算机虚拟机。
谷歌在一份声明中写道:“A3 GPU VM专为当今的机器学习工作负载提供最高性能的训练而设计,配备了现代CPU、改进的主机内存、下一代英伟达GPU和主要网络升级。”
具体来说,该公司正在为这些机器配备英伟达的H100 GPU,并将其与专门的数据中心相结合,以获得具有高吞吐量和低延迟的巨大计算能力。
谷歌将以多种方式提供A3:客户可以自己运行它,或者如果他们愿意,可以将其作为托管服务运行,谷歌会为他们处理大部分繁重的工作。目前,客户只能通过注册预览等候名单来使用。
除此之外,谷歌I/O大会上也推出了专为Android开发的AI编码机器人Studio Bot。它不仅可以生成代码、修复BUG,甚至能够回答关于安卓应用开发的相关问题。同时支持Kotlin和Java编程语言,并将直接嵌入到Android Studio开发工具的工具栏中。
谷歌还宣布推出搜索实验室,这是一种让消费者在搜索中测试“大胆的新想法和我们正在探索的想法”的新方式。
搜索实验室限时提供三个主要功能。第一个称为搜索生成体验(SGE),将生成式AI直接引入谷歌搜索。 “新的搜索体验可以帮助您快速找到并理解信息。”谷歌表示, “在搜索时,您可以通过AI驱动的概述、探索更多内容的指示以及以自然跟进的方式来了解主题的要点。”第二个功能是,搜索提示还提供代码提示,使用大型语言模型提供片段和“更快更智能地编写代码的指针”。最后,“添加到表格”可以将搜索结果直接插入到电子表格中。例如,如果计划使用表格文档安排度假,可以直接从谷歌搜索轻松添加链接。
相关文章
猜你喜欢