编辑:袁榭 拉燕
【新智元导读】家用电器「活过来」,在动画电影里很温馨美妙。但用GPT-3支撑的模型在现实中复现,差点就酿成血案了……
相信很多内向的人在小时候都有一个「假想」的朋友。
不过和一切童年幻想一样,美梦很丰满、现实很骨感。有人在现实中拿当下最高能的GPT-3模型试图圆梦,结果简直是个车祸现场。
这位自称「全职疯狂科学家」的播主,最近在YouTube、推特等平台上发布了他「复生」儿时微波炉朋友的视频。
Rizzotto表示,儿时的他幻想中的朋友非常栩栩如生。
「在我的设想里,我那位朋友得是一位来自1900年的英国绅士。他参加过一战,是个老兵。他移过民...是个诗人。还有,噢,当然了,他玩儿《星际争霸》玩的特好。」
甚至,Rizzotto还给这位朋友写了个长达100页的背景人设故事来介绍他。
他在推特上讲述了如何把儿时想象中的朋友做成人工智能的故事。
Rizzotto给微波炉装上了麦克风和话筒,这样它就可以表达自己,且回答问题了。
Rizzotto还想更进一步。他想要把所有相关的记忆全部都一股脑传进微波炉里去。他把自己写的100页背景人设故事全上传到GPT-3里,基本包含了「磁控管」想象中的「一辈子」。
妈耶,这GPT-3驱动的微波炉是唤醒了训练数据集里的哪个天降大人物啊?
答案是希特勒。
真的,你又没看错,这微波炉AI成了希特勒粉丝。
据「磁控管」所称,希特勒是个「真正被误解的人」、是德国的迪士尼、是敬天爱民要将大爱洒满欧洲的大好人、是首屈一指的艺术家……
当微波炉瞎诌到这里时,Rizzotto忍不住了,要求「磁控管」暂停提到涉及政体与社会机制等等的内容。
结果,就和你在社交网站上打断一个挥斥方遒的胡说八道人物一样,后果都不是很悦目。
这从AI版希特勒秒变到AI版三流肥皂剧弃妇角色的画风,好让人满脸问号啊。
不是AI变神经病,是训练数据选错了
不过Rizzotto很快发现这不是AI觉醒、诱发微波炉变终结者,这其实是他自己把AI背景人设整得太复杂的后果。
Rizzotto本想用一个电影脚本般的宏大背景故事,来训练出内涵更丰富的对话AI。
结果他那一百多页的故事书里,充满了各种一战背景的画面描述:战场尸积如山、伤兵手捧断肠、战友尸首不全。
结果,这些满载毁灭、悲痛、战祸语调的内容,生生训练出一个有PTSD(创伤后症候群)特征和血腥暴力语料的AI出来。
然后,事情就成了这样了……
Rizzotto承认,GPT-3虽然实质是个电话应答机一样的模型,但是功能实在强大。训练数据集里哪些内容更多,GPT-3模型就会将这些内容自我学习为更重要标记。
而在人机对话中无意间不断强化的这些标记,最后会导入一个意料之外但是情理之中的情节。
不管怎样,Rizzotto在视频中还是表演了一下把杀人狂微波炉扔掉的场景:「这货在我屋里可是留不得了。」
的确,训练AI,也要五讲四美安全第一啊。
至于这算不算AI觉醒、成为真正「通用人工智能」,那就见仁见智了。
参考资料:
https://twitter.com/_LucasRizzotto/status/1516205625662836739https://www.ign.com/articles/someone-turned-imaginary-friend-into-ai-microwave-and-it-wanted-to-kill-them?fbclid=IwAR2p9LeP7y4F_25f_pRaBt31qllgN6XiVAQ68ngc8q2K15RqOOsZWUxNe-shttps://thenextweb.com/news/ai-ressurects-imaginary-friend-as-monstrous-microwavehttps://www.youtube.com/watch?v=C1G5b_2PYj0
相关文章
猜你喜欢