编辑：桃子 Joey

【新智元导读】Hinton对AI恐惧不是没有道理。现在，德克萨斯大学开发的一种类ChatGPT模型都能读心了，准确率高达82%，网友惊呼精神隐私在哪？

神经网络之父Geoffrey Hinton离职谷歌，直言对毕生工作感到后悔。

现在看来，他对AI的害怕，不是没有道理。

因为，一种类ChatGPT模型已经学会了读心术，准确率高达82%！

GPT读心，准确率高达82%

那么，这个恐怖的大脑解码器是怎么实现「读心」的？

这里，不得不提功能性磁共振成像（fMRI)技术，它能通过监测大脑皮层不同部位的血氧水平得到大脑的动态变化图像。

因此只需分析功能磁共振成像数据，就可以以非侵入性的方式，将参与者大脑中所想的故事甚至图像用语言描述出来。

麻省理工大学的神经科学家Greta Tuckute说，语言感知是一个外部驱动的过程，而想象力是一个活跃的内部过程，通过大型语言模型可以将内在的脑部活动展示在我们眼前。

我们现在是否能从大脑读取信息？是的，某种程度上可以。

有朝一日，这个解码器可能会被用来帮助那些丧失说话能力，或者调查心理健康状况的人们。

精神隐私，也没了

然而，解码人类思想的前景还引发了关于精神隐私的问题。

Huth博士指出，这种语言解码方法存在一定局限性。

因为，fMRI扫描仪体积庞大且价格昂贵，此外训练模型是一个漫长而乏味的过程，也就是必须对每个人都进行单独的训练。

对此，研究小组进行了一项额外的研究，使用接受过其他受试者数据训练的解码器，来解码新受试者的想法。

研究发现，对使用不同受试者数据进行训练的解码器，其表现几乎不怎么样。

简言之，只有使用受试者自己大脑记录的数据，来训练AI模型，其准确率才会非常高。

这表明每个大脑都有独特的表示意义的方式。

另外，参与者还能够屏蔽他们内心的独白，通过思考其他事情来摆脱解码器。比如数到七、列出农场动物，或叙述一个完全不同的故事。

也就是说，这一解码器要想要获得准确的结果，必须需要志愿者的配合。

然而，科学家们承认，未来的解码器可能会克服这些限制，未来可能会被滥用，就像测谎仪一样。

研究人员总结道，一个美丽的新世界正在到来，由于这些和其他不可预见的原因。

提高人们对大脑解码技术风险的认识并制定保护每个人精神隐私的政策是至关重要的。

在《黑镜》中有这样一幕，一位保险代理人使用一台机器（配备了视觉监控器和大脑传感器）读取人们的记忆，来调查一起意外死亡事件。

然而，这一未来或许就是现在。

德克萨斯大学研究者这一突破，直接推动了神经科学、通信和人机交互等领域潜在应用。

尽管「大脑解码器」还在研究中早期阶段，但有朝一日它可能被用于记录人们的梦境，并为脑机接口进一步发展提供动力。

负责这项研究的神经科学家Alexander Huth博士称，我们对这项工作的原理感到震惊。我为此研究了15年... ... 所以当它最终成功时，我感到非常震惊和兴奋。

看来，我们离《X战警》中X教授查尔斯大脑扫描技术又近了一步。

网友：AI通灵者

看过这项研究后，让许多人瞬间「炸脑」。有网友称，

人工智能不仅可以比我们快一万倍地交流，而且现在甚至可以读取我们的思想。在 「这太酷了」和 「等等，我们是不是要被淘汰了」之间只有一线之隔。

AI现在可以像通灵者一样读心。「Keep in mind」，这只是1.0版本。在未来，我们的想法将不再是隐私。世界经济论坛的第四次工业革命非常清晰地阐述了这一点。

这是首次以非侵入性方式从人类大脑活动中重建连续的语言!

对于这项研究，生物伦理学家 Rodriguez-Arias Vailhen称，目前为止，人类大脑一直是我们隐私的守护者。

「这一发现可能是在未来牺牲这种自由的第一步。」

参考资料：

https://www.nytimes.com/2023/05/01/science/ai-speech-language.html

https://www.nature.com/articles/d41586-023-01486-z