编辑：编辑部
【新智元导读】最近，全世界都燃起一股围剿ChatGPT的势头，除了业内大佬，欧盟各国和白宫也纷纷出手。然而，恐怖的是，GPT-4已经悄悄拥有了自我进化的能力。
GPT-5的威胁，已经黑云压顶。
GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。
最近，似乎全世界都在围剿ChatGPT。
前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。
紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并禁止其进一步发布GPT-4。
而意大利直接全国上下封禁了ChatGPT，只给OpenAI 20天的调整适应期，拿不出合格的方案，就得交最高2000万欧元的罚款。
封杀ChatGPT狂潮席卷全球
有趣的是，自从意大利开了这个头之后，其他一些国家也跃跃欲试，准备要对ChatGPT开刀。
法国和爱尔兰的隐私监管机构，已经联系了他们的意大利同行，希望得到更多关于调查的详细资料。
德国联邦数据保护专员Ulrich Kelber表示：「从原则上讲，德国也有可能采取类似的程序。」
此外，欧盟也提出草案，计划将ChatGPT视为高风险的AI系统进行监管。
据路透社报道，在总统科学技术顾问委员会 (PCAST) 会议中，拜登强调，「在我看来，科技公司有责任确保他们的产品在公开之前是安全的。」
而在被问及AI是否危险时，他说，「还有待观察，有这种可能性。」
拜登表示，强大技术在没有保护措施的情况下会造成哪些危害，在社交媒体上已经很明显了。
「因为缺乏保障措施，我们看到技术影响了人们的心理健康，让他们对自我形象产生了自卑和绝望，这种影响在年轻人中尤为明显。」
他再次呼吁国会通过两党隐私立法，限制科技公司收集的个人数据，禁止针对青少年的广告，并在产品开发中优先考虑健康和安全。
受此消息影响，在拜登召开这次会议之前，AI公司的股价均出现大幅下跌。
ChatGPT概念股C3.ai的股价持续走低，收跌26.34%报24.95美元，市值28亿美元，创该股上市以来最大日内跌幅。
论文地址：https://arxiv.org/abs/2303.11366
为了验证方法的有效性，研究人员评估了智能体在AlfWorld环境中完成决策任务的能力，以及在HotPotQA环境中完成知识密集型、基于搜索问答任务的能力。
在这两项任务的成功率分别为97%和51%。
Reflexion智能体的整体架构
有网友便表示，你可以通过要求 GPT-4 反思「你为什么错了？」，并为自己生成一个新的提示，将这个错误原因考虑在内，直到结果正确，从而将GPT-4的性能提高惊人的30%。
这样看来，就像Eric Jang所说，
我们现在可以考虑一种「后缀提示工程」，而不是巧妙的「前缀提示工程」。这将鼓励LLM在先前生成的解决方案中找到更正和不一致的地方。
论文一出瞬间爆火，许多AI研究者表示，这篇论文为人们打开了思路，让大语言模型未来可以成为所有事情的起点。
同样，最近浙大和微软亚研院新出的论文「贾维斯」HuggingGPT在业界引起很大的关注。
Auto-GPT让人们更进一步了解到GPT-4强大能力，甚至有网友做了一张梗图：
从错误中学习，是智力的基础。
如此看来，GPT-4打败自己，想要成为超级AI。
而根据某大佬的最新消息，OpenAI非常清楚，最近他们AI产品的快速迭代引起了极度强烈的反响，而他们也欢迎公众的监督。
其负责人表示，目前risk per token还没到临界点，所以GPT的滥用还造不成太大的伤害。而AI对齐的路线图，即将在几个月内发布。
参考资料：
https://www.youtube.com/watch?v=5SgJKZLBrmg
https://www.reuters.com/technology/bill-gates-says-calls-pause-ai-wont-solve-challenges-2023-04-04/
https://www.cnbc.com/2023/04/04/italy-has-banned-chatgpt-heres-what-other-countries-are-doing.html
相关文章
关于作者
猜你喜欢
