大家好,我是你们的宝藏君。今天,我要给大家带来一条来自科技界的重磅新闻。美国联邦贸易委员会(FTC)已经对广受欢迎的聊天机器人ChatGPT展开了调查。据悉,该机构正在研究这款AI工具是否通过生成关于用户的错误信息对人们造成了伤害。
这一消息首次由华盛顿邮报报道,FTC的调查还包括OpenAI的隐私和数据安全实践。一位知情人士证实了这一调查的存在。
FTC在一封20页的信中要求OpenAI提供公司记录和数据,包括公司政策和程序、财务收入以及用于训练其聊天机器人的大型语言模型的详细信息。该机构写道,它正在调查该公司是否“参与了对消费者,包括声誉伤害的风险的不公平或欺诈行为”。
OpenAI的CEO Sam Altman在周四下午通过Twitter回应说,他对FTC的请求以泄露开始感到失望。然后他补充说,“尽管如此,我们非常重视我们的技术是安全和亲消费者的,我们有信心我们遵守了法律。”
FTC的调查是政府监管行动涉及AI行业的新领域,这个行业在过去的一年中人气激增。Altman本人经常警告AI的风险,并建议新技术需要被监管。他已经在国会作证,并与美国总统Joe Biden和副总统Kamala Harris会面。
从纽约到加利福尼亚的立法者们一直在讨论如何监管这个蓬勃发展的技术。加利福尼亚民主党国会议员Ted Lieu提议组建一个AI委员会来研究该技术的影响。参议院多数党领袖Charles Schumer正在研究可能的AI立法。但专家们说,监管可能需要几个月,甚至几年的时间。
“OpenAI、微软和其他销售生成AI系统的公司都表示他们欢迎监管,”NYU Stern商业和人权中心的副主任Paul Barrett说。“FTC已经做出了适当的回应——寻求行业领导者OpenAI如何组装和改进其人工智能模型的广泛披露。”
在Lina Khan的领导下,FTC已经对Meta、亚马逊和微软等大型科技公司进行了追踪。这个监管机构也反复表示,AI属于消费者保护法的范畴。
“现行法律没有AI豁免权,”Khan在四月的新闻发布会上说。
Khan在周四向众议院司法委员会作证,讨论该机构保护消费者免受不公平或欺诈行为的工作。她谈到了该机构对A.I.和像ChatGPT这样的工具的担忧,说他们正在被大量数据喂养,而他们使用的数据类型并不清楚。
“我们听说有报告,人们的敏感信息在别人的查询中出现,”Khan说。“我们听说过,诽谤,诽谤性声明,完全不真实的事情正在出现。这就是我们所关心的欺诈和欺骗。”
ChatGPT因为对各种个体,包括广播主持人和律师的错误信息而受到了审查。在一次事件中,聊天机器人说一名律师被指控骚扰一名学生——但据报道,这个事件从未发生过。
除了来自虚假声明的潜在消费者风险外,FTC还对ChatGPT的安全问题表示关注。在其信中,它指出了OpenAI在三月份揭示的一个事件,称其系统中的一个错误让一些用户看到其他用户的聊天历史和“与支付相关的信息”。
一些行业团体和保守派智库已经谴责了FTC的调查,称它可能会扼杀创新。
“这封信显然是FTC的敲诈,”犹他州增长和机会中心的高级研究员Will Rinehart说。“这也是一个冒险的举动。来自AI的进步可能会提高美国的生产力。Khan主席已经将整个行业置于瞄准镜下。”
以上就是今天的新闻,我们将继续关注此事的进展。
点赞关注,好奇君将继续带来更多有料的新闻哦
相关文章
猜你喜欢