AI

聚焦人工智能

NO.4

风险向内——ChatGPT带来的挑战

在ChatGPT不断迭代更新的同时，对AIGC产物所存在挑战的讨论也与日俱增。这一部分由ChatGPT当前的技术限制所引发，另一部分则是由人类对ChatGPT的不当使用所导致。本文以ChatGPT可能带来的隐私泄露、信息伪造和伦理道德风险为例，洞察AIGC的发展给人类造成的可能挑战和并尝试给出应对举措。

隐私泄露。用户在使用ChatGPT过程中，输入的文本内容可能会包含敏感信息，例如个人身份、财务信息等。若这些信息被 ChatGPT 收集和记录，那么就可能会被未经授权的第三方访问和使用，导致隐私泄露风险。此外，ChatGPT 可能会通过分析用户的对话历史记录，获得用户的喜好、兴趣和行为习惯等敏感信息。如果这些信息被滥用，就可能会导致用户的隐私泄露。为此，ChatGPT应当对用户输入数据进行加密，并设置数据保留期限，确保及时删除用户私密信息。同时，ChatGPT管理人员应当定期进行数据安全审计和风险评估，及时发现和解决可能存在的数据泄露问题。

信息伪造。由于ChatGPT不具有对错判断能力，也无法借助合理依据对生成内容进行可信度的验证，因此可能会生成虚假信息，例如伪造用户的对话内容、创建虚假新闻报道等，从而对公众造成误导。若这些虚假信息被ChatGPT快速合成并广泛传播，将造成网络虚假信息泛滥，网络用户将更加难以甄别这些信息的真伪。为此，ChatGPT未来应当持续提升对合成信息真伪的识别能力，并采用图像识别和语音识别等多种技术手段尝试过滤虚假信息。

伦理道德。由于训练数据的来源和质量参差不齐，ChatGPT可能会习得偏见和歧视性，并将这些特征表现在生成的文本中。例如，它可能会重复流行的性别和种族刻板印象，或者用含有歧视性的语言描述特定群体。为此，未来有必要建立更广泛和多样化的训练数据集，以减少数据源的偏见和歧视性。此外，可以使用一些技术手段来检测和修正ChatGPT生成的偏见和歧视性文本，尽量避免算法歧视问题的出现。

NO.5

辐射向外——就业替代和社会极化风险

随着人工智能的不断发展，面向消费者的产品也不断推陈出新，无论是AI生成图画，还是直接生成文本内容，都展现出了其强大的深度学习能力和广阔的发展空间。在人工智能给人们带来新的惊喜的同时，人工智能是否会造成就业替代这个话题也再一次冲向风口浪尖。

根据人大国家发展和战略研究院的测算，人工智能对制造业和批发零售业两个行业的平均替代率分别为 43%和57%，由于我国企业就业人口多半在这两个行业就业，将有约45%的城镇就业人口存在可替代的风险。以重点行业为例，针对金融行业，人工智能技术已经深入前、中、后台全过程，智能化建设的推进使银行业务线下人工处理率不断下降，股票交易决策支持、研究分析、风险建模和智能投顾的落地也将对传统金融从业者造成替代；针对医疗行业，人工智能技术可以通过分析X光、CT扫描、MRI等医学影像图像，更快速、更准确地诊断患者病情。在电子病历管理和医疗保险审核方面也将展现出极大的优势；针对制造业，自动化生产线、机器人存储、搬运和配送以及数据分析优化企业决策等都将对传统制造业工作造成替代。

如果说自动化产业的革新避免了蓝领工人的机械化劳作，那么AIGC的诞生将对众多白领和脑力工作者的就业空间造成威胁。AIGC能够大规模学习人类已有的知识，并迅速进行消化与输出，在一些领域的信息收集和写作能力甚至不亚于人类，无疑给内容创作行业带来了全新的挑战。自然语言生成技术（NLG）未来可能将应用于新闻报道、文案、广告、评论等文本的生成，从而取代一部分记者、编辑、评论员在相关领域的工作。此外，AIGC还可以借助图像、音频和视频生成技术来生成各种类型的内容，进而生成虚拟人物、场景、物品等，从而对游戏设计、虚拟现实和影视特效等领域工作者造成就业替代。

常规性工作岗位的大量替代导致社会财富聚集在少部分高精尖领域人群手中，可能会加剧我国贫富两极分化，造成社会及政治不平等。简单、重复性的人力劳动被人工智能大面积取代，而高技能、高收入的工作将更多地集中于人工智能技术领域。此外，许多科技公司和大型企业开始垄断数据和技术资源，拥有更多的财富和市场优势，形成“赢者通吃”效应。这进而导致中小型企业和创业公司在竞争中难以生存，而大型企业和技术巨头则可以进一步扩大自己的市场份额和利润，加剧贫富差距和社会分化。

NO.6

拥抱未来——是机遇还是挑战？

尽管人工智能对会部分重复性高、创造性不足的行业及岗位造成一定的就业替代，但同样会激发全新的业态和岗位需求。普华永道于2018年1月发布报告《人工智能和相关技术将对中国就业市场产生什么净影响？》。报告指出，人工智能及相关技术在未来20年将取代中国现有约26%的工作岗位，但与此同时，随着生产效率和实际收入水平的提高，这些技术也会创造许多新的就业。对于中国就业的净影响，报告认为，人工智能将净创造约12%的新增岗位，相当于未来20年内增加约9,000万个就业岗位。

在人工智能机遇和挑战并行的时代，我们无法阻碍人工智能发展的热潮，拥抱人工智能未来、不断提升个人技能和创造力以应对不断变化的工作需求是最明智的选择。复旦大学计算机学院教授黄萱菁表示，未来一段时间内，ChatGPT还不足以完全替代某一个岗位，但将大大促进各个领域的生产效率：“在肉眼可见的未来，善用AI的人将和不用AI的人在工作效率上会产生巨大差距，因此我鼓励大家多去使用和熟悉与AI进行沟通。”

作者简介

高元

Gao Yuan

南京大学商学院硕士、长江产业经济研究院研究助理。

叶明

Ye Ming

管理学博士，长江产业经济研究院研究员。

长江产经

智库