7月13日，国家网信办等七部门联合对外发布《生成式人工智能服务管理暂行办法》（以下简称《办法》），在促进生成式人工智能发展的同时，对传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题作出回应。

近年来，生成式人工智能技术快速发展，为经济社会发展带来新的机遇，也产生了诸多问题。总的来看，《办法》对提供和使用生成式人工智能服务作出规范，鼓励其创新发展，同时实行包容审慎和分类分级监管。《办法》自2023年8月15日起施行。

文本、图片、音频、视频等均被纳入规定范围

《办法》将利用生成式人工智能技术向境内公众提供生成文本、图片、音频、视频等内容的服务，纳入规定范围，统称为生成式人工智能服务，并提出五点总体要求。

其中提到，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容。

此外还包括，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

明确服务提供者与使用者权责，要求对未成年人“防沉迷”

在生成式人工智能服务的两端，分别是服务的提供者和使用者。《办法》要求，提供者应当与使用者签订服务协议，明确双方权利义务。

比如，提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。同时，对违法内容应当及时采取停止生成、停止传输、消除等处置措施。

使用个人信息进行数据训练，应取得个人同意

《办法》全文多处提及个人信息保护问题，要求服务提供者使用个人信息进行数据训练时，需要取得个人同意；提供服务时，依法保护使用者的输入信息和使用记录，不得收集非必要个人信息等。

具体包括，规定提供者在开展预训练、优化训练等训练数据处理活动时，涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形。

在提供服务过程中，提供者要履行个人信息保护义务。不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。此外，提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。

在监督检查环节，《办法》还规定，参与安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当保密，不得泄露或者非法向他人提供。

新京报记者 姜慧梓

编辑 刘梦婕 校对 李立军