网信办发布《生成式人工智能服务管理办法（征求意见稿）》

    本报记者 田鹏

    4月11日，据国家网信办官网消息，为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》（以下简称《管理办法》），提出二十一条举措。

    具体来看，《管理办法》提出，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：

    一是利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

    二是在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

    三是尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。

    四是利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

    五是尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

    同时，《管理办法》就用于生成式人工智能产品的预训练、优化训练数据提出具体要求，包括符合《中华人民共和国网络安全法》等法律法规的要求；不含有侵犯知识产权的内容；数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；能够保证数据的真实性、准确性、客观性、多样性；国家网信部门关于生成式人工智能服务的其他监管要求。

    《管理办法》还针对违法违规行为提出相应处罚措施：提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务等。