不得含有侵犯知识产权内容 网信办拟为生成式人工智能服务“立规矩”

每经记者 李宣璋 每经编辑 陈旭
　　4月11日，国家互联网信息办公室发布通知，就《生成式人工智能服务管理办法（征求意见稿）》（以下简称《办法》）向社会公开征求意见。
　　所谓生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。
　　《办法》指出，研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本《办法》。
　　同时，《办法》强调，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
　
　AIGC已成生产力工具
　　日前，以ChatGPT为代表的生成式AI应用的数据安全问题受到市场讨论，也引发监管注意。
　　《办法》提出，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(以下简称“提供者”)，需承担该产品生成内容生产者的责任；应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。
　　《办法》要求，用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：符合《中华人民共和国网络安全法》等法律法规的要求；不含有侵犯知识产权的内容；数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；能够保证数据的真实性、准确性、客观性、多样性；国家网信部门关于生成式人工智能服务的其他监管要求。
　　浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林在接受《每日经济新闻》记者书面采访时表示，出台征求意见稿是针对当前社会上普遍存在的对生成式人工智能的忧虑给出了一些解决方案，此次征求意见稿对生成式人工智能的响应领先全球，符合我国先规范后发展的产业推进路径。
　　“个人认为征求意见稿解决了一些问题，诸如利用生成式人工智能进行不正当竞争等问题，的确应该尽早规范。”盘和林告诉记者，与此同时，有些规则也需要进一步细化，比如征求意见稿提到生成式人工智能应该提供真实准确的内容，而现阶段生成式人工智能存在一个特点，就是在其无法理解的时候，会采用自我生成的方式来生产内容，而对于真实准确的尺度应该如何来衡量，还需进一步细化。
　　他进一步表示，当前人工智能生成内容（AIGC）已经成为生产力工具，亦可能带来新一轮科技革命，所以发展AIGC应该是我国科技推进的重点。而制定规则，是推动我国AIGC产业发展的前提。
　
　用户隐私等受到关注
　　以ChatGPT为代表的生成式人工智能产品的爆火，其信息安全、是否侵犯用户隐私等问题同样受到高度关注。
　　《工人日报》此前报道，绿盟科技首席创新官刘文懋认为，在安全隐私方面，ChatGPT的高度“智能化”也导致其存在自己独特的安全问题：提示注入。通过提示注入，用户可以绕过OpenAI设置的内容安全策略，从而对ChatGPT进行滥用。
　　他进一步表示，在辅助编程这一应用场景上，ChatGPT的应用可能也存在一定的安全隐患，ChatGPT生成的代码可能含有可被利用的已知安全漏洞。对于企业来说，虽然员工使用ChatGPT能够在一定程度上提高某些工作的效率，但由于ChatGPT并没有通过技术手段保障用户数据安全，且会对用户输入进行分析，故对于敏感信息一定要严格加以保护。
　　此次发布的《办法》，加强了对信息安全以及用户方面的限制。例如《办法》提出，提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。
　　提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。