人工智能服务将迎监管新规推动产业有序发展

来源: 中国商报网 ┆ 时间: 2023-02-10 15:13:02

为促进生成式人工智能技术健康发展和规范应用，国家网信办起草了《生成式人工智能服务管理办法(征求意见稿)》(以下简称征求意见稿)，于4月11日向社会公开征求意见。征求意见稿明确，生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

明确提供者主体责任

征求意见稿规定，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。

征求意见稿要求，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(以下称提供者)，包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任;涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

征求意见稿明确，提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。用于生成式人工智能产品的预训练、优化训练数据，应符合《中华人民共和国网络安全法》等法律法规的要求;不含有侵犯知识产权的内容;数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形;能够保证数据的真实性、准确性、客观性、多样性;国家网信部门关于生成式人工智能服务的其他监管要求。

征求意见稿要求，提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求;发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。

征求意见稿规定，提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。

未雨绸缪精准施策

ChatGPT的爆红带来了生成式AI创业浪潮，也在该领域激发了新一轮投融资热潮。据悉，包括谷歌、元宇宙、亚马逊公司等在内的科技巨头纷纷开始推出或开发自己的聊天机器人，并投资相关初创企业，针对生成式AI的投资浪潮也逐渐席卷全球。据风投公司NFX统计，目前全球已有约450家生成式AI公司，这些公司一共筹集了将近120亿美元的投资。

随着AI在各行业渗透率不断提升，各国均加快对相关领域的政策规范。今年年初，工信部、国家网信办、国家发改委等16个部门联合发布的《关于促进数据安全产业发展的指导意见》明确，到2025年，数据安全产业基础能力和综合实力明显增强。

中国科学院院士、南京大学党委书记谭铁牛表示，近年来，以ChatGPT为代表的人工智能内容生成技术取得重大突破，在全球掀起了人工智能的新一轮热潮，也使我国面临诸多新的风险与挑战。“针对上述风险与挑战，我们必须未雨绸缪、趋利避害，多措并举，精准施策，确保AIGC(人工智能生成内容)技术安全、可靠、可控”。

谭铁牛表示，当前我国在人工智能基础理论、训练数据和芯片算力等方面存在明显差距，导致我国缺乏对整个AIGC技术的主导权。同时，法规与治理体系不完善带来社会稳定与国家安全方面的风险。近期，十余家国内互联网和科技企业宣布已布局AIGC技术，并且还有很多创业团队一拥而上。

谭铁牛建议，加快构建国家顶层规划、龙头企业牵头、高校科研机构共同支撑的创新链产业链融合体系。建立健全相应的法律法规，构建良好舆论环境，推动AIGC技术健康有序发展。

推动产业有序发展

国务院于2017年发布了《新一代人工智能发展规划》，明确“初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力”。国家新一代人工智能治理专业委员会也相继于2019年和2021年发布了《新一代人工智能治理原则——发展负责任的人工智能》和《新一代人工智能伦理规范》。上述文件为我国目前生成式AI的发展提供了坚实的法律法规和标准保障。

首都经济贸易大学法学院诉讼与司法制度研究中心主任陈磊表示，法律监管可分为事前、事中、事后三个阶段。事前应注意预防，投资者在研发生成式AI之前，应向有关部门提交申请书，将其人工智能的主要内容进行阐述和备案;事中须加强管控，在发现生成式AI侵犯他人著作权或者内容涉及伦理道德不当时，应当及时进行管控;事后要注意监督，对相关侵权行为及时进行处罚，保障他人合法权益。