引言
近年来,基于大型语言模型(简称“大模型”)衍生的生成式人工智能技术与服务“军备竞赛”,在全球范围内开展地如火如荼。过去数月中,我国诸多大型科技企业和中早期科创企业也纷纷加入该赛道,形成“百模大战”的赛跑格局,对技术路径选择和真实市场需求进行了大量有益探索。
在此过程中,一方面,监管机构与诸多企业频繁互动,对国内生成式人工智能行业现状开展了调研,在一定程度上引导业界达成了“中国一定要有自主可控的大模型”的共识。另一方面,自主可控的优质大模型需要更大量的用户交互、更丰富的场景试用,因此,对监管能否创设有利于模型衍生、训练的制度赛道,能否采取更灵活机动的行业管理机制提出了更高的要求。
基于前述背景,主管机关对2023年4月发布的《生成式人工智能服务管理办法(征求意见稿)》(简称“征求意见稿”)进行了修订,由国家互联网信息办公室(简称“网信办”)携手其余六部门于2023年7月10日发布了《生成式人工智能服务管理暂行办法》(简称“《暂行办法》”),《暂行办法》将于2023年8月15日施行。相较于征求意见稿,《暂行办法》更显著地突出了拥抱人工智能发展、融合现有制度框架、务实设计监管思路的趋势。生成式人工智能企业也需相应理解合规思路,有针对性地完善合规体系建设。
第一部分:新规特点与理解要点
1. 监管准则:“发展”基调和“包容审慎”原则
此外,科技部作为年初国务院机构改革重组的重点单位,承担推动健全新型举国体制、优化科技创新全链条管理、促进科技成果转化、促进科技和经济社会发展相结合等职能。特别地,科技部主导起草的《科技伦理审查办法(试行)(征求意见稿)》与生成式人工智能高度相关。举例而言,该文件明确规定从事人工智能等科技活动的单位,研究内容涉及科技伦理敏感领域的,应设立科技伦理(审查)委员会。基于大模型的生成式人工智能产品原理复杂,实现算法透明度的难度相对较大,训练数据及参数调优对生成结果影响巨大,科技伦理审查制度和合规要求将在大模型企业的合规实践中占据重要位置。
发改委作为联合发文单位,体现了生成式人工智能产业与数据要素市场的高度相关性以及可预期的高度融合趋势。发改委是《关于构建数据基础制度更好发挥数据要素作用的意见》的主导单位,其下辖的国家数据局负责协调推进数据基础制度建设,统筹推进数字中国、数字经济、数字社会规划和建设。生成式人工智能需要大量数据驱动训练与优化,应用场景也需与数据要素利用高度融合与协同,数据要素市场的建立、活跃以及良性监管,将从数据源头促进生成式人工智能技术迭代和产品更新。
教育部、广电总局,作为相关行业或领域监管部门,其职权行为往往体现为对融合生成式人工智能技术或服务的部分传统行业的监管。例如,广电总局制定广播电视、网络视听节目服务管理政策,进行行业管理,该行业不免集中了多类生成式人工智能服务的应用场景。再如,教育领域也是当前生成式人工智能服务最主要的应用领域之一,相当一部分生成式人工智能服务的研发与高校紧密绑定,是高校科技成果转化的重要场景。
因此,上述多部门的联合发文,特别是发改委及几家行业主管部门的参与,体现出监管在对生成式人工智能应用多维度理解的前提下,以“包容审慎”态度塑造监管格局、制度赛道,并力求实现行业良性“发展”的整体基调。生成式人工智能领域技术和服务监管具有特殊性,其应用落地场景变迭极快,应用场景跨行业跨专业特点较为明显,行业参与者拟适用的技术路径和服务模式也在探索中迅速更新。因此,一方面,监管需要以相对“审慎”的基调设定合规要求和监管思路;另一方面,政策层面已经奠定“发展”的主基调,因此需要强调“包容”,让技术的应用随着业务和场景在审慎的监管环境下先行落地和推进。“包容审慎”这一关键词,也总体贯彻于《暂行办法》相较于征求意见稿的若干重要修订中,详见后文分析。
2. 管理逻辑:“分类分级”监管方式
3. 把握实质:生成式人工智能真正的监管目标
4. 明确管辖:监管边界逐渐清晰
5. 注重务实:训练数据义务和模型改进义务的可行性回归
6. 衔接融合:注意与现有监管工具顺利接轨
第二部分:合规控制点概览
结 语
基于大模型的生成式人工智能技术及服务很可能构成各行各业的“基础设施”,几乎所有传统服务模式及形态都可能在其全部或部分环节利用大模型进行迭代与改变,即所谓基于大模型的“重做浪潮”。在这一次变革迭代周期,妥善设计监管框架,创造优势制度赛道,有利于激发竞争活力,提升垂直领域中企业的合规可触达性。而赛道参与者也需要准确理解合规要求,将有限的合规资源投入在关键的合规控制点,助力业务快速发展。
京ICP备05019364号-1 京公网安备110105011258