最近同程商旅的"程意"大模型过了国家网信办的生成式AI备案。这条消息很多人当行业动态一扫而过,但如果你手头也在做AI产品——尤其是To C的——这里面值得说的东西比想象中多。

先把"备案"这件事讲清楚。中国目前对生成式AI主要靠三根柱子在管:2022年的《互联网信息服务算法推荐管理规定》、2023年1月的《互联网信息服务深度合成管理规定》、以及2023年8月起施行的《生成式人工智能服务管理暂行办法》。三个规定叠在一起,指向同一件事:面向公众提供生成式AI服务,得按规矩报备。

网信办的备案,不是把名字报上去就完了。要审的是训练语料的来源合规性、内容安全机制、标识与水印、拒答清单、防止生成歧视性/虚假信息的技术方案,一整套东西。走完流程一般要几个月,中间还要反复补材料。同程这次能过,说明"程意"可以合法面向公众提供服务,也说明整个合规资料是过了一轮实质审查的。

一个常被混淆的点

算法备案和大模型备案,是两个东西。

算法备案针对的是推荐算法本身,比如信息流排序、电商排名、内容分发;大模型备案针对的是面向公众的生成式AI服务。很多客户以为做完算法备案就"合规了",等到上线AIGC功能——比如AI客服、AI文案、AI设计——被约谈时才反应过来,两条线要分别走。

哪些企业该关心这条

按现在的执法口径,只要满足两个条件之一,就要认真评估:一是面向中国境内公众提供生成式AI服务(网页、App、小程序、公众号里的AI功能都算);二是产品内嵌了第三方大模型能力(比如接了通义、文心、混元的API),你自己作为服务提供者同样有合规义务。

我最近处理的几家出海和跨境电商客户,问得最多的就是这两件事:一,做AI客服要不要备案;二,境外训练的模型能不能拿到境内提供服务。

第一个问题,看服务对象。面向境内公众就走备案;纯内部使用(比如员工用的效率工具)目前口径宽一些,但涉及个人信息处理时《个人信息保护法》该走的还是要走。

第二个问题更麻烦。境外训练的模型进入境内提供服务,除了备案,还要过网络安全和数据出境这两关。训练数据里如果有境内个人信息,往回倒查PIPL的合规链条同样绕不开。

一点判断

生成式AI的监管,从"通用性框架"逐步过渡到"分行业+分场景"是可以预期的方向。金融、医疗、教育这几个高风险场景,未来叠加行业主管部门的规则几乎是确定的。做AI产品的公司,别把合规当"上线前的最后一道流程",越早介入,越省事。

具体到你自己的产品要不要备案、走哪个通道,还是要结合业务形态、用户对象、数据流向来判断——这块口径变化快,落地建议以现行有效规定和主管部门当期指引为准。

———
吴展鵾律师 · 涉外律师
涉外/跨境为主 · 办理广州/大湾区/全国刑事民商诉讼与法律顾问 · 中/英/西/日4语
主站:wzklaw.com · 预约:wzklaw.com/booking.php