(本文阅读时间约4min)
文 | 叶丹妮律师
8月1日凌晨,有iOS开发者收到苹果官方通知,其AI应用未满足在中国运营的相关监管要求,在中国区下架,如果想要在中国提供,应当确保符合《互联网信息服务深度合成管理规定》的要求。
![](http://mmbiz.qpic.cn/mmbiz_jpg/ibUzVxTz0wnFD0w9rPkdeQ8PsanvQntdXL0h5KJ5Fc6CUEjiby1Kqic4iaf9z7B8GT0os3grqGX2pLGBJfWax304gA/640?wx_fmt=jpeg)
开发者收到的App审核消息,大意为:
你好,
我们写信通知您,根据中国政府的要求,您的应用将在中国App Store上无法使用,因为它包含在中国是非法的内容。正如您所知,政府一直在加强与深度合成技术(DST)和生成式人工智能服务(包括 ChatGPT)相关的监管措施。DST必须满足在中国运营的许可要求,包括从工业和信息化部获得许可证。根据我们的审核,您的应用与ChatGPT相关,但没有获得在中国运营所需的许可证。
尽管您的应用在中国AppStore上无法使用,但这不会改变您在App Store Connect中选择的其他商店中的应用可用性。如果您想在中国提供您的应用,请咨询专业人士,以确保符合《互联网信息服务深度合成管理规定》的规定。
网友发现8月1日凌晨有数百款大模型类AI应用被集体下架,连科大讯飞星火APP亦在此列。
![](http://mmbiz.qpic.cn/mmbiz_png/ibUzVxTz0wnFD0w9rPkdeQ8PsanvQntdXicy6tOibDjmAnl4Y3Xgp3lueibvhuwv0kPRBRHVW3bNWwib9dQK6fLy9fQ/640?wx_fmt=png)
![](http://mmbiz.qpic.cn/mmbiz_png/ibUzVxTz0wnFD0w9rPkdeQ8PsanvQntdX1bEvFNWoOyB0TceB0SQ1fiaW8IpPapzGUibFIvUqv3SLtrUicXC0iceAPw/640?wx_fmt=png)
关于下架的原因,有记者从接近监管部门的权威人士处了解到,相关App下架主因是8月15日即将施行的《生成式人工智能服务管理暂行办法》,下架的App在数据采集和使用环节等还不够规范,重新上架需要一段时日。
而国内安卓应用商店,华为尚未上架讯飞星火,小米、vivo、oppo目前仍可下载讯飞星火。据了解,国内安卓应用商店早已加强大模型类AI应用的审核。
《生成式人工智能服务管理暂行办法》实施在即,AI应用是否具备AI监管三驾马车《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》所规定的资质,很可能成为上架国内iOS及安卓应用商店的必备条件,尽早申请相关资质,取得合法地位,对业务长期发展有着基础性意义。好在,目前监管态度在发展与安全的利益平衡中更多倾向于发展,目前AIGC应用所需资质多为备案制,符合一定要求即可获批,难度较低。
那么,AIGC应用合法运营需要取得什么资质?
8月15日即将施行的《生成式人工智能服务管理暂行办法》第13条明确要求互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任,核验深度合成类应用程序的安全评估、备案等情况;对违反国家有关规定的,应当及时采取不予上架、警示、暂停服务或者下架等处置措施。
目前已实施的AI管理规定有《互联网信息服务算法推荐管理规定》及《互联网信息服务深度合成管理规定》(亦被Apple应用审核通知所引用)对生成式人工智能服务的基础要求包括:
1. 完成算法备案
具有舆论属性或者社会动员能力的深度合成服务提供者(技术支持者参照),应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。
![](http://mmbiz.qpic.cn/mmbiz_png/ibUzVxTz0wnFD0w9rPkdeQ8PsanvQntdXO57rxxkZnwbP9AVWNqQRe1VfN2nlqtBG9MPctsqFIlILPybnd5XaicQ/640?wx_fmt=png)
![](http://mmbiz.qpic.cn/mmbiz_png/ibUzVxTz0wnFD0w9rPkdeQ8PsanvQntdXN0bWk4ao10bfB7cMupEMYeomoC6l5cAZz3Ziaw7yOrBkd3nUsEBibTiaQ/640?wx_fmt=png)
2. 开展安全评估
深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的,应当按照国家有关规定开展安全评估。
![](http://mmbiz.qpic.cn/mmbiz_png/ibUzVxTz0wnFD0w9rPkdeQ8PsanvQntdX7H0WDGHGscrhrxL5et7iaJ9NKFTr89iasc7Ua6weGticdHZKFiaePgEDHg/640?wx_fmt=png)
![](http://mmbiz.qpic.cn/mmbiz_png/ibUzVxTz0wnFD0w9rPkdeQ8PsanvQntdXwm2ibUk4NeYxDha7l4H7aHWbZnvlmicupbVQYf5Rk7RqRLPPl3memdoA/640?wx_fmt=png)
3. 谁来备案?
关于完成备案的主体,之前业界一直存在一类误解,认为算法备案只需由提供基础模型或专业模型的算法提供方完成,在底层模型之上开发各类应用服务的应用层公司不需要。
![](http://mmbiz.qpic.cn/mmbiz_png/ibUzVxTz0wnFD0w9rPkdeQ8PsanvQntdXbknexZCf1vFxx7YCUdST1w8Ic69EE9vWVaS48shnuBL42TQQhtTMjg/640?wx_fmt=png)
实际上,无论是已经实施的《深度合成管理规定》《算法推荐管理规定》,还是即将实施的《生成式人工智能服务管理暂行办法》,其核心规范的就是直接面向“境内公众”提供AIGC/深度合成服务的主体,即应用层公司,而提供基础模型的基础模型层(Maas)公司(以及提供优化训练和二次开发的垂直类模型层公司)相当于《深度合成管理规定》中的技术支持者,只是参照服务提供者进行备案。
《深度合成管理规定》中甚至未要求技术支持者开展安全评估,因为如果技术支持者不面向“公众”(C端)提供服务,则并无此类安全评估的场景,这与《生成式人工智能服务管理暂行办法》中仅针对向“公众”提供的生成式人工智能服务,排除未向境内公众提供服务的企业、工业应用、科研等场景的立法目的是一脉相承的。
除完成上述算法备案及安全评估外,AI监管三驾马车
对AIGC服务提供方亦有用户实名注册、算法机制机理审核、科技伦理审查、信息发布审核、深度合成显著标识、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理要求,建议AI应用开发者联系专业人士寻求建议。
笔者团队专业提供互联网产品合规、算法备案和安全评估等专项服务,如有需求请联系
本文作者:叶丹妮,浙江垦丁律师事务所专职律师。联系电话/微信:13705705278,邮箱:dannyye@foxmail.com。本文仅代表作者观点。
扫码探讨AIGC合规问题
![](http://mmbiz.qpic.cn/mmbiz_jpg/ibUzVxTz0wnFD0w9rPkdeQ8PsanvQntdX7MKjmelS4DQiamcXFQ3JQRaoSu0oS90So1Fbam4zzSx3v1H5XnLXicDQ/640?wx_fmt=jpeg)