20230822《生成式人工智能服务管理暂行办法》正式施行,网易易盾专家对此进行解读

2023-08-22 14:52:39     来源:

生成式人工智能(Generative AI,以下简称“AIGC”)技术正在高速发展,并通过各种软件、终端设备走进我们的生活和工作中,然而AIGC在为社会带来便利的同时也带来了相应的法律风险。国家网信办等七部门发布了《生成式人工智能服务管理暂行办法》(以下称“办法”),对生成式人工智能进行专项监管,于2023年8月15日正式施行。在数据安全上,生成式人工智能提供者和使用者分别有哪些需要注意的风险、该采取哪些保护措施、又有怎样的法律责任?

网易易盾安全专家将依据《办法》对这几方面进行分析解读。

01.适用范围

根据管理办法第2条的规定:

利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务,适用本办法。

这意味着境外AIGC服务提供者(无论是模型层还是应用层),无论是直接向境内提供相关服务,还是通过API接口或其他形式“封装”后提供“间接”服务,都将受限于管理办法的相关规定。

此次管理办法引入了一项“安全港”例外,即“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术,未向境内公众提供生成式人工智能服务的,不适用本办法的规定”。因此,如果只是内部研发或者使用相关技术,不对外提供服务,则只要获得技术提供方的授权以及遵守网络安全、数据和个人信息保护等相关法律法规的,是符合此次《办法》的规定。这缓解了许多企业接入生成式人工智能服务用于改善工作效率等内部应用的合规顾虑,体现了《办法》审慎包容、鼓励创新的监管思路。

02.分类分级监管规则

根据管理办法第3条的规定:

对生成式人工智能服务实行包容审慎和分类分级监管。

第十六条进一步规定:

国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用,完善与创新发展相适应的科学监管方式,制定相应的分类分级监管规则或者指引。

虽然管理办法并没有进一步展开分级监管的具体规则,但预计相关内容会在即将出台的《人工智能法》中做出规定。由于生成式人工智能具有通用性,“包容审慎和分级分类”的监管思路有助于《办法》作为生成式人工智能领域的“基本法”保留一定灵活性,各监管部门、行业主管部门、标准化组织亦可以在此基础上制定更加细化的生成式人工智能分级分类规则,并针对特定行业、特定应用或某些高风险的生成式人工智能服务制定更为严格的规范。

此外,《办法》针对生成式人工智能服务一些主要的应用场景,规定利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动需遵守相关领域的监管规定,与现有制度对接。

03.算法及内容安全的规定

根据管理办法第4条的规定:

提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德。

为了遵守法律法规和体现社会主义核心价值观,对于实时交互内容审核和利用AI生成内容,需要加强敏感内容审核,例如涉政、涉黄、涉暴等内容,以确保信息的安全和合规性。然而,特殊的prompt指令可能会绕过AI自身的安全机制,增加审核的难度和复杂度。

为了解决这个问题,网易易盾针对AIGC+UGC场景下的机器审核能力,可根据业务场景配置审核的松紧程度,选择适当的审核策略来满足不同场景的合规要求。

如在语聊对话场景中,存在真实用户和智能机器人两种角色,这要求机审能够快速识别不良信息,确保人机聊天的实时性。AI机审技术可根据业务场景不同,在UGC内容和AIGC生成内容配置不同的松紧度审核策略,兼顾用户使用体验和内容安全合规性。

在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视。

《办法》特别指出具有各类歧视的内容,要采取有效防止措施。网易易盾安全专家分析,大模型在训练、测试和生产过程中可能会遇到歧视内容数据的风险,这些风险是由于训练数据中存在偏差或缺失,导致模型在处理不同群体的个体数据时出现不公平或歧视性的结果。为了避免大型模型在生产中出现歧视风险,需要在训练数据的收集和处理过程中考虑数据的平衡性和代表性,确保训练数据充分涵盖不同群体的数据分布和特征,避免对某些群体进行歧视或忽略。

此外,还需要采用一系列的模型评估和监控措施,及时发现和纠正模型中存在的歧视问题。这些措施包括但不限于公平性指标的设计、敏感性分析、模型的可解释性、数据隐私保护等。这样可以帮助确保大模型生成的结果是公正和合理的,避免歧视风险对特定群体造成负面影响。

04.服务提供者的义务

在征求意见稿中,AIGC服务提供者被要求承担一项极其高的义务,即“保证数据的真实性、准确性、客观性和多样性”。考虑到AIGC技术开发的实际情况,管理办法做出了合理化的修改,即“采取有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性”。管理办法亦不再强制要求服务提供者对用户实行实名制。此外,征求意见稿曾要求服务提供者有义务在三个月内通过模型优化训练等方式防止再次生成不当内容,但考虑到AIGC产生不当内容的天然潜在持续性和不确定性,管理办法删除了该义务,仅要求服务提供者及时优化模型并向主管部门报告。最后,在处罚部分,删除了“终止提供服务并处一万元以上十万元以下罚款”的规定。

不过,管理办法亦增加了部分新的义务,比如服务提供者应与用户签订服务协议明确双方权利义务,对用户违法活动的监督增加了“警示”、“限制功能”以及“保存记录”和“报告”的义务等。但该等新增义务均较为合理,不会显著增加服务提供者的额外负担。

05.安全评估和算法备案

征求意见稿曾无差别地要求AIGC服务提供者在对外提供服务前,按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案手续。管理办法做出了显著的修改,明确只有“提供具有舆论属性或者社会动员能力的生成式人工智能服务”的服务提供者,才需开展安全评估和算法备案。

虽然缩小了适用范围,但管理办法并没有进一步明确“具有舆论属性或者社会动员能力的生成式人工智能服务”的认定标准。从合理评估的角度来判断,结合《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》,新闻、社交、直播、教育、写作、聊天等AIGC相关技术被认定的可能性比较高。

06.境外服务提供者

包括OpenAI在内的AIGC行业的境外厂商,无疑处于技术领先地位,境外投资者在该领域也更为活跃。管理办法首次原则性明确,“对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的,国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。”结合上述第一条的适用范围相关规定,对于“嵌套”、“封装”境外AIGC技术的境内服务提供者,将面临底层境外技术支持随时中断的风险。

此外,管理办法首次指出,“外商投资生成式人工智能服务,应当符合外商投资相关法律、行政法规的规定”。考虑到目前AIGC相关外商投资的规定尚不明确,建议持续关注相关立法动态,且预计根据未来出台的分类分级监管规则,会适用不同的外商投资限制规定。

07.利好创新的政策措施

《办法》针对生成式人工智能研发、应用提出了一系列政策鼓励措施,包括:

l 鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容,探索优化应用场景,构建应用生态体系。

l 支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。

l 鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新,平等互利开展国际交流与合作,参与生成式人工智能相关国际规则制定。

l 推动生成式人工智能基础设施和公共训练数据资源平台建设。推动公共数据分类分级有序开放,扩展高质量的公共训练数据资源。促进算力资源协同共享,提升算力资源利用效能(第5条、第6条)。

网易易盾安全专家表示,随着《生成式人工智能服务管理暂行办法》的落实,监管体系逐渐完善,生成式人工智能行业即将迎来应用的爆发,也进一步鼓励生成式人工智能技术在各行业、各领域的创新应用。但是,企业在训练数据合规性、生成内容安全准确和可靠性、生成式人工智能服务的透明度等方面的要求,需要企业结合技术与法律力量提出可行性的解决方案,符合监管机构的安全规范要求,共同推进生成式人工智能应用生态发展。

标签:

猜你喜欢

七夕独家浪漫指南 三星BESPOKE缤色铂格系列产品给TA别样陪伴
国家标准GB/T 35274-2023《信息安全技术 大数据服务安全能力要求》获批发布,深信服深度参编
2023世界青年科学家峰会“数智赋能·链接未来”大数据与区块链技术发展圆桌对话会成功举行
5G赋能新工厂 引领制造业跑出数智加速度
广为海洋荣获 “2023海洋数智化突出贡献企业” 称号!
趣链科技宣布正式加入联合国全球契约组织
用在线文档就能减碳,腾讯文档与SSV碳中和实验室邀你开启全新“碳索”之旅
让AI落地于生活,V动视界潮玩摄像头正式上市销售!
火山引擎云原生安全解决方案发布,构筑企业云战略基石
“经典香港电影修复计划”启动,编剧张小北:4K修复老片是在挑战遗忘和时间
中兴新支点国产系统亮相2023中国算力大会引关注
科技引领智慧金融 2023华为科技金融创新论坛分论坛成功举办
每日互动参与大数据行业全链条 倡导数据价值流转
“云智龙华 数赋质新”数诊开方,看成长型企业智造之道主题思享会成功举办!
声网母公司发布2023 Q2财报:聚焦客户业务价值,引领行业进入高清时代
践实成势 数赢云巅丨华为深度参与第7届中国-南亚博览会
华为运力地图亮相2023中国算力大会,引领算网一体品质创新
【助力联通全面数字化转型】思特奇:由点到面,全面推动网络运维数智化升级
“顶流势力”欧瑞博入局!一张无主灯牌打成“王炸”?
七夕至 传爱意 三星Galaxy S23系列让浪漫与科技在此相遇
get浪漫新方式,墨迹天气助你巧妙过七夕
翼信科技十周年:不变的是一直在改变
如何破解用户增长密码?华为云汇众智共话新消费机遇
圆满收官!江淮汽车与用户共创未来出行新美学
美利云中卫数据中心参展2023中国算力大会
“昌进生物-香格里拉高山植物园微生物联合实验室”成立,将进一步保护香格里拉地区生物多样性
拉动飞机的小刀电动车航天动力系:强大动力带来极致体验
以创新撬动行业变革 俏美韵&北京工商大学联合发布《现代食品》期刊
美的-巴斯夫洗涤技术联合实验室揭牌,双方开启跨界技术融合新思路
赛博昆仑成为国家信息安全漏洞库(CNNVD)一级技术支撑单位