近日,由第一新声联合天眼查共同发起的【2023中国AIGC创新企业榜】榜单评选结果正式公布。本次榜单基于天眼查的大数据优势,面向国内数百家AIGC相关企业进行深度的调研与专家评估,并通过技术能力、创新能力、应用落地能力等多维度展开评选,最终评选出相应的综合榜和细分榜单。
其细分行业榜由基础层「AIGC算力层创新企业榜」、「AIGC数据层创新企业榜」、模型层、「AIGC通用大模型创新企业榜」、「AIGC垂直大模型创新企业榜」、应用层「AIGC应用场景创新企业榜」共5个榜单组成。网易易盾凭借突出的AIGC全链路数字内容风控解决方案与大量的行业实践经验在应用层赛道荣膺【AIGC应用场景创新企业榜】。
2023年注定是人类正式翻开AI篇章的第一年。生成式AI已展现出变革经济社会的巨大潜力。全球众多不同领域的科技公司纷纷“跑步进场”,仅在中国就有超过两百款通用和垂类大模型面世或正在开发中,而通用大模型成最大热门,被成为是AI时代的“灵魂”。
AIGC产业链主要由基础层、模型层和应用层构成。其中基础层主要包括算力和数据,模型层主要包括通用大模型和垂直大模型(场景/领域/行业大模型)等,应用层主要由不同场景下生成文本/图像/视频等多模态内容的AIGC应用构成,涉及各个行业及场景下的应用创新。
在内容生产方面,与传统UGC生产方式相比,AIGC所产出的内容具有更高的创造力和速度。一方面,AIGC提升了内容生产效率,成为数字内容生产的“利器”,但AIGC与UGC平台一样面临着内容安全的风险挑战,由于AIGC的内容生产效率大幅提升,它的内容体量呈指数级增加,安全合规挑战也更为严峻。今年国家网信办连续发布《互联网信息服务深度合成管理规定》与《生成式人工智能管理办法》,对人工智能行业发展提出了规范和要求的主要原因,其中内容安全相关的政策条例占幅最大。
AIGC平台的内容风险可以出现在大模型的训练、Prompt输入、模型生成等各个环节。与UGC内容类似,AIGC的内容风险主要体现在违规内容、意识形态问题、误导性和虚假信息、泄露隐私、侵犯版权等方面。例如,生成式AI模型是经由大量互联网内容训练的。互联网内容良莠不齐,在正确的提示词作用下,大型语言模型有可能生成有害内容。这就意味着内容审核需要发生在源头,即AI模型被训练时以及它们大量生成的输出上。打个比方说,这些AI大模型吃的是乱七八糟的草,挤出来的奶,可能有毒;在奶的输出过程中,还有可能被添加上三聚氰胺。所以生成式AI未来想要大规模商业化,内容安全是必闯的一关。
易盾凭借深厚的AI技术能力和行业经验积累沉淀出一套全方位的AIGC风控体系,提供了覆盖事前—平台运营前置的风险、事中—平台内容合规风险以及事后—投诉与违规处理风险的全流程解决方案。在 AI 算法治理、安全制度管理、AI 伪造内容识别、实时审核平台建设与人机交互等方面不断开拓与创新,构建了多轮多模态的内容风控体系,以确保平台上的内容安全合规,同时保证 AIGC 技术的正常运营和发展。
纵观历史各项对人类发展有着重大意义的科技成果,每项成果在大规模造福人类时都需要在“安全合规”的前提下。人工智能行业的有序健康发展离不开数字内容风控保驾护航。网易易盾,将继续致力于数字内容安全的创新与研究,为新行业的可持续发展做贡献。
