
11月起正式实施的行业标准泰州万能胶生产厂家,要求AI系统在可靠、可控、安全、公平、透明、可解释、隐私保护、可问责等面具备控制风险的能力。
8月11日,信息通信研究院(下称“信通院”)就《人工智能 安全理 系统风险管理能力要求》(YD/T 7173-2026)行业标准(下称“标准”)发布解读。该标准以风险评估法表、识别清单、风险评估报告和应对报告,助力企业构建便捷实用的风险管理工具箱,引企业从“事后补救”转为“前置主动控”,减少人工智能安全事故。
标准由信通院联22校、科研院所、科技企业共同编制,并在7月获工业和信息化部批准发布,将于2026年11月1日起正式实施。该标准旨在促进人工智能产业持续健康发展,明确规定了人工智能研发与应用主体的管理和技术能力要求,针对组织建设能力、流程管理能力、风险护能力等面进行规范。
财经记者从信通院了解到,标准基于人工智能系统全生命周期,通过分析影响程度,对人工智能的风险进行分评估。标准要求,人工智能系统的研发、应用相关执行部门应对已识别风险开展风险分析,并对风险进行“严重、、中、低”四分。同时,将不可接受的风险定义为隐患,划分为重大、中度、般隐患。
例如,对组织(包括其他组织)造成小范围财产损失或声誉受损归为低风险;而对组织关键业务造成业务停摆、关键数据泄露、财产遭受严重损害,或信誉受损的风险被认定为严重风险。
就AI的风险来看泰州万能胶生产厂家,标准提供了风险识别清单。清单中不同的风险类别包含若干风险源,并匹配对应的风险控制能力。例如,应用服务安全这风险就包含未向相关告知模型能力和局限、模型生成信息未标识并广泛传播,以及未经同意处理个人信息等情况。
近年来,人工智能技术快速发展并度融入千行百业,同时模型幻觉、法偏见、隐私泄露、智能体失控等风险显现,传统安全手段难以有应对,人工智能技术在风险管理面面临诸多痛点。
即将实施的标准要求AI研发和应用主体提对AI系统的风险护能力,具体体现在可靠、可控、安全、公平、透明、可解释、隐私保护、可问责等面。
在可靠面,标准要求AI系统采用价值对齐机制,减少输出有害或不当内容的风险,确保结果符预期目标与伦理规范。在透明面,万能胶生产厂家标准要求AI系统通过显式和隐式标识或水印,提示模型生成内容,止因模型生成内容未告知用户而被混淆、误认、广泛传播的风险。同时,标准还要求AI系统具有可问责。标准要求引入模型审计机制,对系统运行过程和结果进行立验证,确保具备外部监督渠道。
从技术发展角度看,人工智能技术跃迁致风险暴露面增多、隐患分散,风险广泛分布于数据处理、模型建设、测试验证与部署上线等多个环节。从规视角看,风险管理已成为各国人工智能理的重要抓手。
当前,欧盟《人工智能法》、美国NIST《人工智能风险管理框架》、新加坡《2026年新加坡人工智能安全共识》、我国相关法律法规,均将风险管理作为人工智能安全核心管控手段,全球正加速形成风险理共识。但从管理角度而言泰州万能胶生产厂家,企业仍面临技术管理割裂、综控缺位的理难题。
信通院下步将围绕金融、医疗等典型场景开展标准应用试点,总结可复制、可拓展的实施经验,支撑垂直行业提升人工智能风险管理能力。 举报 财经广告作,请点击这里此内容为财经原创,著作权归财经所有。未经财经书面授权,不得以任何式加以使用,包括转载、摘编、复制或建立镜像。财经保留追究侵权者法律责任的权利。如需获得授权请联系财经版权部:banquan@yicai.com 文章作者
宋婕 原创精选 相关阅读 腾讯跟投阿里千问前负责人,林俊旸相信AGI“应以此为目标”
新公司的研究向为横跨数字世界和物理世界的下代智能体(Agent)。 7 18838 8小时前 顺着说、假装做,大模型“讨好型人格”成智能体时代新挑战
看似对人类有求应的大模型开始出现不诚实的行为。 22899 07-30 07:41 50亿美元向AI初创企业:英伟达越投越大,“循环融资”疑问越来越响
这笔投资落在了个敏感的时点上,它是AI芯片厂商与模型开发者之间系列“循环融资”交易中的新笔。 8 43204 07-28 07:14 利欧数字郑晓东:“人机协同”正重构营销底层逻辑
2873 07-21 11:48 财经正式启动指数产品生态战略,向产业价值赋能平台转型
自2003年成立以来,财经始终耕金融市场与科创产业两大域。此次指数产品生态战略的启动,是其从财经媒体向“产业价值赋能平台”转型的重要里程碑。 2873 07-20 14:21 财热 点击关闭相关词条:储罐保温 异型材设备 钢绞线厂家 玻璃丝棉厂家 万能胶厂家
奥力斯 保温护角专用胶批发 联系人:王经理 手机:13903175735(微信同号) 地址:河北省任丘市北辛庄乡南代河工业区
1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定,并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方,并积极配合修改。
3.凡用户访问本网页,均表示默认详情页的描述,不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》,以此来变相勒索商家索要赔偿的违法恶意行为。
