当前位置：智能制造网资讯中心市场分析

研究人员正确理解人工智能决策的三种方法

2022-08-23 11:34:03来源：千家网关键词：人工智能人工智能模型人工智能研究人员阅读量：21893

导读：为了更好地理解他们构建的模型，人工智能研究人员开发了三种主要的解释方法。这些是局部解释方法，只解释一个具体的决定，而不是整个模型的决定，考虑到规模，这可能具有挑战性。

　　理解人工智能决策对研究人员、决策者和广大人民来说非常重要。幸运的是，有一些方法可以确保我们了解更多。前沿人工智能公司和学术届使用的深度学习模型已经变得如此复杂，以至于即使是构建模型的研究人员也难以理解正在做出的决策。

　　这一点在某锦标赛上得到了最明显的体现。在这场比赛中，数据科学家和职业围棋选手经常被人工智能在比赛中的决策所迷惑，因为它做出了非正式的游戏，而这并不被认为是最强的一步。

　　为了更好地理解他们构建的模型，人工智能研究人员开发了三种主要的解释方法。这些是局部解释方法，只解释一个具体的决定，而不是整个模型的决定，考虑到规模，这可能具有挑战性。

　　特征归因

　　通过特征归因，人工智能模型将识别输入的哪些部分对特定决策是重要的。对于X射线，研究人员可以看到热图或模型认为对其决策最重要的单个像素。

　　使用这种特征归因解释，可以检查是否存在虚假相关性。例如，它会显示水印中的像素是否被突出显示，或者实际肿瘤中的像素是否被突出显示。

　　反事实解释

　　当做出决定时，我们可能会感到困惑，不知道为什么人工智能会做出这样或那样的决定。由于人工智能被部署在高风险的环境中，如保险、抵押贷款等，了解人工智能拒绝因素或上诉的原因应该有助于他们在下次申请时获得批准。

　　反事实解释方法的好处是，它确切地告诉你需要如何更改输入来翻转决策，这可能具有实际用途。对于那些申请抵押贷款却没有得到的人来说，这个解释会告诉他们需要做些什么来达到他们想要的结果。

　　样本重要性

　　样本重要性解释需要访问模型背后的基础数据。如果研究人员注意到他们认为是错误的，他们可以运行一个样本重要性解释，以查看人工智能是否输入了它无法计算的数据，从而导致判断错误。

上一篇：光热发电，助力新型电力系统形成

下一篇：关注！工信部为机器人产业全面总结定调

我要评论

昵称

匿名

文明上网，理性发言。（您还可以输入200个字符)

表情

所有评论仅代表网友意见，与本站立场无关。

工信部印发AI新政！AI创业的“资源平权”时刻来了
9月3日，工业和信息化部办公厅印发《人工智能中小企业创业支持计划(2026-2028年)》。AI技术最怕“闭门造车”，没有真实场景反馈，产品永远成熟不了。政策提出“引导链主企业开放场景”，这意味着初创公司有机会直接给行业龙头做“技术陪跑”。
人工智能AI创业AI技术
2026-09-04 17:32:58
锁定五个方向！2027年值得关注的自动化趋势
2027年的自动化趋势可以概括为五个方向：AI代理规模化应用、多智能体协同、物理人工智能落地、流程智能深化，以及治理与安全体系前置。
自动化人工智能智能体
2026-09-04 09:02:58
辽宁通信管理局组织开展2026年工业和信息化领域创新任务揭榜挂帅申报工作
近日，辽宁省通信管理局转发通知，面向通信行业组织开展揭榜挂帅申报工作。本批揭榜挂帅围绕未来产业、装备制造、信息技术、通信、人工智能、消费品6个方向，系统布局24个专题。
装备制造信息技术人工智能
2026-09-04 09:12:34
多家硬核科技企业密集完成融资人工智能、芯片赛道热度高涨
近期国内科技赛道投融资动作频繁，瞬原科技、Popi AI、简智机器人、芯璨科技、屹艮科技、恒星力量、芯光界、一苇宇航、灵御智能、博伦智汇等十家优质科技企业相继完成各轮次融资，融资规模从千万级至亿元级不等
人工智能智能机器人芯片设计
2026-09-03 10:42:39
中国信通院魏亮：加快培育服务商队伍，推动人工智能产业创新发展
人工智能应用服务商培育专项行动着力贯通技术供给与行业应用的关键链路，推动服务商能力培育工作有序开展。
人工智能人工智能应用服务商
2026-09-03 10:29:12
人工智能五大挑战显现中国AI产业步入关键转折点
9月1日，国家网络安全宣传周新闻发布会释放重要信号：中央网信办网络安全协调局副局长、一级巡视员王丽宏表示，当前人工智能领域主要面临五方面安全风险挑战。我国人工智能产业正经历从“数字感知”向“物理认知”的关键跃迁——政策法规密集落地、产业规模突破万亿、具身智能迎来规模化元年。一边是风险警示，一边是加速突破，中国AI究竟行至何处？
人工智能AI开源大模型
2026-09-01 13:23:29

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。