研究人员通过负责任的AI来应对动荡

人工智能2020-08-14 17:04:16
导读

大流行已经使数据科学家和商业领导者争先恐后地寻找有关他们所依赖的分析模型的紧急问题的答案。金融机构,公司及其所服务的客户都在应对前所未有的情况,而失去控制似乎可以用全新的决策策略来弥补。如果您的公司打算急于想出新的分析模型来指导在这种非同寻常的环境中进行决策,请稍等片刻。首先,请仔细查看您现有的模型。

负责任地构建的现有模型-结合了强大,可解释,合乎道德和高效的人工智能(AI)和机器学习(ML)技术-在当今动荡的环境中具有可以利用和信任的弹性。这是一份清单,可帮助您确定公司的模型是否具备所需功能。

坚固性

在云服务和开源时代,仍然没有“快速简便”的捷径来进行适当的模型开发。具有适当数据和科学严谨性的AI模型是强大的,并且能够像我们现在所经历的那样在艰难的环境中蓬勃发展。

强大的AI开发实践包括定义明确的开发方法;正确使用历史,培训和测试数据;可靠的绩效定义;仔细的模型架构选择;模型稳定性测试,仿真和治理的过程。重要的是,所有数据科学组织都必须遵守所有这些因素。

让我强调有关数据,特别是历史数据的重要性。数据科学家需要尽可能地评估未来可能遇到的所有不同的客户行为:仅是在经济衰退期间抑制收入,以及与自然灾害相关的ho积行为。此外,必须对模型的假设进行测试,以确保它们可以承受生产环境中的巨大变化。

可解释的AI

神经网络可以发现数据中复杂的非线性关系,从而产生强大的预测能力,这是AI的关键组成部分。但是,许多组织不愿部署“黑匣子”机器学习算法,因为尽管它们的数学方程式通常很简单,但是要获得易于理解的解释却往往很困难。结果是,即使是具有改进的业务价值的ML模型也可能是无法解释的-与受管制的行业不兼容的质量-因此无法部署到生产中。

为了克服这一挑战,公司可以使用一种称为可解释性潜在特征的机器学习技术。这导致了可解释的神经网络体系结构,这种行为可以被人类分析人员轻松理解。值得注意的是,作为负责任AI的关键要素,模型的可解释性应该是首要目标,其次才是预测能力。

免责声明:本文由用户上传,如有侵权请联系删除!