调查发现您的AI很容易被黑客入侵

人工智能2020-08-19 09:33:08
导读

人工智能正逐渐成为主流,并嵌入到越来越多的日常生活应用中。从医疗保健,金融到交通运输和能源,机遇无限。每个部门都充满了节省时间,金钱和其他资源的机会,而AI提供了许多解决方案。

然而,与AI安全相关的关键问题仍未得到解答。当AI安全扩展到企业时,IT组织如何管理AI安全,您是否具有审计功能来回答监管机构的问题?

对于数据科学家,您如何确保自己的AI模型随时间推移保持可靠?对于开发人员,您如何将常规DevOps流程扩展到支持AI的软件开发?提出正确的安全问题必须是您扩展AI策略的基本组成部分。

组织刚刚投资于管理和监视其AI的工具,以实现企业规模,从而导致了适合其现有技术堆栈的MLOps和ModelOps工具市场的增长。

但是,这反映了更广泛的趋势-他们没有像系统或应用程序开发那样对AI开发和部署过程应用相同的严格性。人工智能安全也是如此—因为许多组织仍处在解决其人工智能管理的困境中,他们将安全优先事项推到了线下,这只会导致更大的问题。

在AI部署方面存在很多风险,安全性不是事后才想到的-在企业AI部署开始之初,解决安全性问题就显得更为必要。

全方位攻击

支持AI的系统的现实情况是,攻击者的攻击面越来越大,可供恶意行为者利用。幸运的是,MLOps工具可以帮助您解决组织内部正在使用的AI的访问控制,并且其中许多工具还可以帮助提高API安全性和可追溯性。同时,还有其他类型的威胁需要解决,许多组织尚未考虑如何将这些威胁纳入其整体安全状况或响应中。

对抗性AI是指机器学习的一个特定分支,致力于通过创建错误信息或降低模型性能来对AI模型性能产生负面影响。如今,不良行为者可以将不良或“中毒”的数据馈送到模型中以影响输出,或者通过反向工程模型的权重以影响其输出。

免责声明:本文由用户上传,如有侵权请联系删除!