人工智能面临的十大安全问题
发布时间：2021-10-04 17:31:43 所属栏目：大数据 来源：互联网
导读：近日，应欧盟和美国政府的要求，可信AI研究和咨询专业公司Adversa发表了业界首个全面的人工智能安全性和可信度研究报告，该报告还结合了Gartner的相关预测以及最近对AI的对抗性攻击事件。 Adversa顾问委员会前Gartner分析师Oliver Rochford指出：建立对机器
|
近日，应欧盟和美国政府的要求，可信AI研究和咨询专业公司Adversa发表了业界首个全面的人工智能安全性和可信度研究报告，该报告还结合了Gartner的相关预测以及最近对AI的对抗性攻击事件。
Adversa顾问委员会前Gartner分析师Oliver Rochford指出：建立对机器学习安全性的信任至关重要。我们要求人们去相信AI的黑匣子(这很困难)，为了使AI革命成功，我们必须建立信任……AI面临的安全风险太大，同时收益也很大。
Adversa的CTO Eugene Neelou表示：“为了提高可信AI领域的安全意识，一年多前我们启动了一个项目，以分析学术、行业和政府过去十年的发展情况。结果令人目瞪口呆，受测AI系统普遍存在安全性和偏差问题，以及缺乏适当的防御措施，但人们对AI安全的兴趣呈指数增长。企业应紧密跟踪最新AI威胁，实施AI安全意识计划，并保护其AI开发生命周期，最重要的是从现在开始做起。”
报告显示：
AI领域的安全现状异常糟糕;
过去两年AI安全研究论文呈现爆炸式增长;
美国、中国、欧洲在可信AI研究领域竞争激烈，中国正在加速反超;
在汽车、生物识别、机器人技术和互联网行业中，现实世界中的AI安全事件正在快速增长。作为AI的早期采用者，最受关注的行业是互联网(23%)、网络安全(17%)、生物识别技术(16%)和自治(13%)。
AI安全研究论文爆炸式增长；
过去两年中，政府、学术界和工业界发布的AI安全性方面的研究论文多达3500篇，超过过去二十年的总和。美国、中国、欧盟之间的激烈竞争预计将在可信AI竞赛中继续下去：美国发表了47%的研究论文，但中国势头强劲。
AI还没有为黑客攻击做好准备；
人工智能行业对于现实世界的黑客攻击还没有做好充分的准备，60种最常用的机器学习(ML)模型平均至少有一个安全漏洞。
 （编辑：常州站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
