人工智能的安全性策画
发布时间：2021-05-13 15:23:04 所属栏目：大数据 来源：互联网
导读：在线文件共享平台Box是一家需要保护大量数据的公司。Box正在使用AI来提取元数据，以提高搜索、分类等能力。例如，我们可以从合同中提取条款、续约和定价信息。Box的CISO Lakshmi Hanspal说。我们的大多数客户大都来自这样一个时代，他们的内容分类要么是用户
|
在线文件共享平台Box是一家需要保护大量数据的公司。Box正在使用AI来提取元数据，以提高搜索、分类等能力。“例如，我们可以从合同中提取条款、续约和定价信息。”Box的CISO Lakshmi Hanspal说。“我们的大多数客户大都来自这样一个时代，他们的内容分类要么是用户定义的，要么是完全被忽视的。他们坐拥的数据堆积如山，这些数据可能对数字化转型有用--如果内容能够被分类、自我感知，而不需要等待人类行动的话。”
Hanspal说，保护数据是Box的一个关键支柱，同样的数据保护标准也适用于人工智能系统，包括训练数据。“在Box，我们相信我们建立的是信任，我们销售的是信任，我们维护的也是信任。我们坚信，这需要融入我们为合作伙伴和客户提供的产品当中，而不是被捆绑在一起。”
这意味着所有系统，包括新的人工智能项目，都应该是围绕核心数据安全原则而构建的，包括加密、日志记录、监控、身份验证和访问控制。“数字信任是我们平台与生俱来的，我们需要将它付诸实践。”Hanspal说。
Box为传统代码和新的AI和ML驱动的系统提供了一个安全的开发流程。“我们在开发安全产品方面符合国际标准化组织的行业标准，”Hanspal说。“基于设计的安全性是内置的，并且存在着制衡机制，包括渗透测试和红队测试。这是一个标准的流程，AI和ML项目不会有什么不同。”
数学家和数据科学家在编写AI和ML算法代码时，一般不需要担心潜在的漏洞。企业在构建AI系统时，会借鉴可用的开源算法，使用商业“黑盒”AI系统，或者从头构建自己的系统。
使用开放源代码，攻击者就有可能在恶意代码中溜走，或者代码中包含漏洞或脆弱的依赖关系。专有商业系统也会使用开源代码，再加上企业客户通常看不到的新代码。
 （编辑：常州站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
