人工智能系统也需要情境化的数据交流
发布时间：2021-05-13 15:21:55 所属栏目：大数据 来源：互联网
导读：数量和处理需求也意味着云平台通常还要继续处理工作负载，这增加了另一个级别的复杂性和脆弱性。对于人工智能使用者来说，网络安全是最令人担忧的风险，这一点也不奇怪。德勤在2020年7月发布的一项调查显示，62%的采访者认为网络安全风险是一个重大或极端问
|
数量和处理需求也意味着云平台通常还要继续处理工作负载，这增加了另一个级别的复杂性和脆弱性。对于人工智能使用者来说，网络安全是最令人担忧的风险，这一点也不奇怪。德勤在2020年7月发布的一项调查显示，62%的采访者认为网络安全风险是一个重大或极端问题，但只有39%的人表示他们已经准备好应对这些风险。
使问题变得更加复杂的是，网络安全也是人工智能最重要的功能之一。德勤的技术、媒体和电信中心执行董事Jeff Loucks表示，与人工智能合作的组织越有经验，他们就越担心网络安全风险。
此外，企业，即使是更有经验的企业，也没有能够遵循的基本安全实践，例如保留所有人工智能和最大限度语言项目的完整清单或是进行审计和测试。“公司现在在实施这些措施方面做得并不好。”Loucks说。
由AI和ML的数据需求所带来的风险
AI和ML系统需要三组数据：
•建立预测模型的训练数据
•评估模型工作情况的测试数据
•当模型投入工作时，实时的业务或运营数据
虽然实时的业务或运营数据显然是一项宝贵的公司资产，但也很容易忽略其中包含敏感信息的训练和测试数据池。
许多用于保护其他系统中数据的原则也可以应用于AI和ML项目，包括匿名化、令牌化和加密。第一步是询问是否真的需要数据。在为AI和ML项目做准备时，收集所有可能的数据，然后看看能用它们做些什么是很诱人的。
关注业务成果可以帮助企业将收集的数据限制在需要的范围之内。“数据科学团队可能非常渴望数据。”为教育机构分析学生数据的Othot公司首席技术官John Abbatico表示。“我们在处理学生数据时明确表示，高度敏感的PII[个人身份信息]是不需要的，也不应包含在提供给我们团队的数据当中。”
当然，错误确实会发生。例如，客户有时会提供敏感的个人信息，如社会保险号码。这些信息不会提高模型的性能，但却会产生额外的风险。Abbatico说他的团队有一个程序来识别PII，从所有系统中清除它，并将错误通知给客户。“我们不认为这是一起安全事件，但我们的做法会让它看起来像是。”
人工智能系统也需要情境化的数据，这会大大增加公司的风险敞口。假设一家保险公司希望更好地掌握其客户的驾驶习惯，它可以购买购物、驾驶、位置和其他的数据集，这些数据集可以很容易地相互关联并与客户账户相匹配。这种新的、指数级的丰富数据集对黑客也更有吸引力，如果被攻破，对公司的声誉也更具破坏性。
 （编辑：常州站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
