AI时代的治理与安全挑战

关键要点

• 生成式人工智能（GenAI） 正在改变业务流程、决策和数据交互方式。
• 尽管带来效率提升和创新机会，但伴随的安全与隐私风险也不容忽视。
• C-suite 领导需在创新与负责任的治理之间取得平衡，尤其是在处理大型语言模型（LLMs）时。
• 各组织面临治理十字路口，需建立合理的治理结构和政策。
• 员工教育对提升整体安全意识至关重要。

随着的兴起，商业流程、决策以及与数据的互动方式都发生了深刻变革。尽管其所带来的收益，如提升效率、增强创造力和创造新的增长机会，势在必行，但其带来的风险同样不容小觑，尤其是涉及安全和隐私问题。

C级高管们面临的挑战在于如何应对这一复杂权衡，并制定一个既能促进创新又能实现负责任治理的框架。AI的风险主要源于对大型语言模型（LLMs）处理数据方式的根本不确定性。输入到AI工具中的专有信息可能被存储在云端，或甚至是在具有不同隐私法律的外国法域中，从而促使公司面临潜在的数据泄露风险。这一风险在第三方供应商使用AI的情况下更加严重，增加了在没有适当治理的情况下发生意外数据泄漏的可能性。

SC Media Perspectives 专栏由SC Media网络安全领域的专家社区撰写。。

外部环境中，AI使得从网络罪犯到国家行为体的威胁者得以以空前的速度和规模进行攻击，这包括AI生成的网络钓鱼方案和深度伪造技术，这对企业安全构成了重大威胁。此外，随着黑市市场上销售AI工具的兴起，包括专门用于帮助不法分子进行攻击的黑帽版本的，安全形势日益严峻。

不仅如此，内部员工无意中误用AI工具的风险也变得普遍。一名员工若将机密信息上传至生成式AI模型，可能在不经意间让公司面临数据泄漏的风险，特别是在AI服务提供商的条款和条件未能保证数据隐私的情况下。因此，C级高管必须确保内部员工和第三方合作伙伴了解这些不断发展的风险，以有效降低风险。

在组织机构拥抱AI的过程中，许多公司发现自己处于治理的十字路口。一些全球最大的公司已开始建立治理框架，但目前还没有标准化的方法来管理AI的使用。C级高管需关注建立与其风险承受能力相一致的健全治理结构，同时确保符合数据保护法规。

到律所和金融服务提供商等组织中，治理委员会正成为导航AI使用的重要工具。这些委员会通常包括重要利益相关者，如首席执行官、首席信息安全官、首席风险官及法律团队，负责监督AI如何融入业务运营。

但治理不仅仅是创建规则。这还包括在AI周围建立一种责任文化。关键在于制定明确的政策，定义AI的使用、访问权限以及公司如何监控AI的使用同时，完全禁止AI工具可能会驱使员工使用未经过审查和监管的服务，带来更大的风险。因此，组织必须负责任地拥抱AI，并注重可见性——确保领导层清楚知道哪些工具正在被谁使用以及出于何种目的。

在AI时代，寻找隐私与安全之间的正确平衡，超越了单纯的技术风险缓解。这需要一种全面的方法，考虑到AI使用的伦理影响。例如，AI模型中的偏见可能导致歧视性结果，而AI生成的幻觉——模型生成错误或误导性信息——也可能引发法律责任或影响错误的商业决策。

为应对这些问题，企业开始采用如伪匿名化等方法，以保护个人可识别信息（PII）在输入数据到AI系统时。通过移除或掩盖敏感信息，组织可以减少AI模型产生偏见或有害输出的机会，同时保护个人隐私。

另一个平衡隐私