平衡AI的风险和回报

姗姗爸爸
作者: 帕姗姗,道富Alpha技术风险管理董事总经理
发表日期: 2023年9月15日
相关: 人工智能革命的希望和危险:管理风险

从ChatGPT加速的令人兴奋的学习速度到DALL生成的创造性和令人大开眼界的图像.E和其他许多人, 人工智能是重塑行业的变革力量, 影响决策过程,甚至改变我们对自己能力的看法. 人工智能的未来仍然未知,但它会继续给我们带来惊喜. 然而,强大的力量伴随着风险.

法律, 为应对人工智能带来的新形势,相关法规和标准正在生效或酝酿之中. 虽然技术和遵从性环境经常变化, 365买球网站下载在导航和寻找前进道路方面面临着新的挑战. 在最近的白皮书中, 《365买球网站下载》 ISACA为365买球网站下载提供全面的指导,帮助他们为这个新时代做好准备,在管理风险的同时实现创新.

白皮书提供了人工智能当前状态的背景和业务背景. 除了 流行的ChatGPT在美国,跨行业开发的许多其他类似人工智能工具值得注意和比较. 许多组织倾向于“等待尘埃落定”,然后再提出人工智能战略, 这似乎是一个谨慎的方法, 但它本身也有风险. 另一种常见做法是同时限制和禁止在工作中使用人工智能. 这种方法可能会给其他在市场上使用它的人带来竞争优势,并使组织在技术开发和基础设施准备方面落后. 解决这些痛点, 风险影响分析——识别人工智能的风险和回报——以及收益分析可能是有用的.

白皮书包括一个部分,确定了组织将遇到的10个人工智能风险. 每种类型的风险都用当前事件或例子进行了很好的解释. 这些风险是许多监管机构议程上的热门话题 草拟新的人工智能规例,例如社会风险、知识产权泄漏和失效以及网络安全. 值得注意的是,存在一些风险, 比如技能差距和过度反应, 是否同样重要,却经常被忽视. 技能差距不仅集中在人才资源上,还集中在安全和供应商的总体预算上. 组织还应避免“对人工智能反应过度,对未经验证的人工智能输出过于信任”.”

白皮书的后半部分介绍了人工智能风险管理的三步方法, 以及如何构建人工智能安全程序的协议和实践. 它强调“组织必须采用持续的风险方法框架,以频率和精度测试假设,以确保其人工智能输出的质量。.“连续”和“频率”是这里的关键, 因为人工智能技术仍在不断发展, 学习与卓越. 我非常赞同白皮书的主张,即“重要的是要记住,某些风险是健康和有利的。, 然而,完全规避风险——尤其是从新技术中获益时——可能会付出高昂的代价.”

在描述构建人工智能安全程序的八个协议和实践时, 白皮书从小型365买球网站下载的角度出发,探讨了它们如何应对人工智能风险并实施控制措施. 与人工智能合作时,信任但要验证,因为它不是计算器,而是一个不断发展的工具. 偏见一直是人工智能的一个主要问题, 在设计和测试时,使不同的利益相关者和主题专家更加重要,以确保执行的政策是安全和合乎道德的. 其他协议包括构建成本分析. 购买决定. 此外,隔离对人工智能的访问将有助于防止知识产权泄露和其他披露. 最后, 因为365买球网站下载越来越依赖人工智能工具, 如果他们的人工智能工具停止运行,他们必须考虑业务连续性和解决风险的替代方案.

整体, 本白皮书既具有信息性又具有实用性——对于任何面临“人工智能或不人工智能”决策的组织来说,都是一个很好的起点. “作为一个社会, 现在是退一步的时候了, 反映, 并绘制出人工智能革命的风险和影响.是时候采取行动了.