首页 > 人工智能 > 正文

AI热潮下,董事会和CEO必须能够全面洞悉AI

2020-07-27 17:36:55  来源:Forbes

摘要:AI已经成为我们日常生活的一部分,这一点你无法否认。几乎来自所有不同行业的财富1000强企业领导者,都在积极开展AI计划。
关键词: AI 热潮
  AI已经成为我们日常生活的一部分,这一点你无法否认。几乎来自所有不同行业的财富1000强企业领导者,都在积极开展AI计划。大中型全球企业都在加速创新,利用AI的诱人前景提高收入、增加利润、并在产品和服务产品中发现新的价值。
 
  尽管AI的发展迅速,但董事会和CEO们在AI语言素养和风险管理实践方面仍然远远落后。AI的崛起就像是一场暴风雨,一场完美的风暴可能正在酝酿之中,但很少有董事会和CEO能回答这个问题:你的AI算法和AI模型位于何处,AI算法或者模型是否存在风险?
 
  AI的发展是迅猛的:2020年7月初发布的最新全球研究报告指出,AI市场的复合年增长率超过42%,在美国AI市场规模超过7337亿美元。根据麻省理工学院斯隆研究中心(MIT Sloan Research)的说法,超过90%的大型企业正在利用AI改善他们的客户交互旅程。AI创业投资的增长让人想起了互联网时代的牛市,但你可能还记得,2002年3月牛市下跌了76%,这唤醒了人们对价值实现和盈利能力重要性的觉醒。
 
  根据CBI Insights的数据,2019年AI初创公司总共募集了266亿美金,涉及全球2200多笔交易,尽管遭遇了疫情,但医疗应急和智能机器、医疗机器人等变革性技术,正在迅速兴起成为帮助应对疫情的AI解决方案。
 
  平均而言,到2022年,高级分析方面的投资将超过整体市场预算的11%。随着企业组织将AI和机器学习工具纳入他们的业务流程,到2025年,AI软件相关支出将达到1250亿美元。
 
  你可能会认为,董事会和CEO们可以轻松地了解他们所有的AI算法和AI模型位于何处,非常清楚各种风险状况,并且能够通过清晰的KPI和ROI来证明价值的实现。
 
  遗憾的是,很多企业被采用黑盒AI实践的AI计划吸引,这就意味着没有清晰的问责制,是不透明的,更不用说审计风险了。董事会董事和CEO们知道他们的员工身处何方(无论是远程办公还是在办公室),知道应该联系谁来解决客户服务或个人问题。
 
  但是,恐怕没有一家跨国企业的董事会或者CEO可以在不到五分钟的时间内,拿出一份该企业所有AI算法或者AI模型资产的完整列表,也不知道上一次修订模型是在什么时候,给不出可靠的、经过第三方验证的风险分类证据。
 
  随着数据的民主化逐渐成为实现AI的基础,我们必须提高AI和机器学习的相关KPI,让AI KPI比财务KPI更加重要,从而提高透明度,就像审计师受到损益表信托责任制的约束一样。世界正在发生巨变,数据已经成为我们最具战略意义的资产,但是鲜有企业成为数据管理实践的标杆,他们不知道数据是在哪里设计、收集和存储的以实现和跟踪AI转型所能带来的价值。
 
  尽管有不少企业已经投资了机器学习运营(MLOps),但很少有企业拥有成熟的AI卓越中心,其中,MLOps是一项核心能力。New Relic最近一项研究发现,受访的750位全球高级IT决策者中,有89%的人认为,AI和机器学习对于企业组织的IT运营至关重要。有近84%的受访者认为,AI和机器学习将让他们的职责变得更易于管理。这一乐观的预测,将加速数据管理实践的不断完善,而这正是AI建模和风险管理实践的关键。
 
  笔者在过去18个月中对超过500位全球大型B2B企业C级高管的交流中发现,没有一家企业可以在5分钟时间内回答大多数以下问题。
 
  要保持领先地位,就要恰当地提出各种AI相关的问题,每一个使用AI算法构建定制化AI模型以解决特定问题或业务挑战的项目,都应能够回答以下这些问题:
 
  使用场景历史
 
  AI模型/算法用于什么用途?
 
  AI模型/算法解决了哪些业务问题或者挑战?
 
  在设计、构建和实施各种用例之前,企业最初估算的AI模型和AI方法ROI是多少?
 
  AI模型所有权历史
 
  谁编写了算法或者开发了AI模型?
 
  流程负责人目前还在该企业吗?
 
  考虑到AI模型和算法方法的风险,AI模型是否有二级流程负责人?
 
  算法和模型结构是否经过了创建者之外其他人的审核?审核者是谁?
 
  创建和修订历史
 
  AI模型或者AI算法是何时构建的?
 
  自第一次用于生产环境中以来,对AI模型或AI算法进行了多少次修订?
 
  正在使用哪种类型的AI算法?
 
  该算法是开源的吗?还是有人编写了独特的AI算法来解决独有的业务挑战?
 
  AI算法或模型方法历史
 
  AI算法的数学结构或数学公式是什么?
 
  这些是否经过了第三方专家对准确性的验证?
 
  负责监督正在使用中的AI算法模型的负责人?
 
  AI模型开发的数据类型(结构化/非结构化数据)和数据源(内部、外部、两者兼有)是什么?
 
  数据集有多大?
 
  在被分析之前,数据集是否经过了清洗?如果是的话,是谁清洗的,使用了什么方法?
 
  AI模型中使用的数据源,质量和准确性怎么样?
 
  与所有版本的历史记录相比,预测准确性的基准得分是多少?
 
  AI模型和AI算法是否有风险分类,是否制定了风险缓解计划?
 
  开发的AI模型是否经过了数据偏差测试?
 
  使用了哪些数据偏差方法?
 
  进行了几种数据偏差风险评估?
 
  上一次审查和优化/重新训练AI模型是在什么时候?
 
  AI算法或模型的价值实现
 
  就投资回报率而言,AI模型能给企业组织带来什么价值?
 
  是否有效率或者效果值能够清晰定义ROI?
 
  第一个用例的ROI/价值结果预测,与实际AI产生的ROI结果相差多少?
 
  AI价值结果是否已经经过了财务或者第三方专家的验证、审核或签署?如果是的话,是否已经提交了报告?
 
  这种AI模型方法与其他行业最佳实践相比如何?
 
  是否有针对AI模型或文件的有效流程改进计划?
 
  尽管还有很多其他问题,但要监督AI卓越中心来跟踪AI模型的演进发展,董事会和CEO们可以从年度审计风险评估和治理运营流程开始着手。
 
  遗憾的是,多数情况下AI模型都是由数据科学家、计算机程序员或者专业服务公司(第三方供厂商)开发的,他们都致力于构建一个特定的AI模型,不管是预测美国热点区域第二波疫情情况,还是使用AI无人机预测害虫给收获季带来的影响,还是预测收入,以及确保AI方法的潜在风险管理实践,在大多数情况下,设计和构建AI模型的参与者都是用心良苦的。
 
  董事会和CEO们必须意识到,AI素养是他们发展和培养人才所需的一种新能力。AI模型需要不断优化才能成功用于生产环境,而对数据管理基础设施进行现代化投资,是确保数据和机器学习与时俱进的关键。如果管理层不监控AI模型的生产环境,对模型进行再训练,并且随着时间的推移增加其他数据源以加强模型洞察的话,他们就会犯错。
 
  AI就像是建造一座花园,施肥和除草是收获美丽的一项长期投资。AI不是雕塑,你不能构建一个模型然后未来几年一直保持它的原始状态不变。有人说AI是一种新型石油,而我更愿意说AI是一种新型氧气,因为AI越来越普及,像气候变化一样,潮起潮落无处不在。你想要能够洞悉花园中的一切生长状态,就需要卓越的远见才能做出明智的规划。
 
  对于董事会和CEO们来说,遗憾的是很多技术负责人或者CIO并不擅长AI和数据科学实践,这进一步提高了实施AI的企业所面临的风险。首席数据官(CDO)和首席数据科学家官(CDSO)的兴起,推动了AI进化、模型构建、风险管理实践的发展,尽管大多数公司在数据支持系统方面的投资,不得不和保护算法和AI模型安全性方面的投资节奏保持一致。
 
  董事会和CEO们有责任确保AI审核和风险管理框架得到合理实施,推进AI治理的向前迈进。

第三十届CIO班招生
法国布雷斯特商学院硕士班招生
北达软EXIN网络空间与IT安全基础认证培训
北达软EXIN DevOps Professional认证培训
责编:zhangwenwen