AI已经成为我们日常生活的一部分，这一点你无法否认。几乎来自所有不同行业的财富1000强企业领导者，都在积极开展AI计划。大中型全球企业都在加速创新，利用AI的诱人前景提高收入、增加利润、并在产品和服务产品中发现新的价值。
尽管AI的发展迅速，但董事会和CEO们在AI语言素养和风险管理实践方面仍然远远落后。AI的崛起就像是一场暴风雨，一场完美的风暴可能正在酝酿之中，但很少有董事会和CEO能回答这个问题：你的AI算法和AI模型位于何处，AI算法或者模型是否存在风险?
AI的发展是迅猛的：2020年7月初发布的最新全球研究报告指出，AI市场的复合年增长率超过42%，在美国AI市场规模超过7337亿美元。根据麻省理工学院斯隆研究中心(MIT Sloan Research)的说法，超过90%的大型企业正在利用AI改善他们的客户交互旅程。AI创业投资的增长让人想起了互联网时代的牛市，但你可能还记得，2002年3月牛市下跌了76%，这唤醒了人们对价值实现和盈利能力重要性的觉醒。
根据CBI Insights的数据，2019年AI初创公司总共募集了266亿美金，涉及全球2200多笔交易，尽管遭遇了疫情，但医疗应急和智能机器、医疗机器人等变革性技术，正在迅速兴起成为帮助应对疫情的AI解决方案。
平均而言，到2022年，高级分析方面的投资将超过整体市场预算的11%。随着企业组织将AI和机器学习工具纳入他们的业务流程，到2025年，AI软件相关支出将达到1250亿美元。
你可能会认为，董事会和CEO们可以轻松地了解他们所有的AI算法和AI模型位于何处，非常清楚各种风险状况，并且能够通过清晰的KPI和ROI来证明价值的实现。
遗憾的是，很多企业被采用黑盒AI实践的AI计划吸引，这就意味着没有清晰的问责制，是不透明的，更不用说审计风险了。董事会董事和CEO们知道他们的员工身处何方(无论是远程办公还是在办公室)，知道应该联系谁来解决客户服务或个人问题。
但是，恐怕没有一家跨国企业的董事会或者CEO可以在不到五分钟的时间内，拿出一份该企业所有AI算法或者AI模型资产的完整列表，也不知道上一次修订模型是在什么时候，给不出可靠的、经过第三方验证的风险分类证据。
随着数据的民主化逐渐成为实现AI的基础，我们必须提高AI和机器学习的相关KPI，让AI KPI比财务KPI更加重要，从而提高透明度，就像审计师受到损益表信托责任制的约束一样。世界正在发生巨变，数据已经成为我们最具战略意义的资产，但是鲜有企业成为数据管理实践的标杆，他们不知道数据是在哪里设计、收集和存储的以实现和跟踪AI转型所能带来的价值。
尽管有不少企业已经投资了机器学习运营(MLOps)，但很少有企业拥有成熟的AI卓越中心，其中，MLOps是一项核心能力。New Relic最近一项研究发现，受访的750位全球高级IT决策者中，有89%的人认为，AI和机器学习对于企业组织的IT运营至关重要。有近84%的受访者认为，AI和机器学习将让他们的职责变得更易于管理。这一乐观的预测，将加速数据管理实践的不断完善，而这正是AI建模和风险管理实践的关键。
笔者在过去18个月中对超过500位全球大型B2B企业C级高管的交流中发现，没有一家企业可以在5分钟时间内回答大多数以下问题。
要保持领先地位，就要恰当地提出各种AI相关的问题，每一个使用AI算法构建定制化AI模型以解决特定问题或业务挑战的项目，都应能够回答以下这些问题：
使用场景历史
AI模型/算法用于什么用途?
AI模型/算法解决了哪些业务问题或者挑战?
在设计、构建和实施各种用例之前，企业最初估算的AI模型和AI方法ROI是多少?
AI模型所有权历史
谁编写了算法或者开发了AI模型?
流程负责人目前还在该企业吗?
考虑到AI模型和算法方法的风险，AI模型是否有二级流程负责人?
算法和模型结构是否经过了创建者之外其他人的审核?审核者是谁?
创建和修订历史
AI模型或者AI算法是何时构建的?
自第一次用于生产环境中以来，对AI模型或AI算法进行了多少次修订?
正在使用哪种类型的AI算法?
该算法是开源的吗?还是有人编写了独特的AI算法来解决独有的业务挑战?
AI算法或模型方法历史
AI算法的数学结构或数学公式是什么?
这些是否经过了第三方专家对准确性的验证?
负责监督正在使用中的AI算法模型的负责人?
AI模型开发的数据类型(结构化/非结构化数据)和数据源(内部、外部、两者兼有)是什么?
数据集有多大?
在被分析之前，数据集是否经过了清洗?如果是的话，是谁清洗的，使用了什么方法?
AI模型中使用的数据源，质量和准确性怎么样?
与所有版本的历史记录相比，预测准确性的基准得分是多少?
AI模型和AI算法是否有风险分类，是否制定了风险缓解计划?
开发的AI模型是否经过了数据偏差测试?
使用了哪些数据偏差方法?
进行了几种数据偏差风险评估?
上一次审查和优化/重新训练AI模型是在什么时候?
AI算法或模型的价值实现
就投资回报率而言，AI模型能给企业组织带来什么价值?
是否有效率或者效果值能够清晰定义ROI?
第一个用例的ROI/价值结果预测，与实际AI产生的ROI结果相差多少?
AI价值结果是否已经经过了财务或者第三方专家的验证、审核或签署?如果是的话，是否已经提交了报告?
这种AI模型方法与其他行业最佳实践相比如何?
是否有针对AI模型或文件的有效流程改进计划?
尽管还有很多其他问题，但要监督AI卓越中心来跟踪AI模型的演进发展，董事会和CEO们可以从年度审计风险评估和治理运营流程开始着手。
遗憾的是，多数情况下AI模型都是由数据科学家、计算机程序员或者专业服务公司(第三方供厂商)开发的，他们都致力于构建一个特定的AI模型，不管是预测美国热点区域第二波疫情情况，还是使用AI无人机预测害虫给收获季带来的影响，还是预测收入，以及确保AI方法的潜在风险管理实践，在大多数情况下，设计和构建AI模型的参与者都是用心良苦的。
董事会和CEO们必须意识到，AI素养是他们发展和培养人才所需的一种新能力。AI模型需要不断优化才能成功用于生产环境，而对数据管理基础设施进行现代化投资，是确保数据和机器学习与时俱进的关键。如果管理层不监控AI模型的生产环境，对模型进行再训练，并且随着时间的推移增加其他数据源以加强模型洞察的话，他们就会犯错。
AI就像是建造一座花园，施肥和除草是收获美丽的一项长期投资。AI不是雕塑，你不能构建一个模型然后未来几年一直保持它的原始状态不变。有人说AI是一种新型石油，而我更愿意说AI是一种新型氧气，因为AI越来越普及，像气候变化一样，潮起潮落无处不在。你想要能够洞悉花园中的一切生长状态，就需要卓越的远见才能做出明智的规划。
对于董事会和CEO们来说，遗憾的是很多技术负责人或者CIO并不擅长AI和数据科学实践，这进一步提高了实施AI的企业所面临的风险。首席数据官(CDO)和首席数据科学家官(CDSO)的兴起，推动了AI进化、模型构建、风险管理实践的发展，尽管大多数公司在数据支持系统方面的投资，不得不和保护算法和AI模型安全性方面的投资节奏保持一致。
董事会和CEO们有责任确保AI审核和风险管理框架得到合理实施，推进AI治理的向前迈进。
第三十五届CIO班招生
国际CIO认证培训
首席数据官（CDO）认证培训
责编：zhangwenwen
免责声明：本网站（http://www.ciotimes.com/）内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
本网站刊载的所有内容（包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等）版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。
抢沙发
