引言

2023年初，ChatGPT在全球范围内掀起了关于生成式AI的讨论热潮。

(资料图)

ChatGPT（全名：Chat Generative Pre-trained Transformer），是美国人工智能研究公司OpenAI于2022年11月30日发布的聊天机器人程序。ChatGPT是由AI技术驱动的自然语言处理工具，拥有语言理解和文本生成能力，不但具备强大的知识储备，还拥有根据聊天的上下文进行互动的能力。

ChatGPT与人类真实聊天场景几乎无异的交流能力和内容创作能力，以及根据用户反馈持续优化模型的能力，大大拉开了其与传统的对话机器人（Chatbot）的距离——早期的对话机器人更像是基于数据库的查询系统。

而且，作为生成式AI技术发展的代表性产物，与多年前同样引起轰动的围棋机器人AIphaGo相比，ChatGPT的应用场景更具普适性，可以更有力地持续推动这一波AI技术的发展与应用。

生成式AI的应用和发展

生成式AI（Generative AI）是通过各种机器学习方法从数据中学习目标对象的组件，研究历史数据，进而拥有生成全新的、完全原创的内容能力的AI。它专注于创建新内容，包括音频、代码、图像、文本、模拟和视频等。

近年来，生成式AI的创新持续加速，且正大规模地从实验室进入真实世界的场景与应用。创作效率高、创作成本低、使用门槛低的特点，使其可以应用于广泛的行业领域。

广告和媒体

生成式AI的多媒体内容生成功能大大推动了该技术在营销和广告行业的应用，该项技术可以帮助减少成本消耗，让创作者得以更专注于需要想象力和创造力的部分。生成式AI还可以生成针对细分群体的广告，以协助公司完成客户细分管理。

行业案例

美国广告平台Omneky与OpenAI合作，通过生成式AI技术，规模化生成个性化内容，并优化所有数字渠道的广告创意，为用户提供的广告营销解决方案。

▲信息来源：Omneky官网

安全保护

生成式AI技术通过图像处理、视频修复和音频合成，保护新闻受访者的身份安全。该技术还可以根据从不同角度获取的影像资料，生成目标人物/物体正面视角的图像，以加强大型公共场所的安全管理水平。

医疗和制药

生成式AI在医疗领域的应用主要包括药物研发、筛查诊断和医疗影像处理等。

药物研发模型的AI化，可简化并加速研发进程，将原本平均三到六年的药物研发周期缩短到几个月，大大减少药企的研发成本。

在医疗领域，生成式AI可通过生成高精度的图像，识别疾病的早期症状，并制定高效且个性化的治疗计划。在手术过程中，生成式AI还可以减少图像噪音，改善手术图像呈现效果。

行业案例

2021年，著名药企阿斯利康与英伟达（NVIDIA）合作，开发生成式AI药物研发模型——MegaMolBART，该模型计划用于反应预测、分子优化和分子生成。

▲信息来源：NVIDIA官网

软件和程序开发

生成式AI技术可以使编码任务自动化，并迅速识别和修复代码中的错误。红杉资本预测，生成式AI将在2030年在编程能力上超越人类程序员。同时，低代码和无代码应用程序的增长趋势预计将是生成式AI的关键需求驱动力。

快消零售

生成式AI能够在消费者咨询和售后服务过程中更好地理解和处理客户的问题。

时尚消费品企业还可以利用生成式AI自动创建效果图像的技术，虚拟试穿效果图或试色效果图，优化消费者的购物体验。

行业案例

2018年，国际快消服装品牌Zara开发了一个AR应用程序，该应用程序使用生成式AI创建虚拟模型以展示服装，并帮助客户进行个性化的购物体验。

▲信息来源：Teen Vogue官网

金融

基于金融场景积累的海量对话及解决方案数据，结合生成式AI的技术能力，可以打造全新的智能客服、智能营销和智能风控服务。

行业案例

摩根士丹利正在与OpenAI合作，使用GPT系列产品微调财富管理内容资源，财务顾问既可以快速搜索公司内部的现有知识，又可以轻松地为客户创建量身定制的内容。

▲信息来源：OpenAI官网

工业制造

在工业制造领域，生成式AI主要应用于零件设计、生产效能提升等方面。

凭借生成式AI，企业能够设计出最满足性能、材料、制造工艺等特定目标和限制条件的零件。通过优化产品设计和工程参数，生成式AI可在现有条件下增强机器和材料的使用效率以促进生产。

从企业内部角度来看，生成式AI可以应用于大多数适用文字撰写、视频编辑以及语音转化等需求的业务场景。可以预见，生成式AI工具将通过更短的业务路径，使曾经耗费大量人力的操作流程自动化，提升企业的整体运营效率。

目前在世界范围内，生成式AI市场的主要玩家包括OpenAI、Synthesia、Jasper AI、Google和Microsoft等。北美地区在生成式AI的全球市场上占据绝对的主导地位。

目前，中国本土的生成式AI产品以语言生成类和视觉生成类为主，其他应用类型还处于探索阶段。2023年3月16日，百度正式推出生成式对话产品“文心一言”（ERNIE Bot），该产品被誉为“中国版ChatGPT”。2023年3月10日，毕马威宣布成为文心一言首批生态合作伙伴和首个国内咨询行业合作伙伴。

负责任AI

新的技术变革往往同时带来机遇与风险。随着AI 逐渐从科幻走进日常生活，人们逐渐习惯于AI带来的便捷，但是当这些技术深入应用到广泛的领域中时，我们应该更加谨慎地看待这项技术可能带来的风险。

歧视性算法：

性别、国家、种族、职业等都是歧视性算法的重灾区，比如在很多面部识别算法中，黑人比白人的面部识别准确率更低。

隐私保护：

在人脸识别软件的训练过程中，可能出现未经允许使用人们的照片做试验，或者在大型公共场所中擅自进行人脸识别试验的情况。

学术伦理争议：

近期已经有很多高校禁止了ChatGPT，以防止学生使用该工具完成作业，侵害科研和教学的伦理环境。

著作版权争议：

由于生成式AI能够根据机器训练的材料进行设计、编写活动，生成高价值的产品，可能引发与训练材料非法使用相关的版权问题。

系统健全性争议：

不成熟的机器训练过程可能使生成式AI的学习过程存在明显缺陷，导致其产出物质量的不确定性，如不安全或错误的内容输出。

AI在敏感行业的应用：

金融行业的合规与安全性对AI提出了更高要求；AI在自动驾驶、智慧医疗等直接影响人类生命健康领域的应用亟需更加严格的监管。

犯罪活动：

AI技术已经开始被犯罪分子用来伤害他人或社会，例如犯罪分子使用基于AI的软件冒充熟人或上级的声音，进行财产转移相关的诈骗。

负责任AI是一种以安全、可靠和合乎道德的方式开发、部署和使用AI系统的方法。负责任AI的核心理念强调以人为本、社会责任和可持续发展，这就要求AI 的发展遵循一定的基本原则，包括公平性、透明度、可靠性、隐私安全性、包容性和责任承担：

公平性：

AI技术应促进公平公正，促进机会均等，消除AI技术的应用结果可能产生的偏见和歧视。

透明度：

当AI系统协助制定决策时，决策相关方有权利了解这些决策背后的逻辑。透明度要求AI系统的运行方式及决策模式的可解释性，基于此理解，决策相关方可以进一步考虑潜在的性能表现、公平性、排他性或例外结果等情况。

可靠性：

AI系统需要能够可靠、安全且一致地运行，它应该能够按照最初的设计运作，响应意外情况，识别潜在的威胁并抵御不当操作。

隐私安全性：

AI发展应尊重和保护个人隐私，充分保障个人的知情权和选择权，在个人信息的收集、存储、处理、使用等各环节设置边界，并建立规范。

包容性：

AI应促进绿色发展、不同地区的协调发展和共享发展，避免数据与平台垄断，鼓励开放有序竞争。

责任承担：

AI技术研发者、使用者及其他相关方应具有社会责任感和自律意识，严格遵守法律法规和伦理道德，并建立问责机制。AI技术应用过程中应确保使用人知情权，告知可能产生的风险和影响。严格防范利用AI技术进行非法活动的风险。

虽然对AI的伦理要求已经是社会的主流共识，但生成式AI所带来的风险具有以往的技术革新都不具备的特点，比如生成式AI利用跟随时间变化的数据进行训练，这些训练数据有时会发生重大变化，进而影响系统的功能和可信度；AI系统及其应用环境通常十分复杂，使得故障发生时很难快速检测和处理；AI技术的社会化应用，使其容易受到社会动态和人类行为的影响。技术和社会因素相互作用，造成了AI风险的独特性。

AI的应用伦理已经在世界范围内引起监管机构的广泛重视，AI风险的管控框架政策正持续建立中：

AI管控（AI in Control）

从企业的角度，AI带来的风险主要包括：

企业应针对四个要素对AI技术进行监督，以平衡AI所带来的风险：

适应性：

AI技术的稳定性，跨平台灵活性和对抗网络攻击威胁的能力；

公正性：

确保模型没有偏差和偏见，以及确保一些受限属性没有被随意使用；

完整性：

检查算法的完整性和数据的有效性，包括对数据来源和数据使用适当性的检查；

可解释性：

决策过程的透明化和可解释。

毫无疑问，充分理解和管理AI风险有助于增强企业的可信度，进而提升公信力。AI风险控制是所有企业即将面对的重要课题，AI管控的概念应运而生。

AI管控（AI in Control）是一种可以持续监控AI系统的技术，它通过数字化、灵活以及端到端的框架结构评估和衡量算法风险，并通过确保AI系统具有完整性、可解释性、公正性和适应性，来帮助用户掌控AI系统，使其在决策时能被有效利用和信任。

毕马威在行业内领先开发了“AI in Control”框架、方法及工具，协助企业提高AI应用信心和透明度。此架构为解决上文中指出的固有风险而设计，并就建立AI治理、执行AI评价以及建立持续的AI监控程序提出建议和领先实践。

对于每家公司来说，AI in Control都是一项定制化的服务，它的核心由一系列基础部分组建，包括综合性的AI架构、AI的专家评估、技术资产和能力以及持续的监督和增值洞察。

毕马威“AI in Control”框架的特点和优势包括：

在鼓励创新和灵活性的环境中制定AI设计标准，并建立相关控制；

评估当前治理框架并进行差距分析，以识别需改进的领域；

设计和实施一个贯穿全生命周期（战略制定、构建、训练、评价、配置、运营及监控）的端到端AI治理和运营模型；

设计一个通过指引、模板、工具和加速器来交付AI的解决方案和创新的治理框架；

整合风险管理架构以确定和优先处理关键业务算法，纳入风险缓释策略，以应对算法在设计和运行过程中的网络安全、完整性、公平性和适应性等问题；

保持对算法的持续控制，但不扼杀创新和灵活性。

从具体的执行层面，毕马威将企业AI的评估分为诊断和测试两部分：

诊断：

对企业AI计划和治理进行诊断，包括AI管理成熟度评估，以及实现目标状态的路线图和建议。我们将重点评估现有治理要素对AI现状的适用性、当前的运行模式和AI扩大使用范围的准备情况；

测试：

基于AI评估四要素，开展各AI算法和系统的设计有效性测试和执行有效性测试。

针对AI技术的评估和测试必然区别于传统的测试执行模式，毕马威拥有并与第三方合作开发了一系列评估和监控工具以协助进行AI应用的诊断和测试：

工作流评价工具：

毕马威开发的综合化的工作流评价工具，可以对AI进行综合评估。毕马威拥有超过250个问题库，这些问题均基于我们综合性的 “AI in Control” 框架和关键风险领域的洞察提出；

KPMG Max：

毕马威运用一系列脚本和流程再现技术，开发了协助验证AI模型透明度的工具；

自动监测工具：

毕马威与IBM合作，基于大量AI解决方案，形成功能强大的分析技术，用于监测偏差、公正性和准确性。我们能够对组织中所有AI系统进行评估测试分析，并且将分析结果与仪表盘充分融合；

自动监测工具：

毕马威与IBM合作，基于大量AI解决方案，形成功能强大的分析技术，用于监测偏差、公正性和准确性。我们能够对组织中所有AI系统进行评估测试分析，并且将分析结果与仪表盘充分融合；

有洞察力的仪表盘：

毕马威将AI评估结果综合呈现于仪表盘工具中，使评估结果更容易理解。公司可以使用预先设计的仪表盘，或者定制一个符合公司可视化需求的定制化仪表盘。

▲ 图片来源：KPMG US AI in Control Talkbook

结语

“最后生存下来的不是最强大或最聪明的人，而是那些能够适应并管理变革的人。”生成式AI来势汹汹，生产力变革的浪潮要求企业用开放的眼光，拥抱变化和挑战，提升自身在新环境下的核心竞争力，领跑行业新赛道。同时，面对新技术引发的AI伦理风险，以及越来越严格的AI开发和应用监管环境，企业需尽早进行AI管控体系的搭建，为企业长远的智能化和数字化发展保驾护航。

本文内容仅供一般参考用，并非针对任何个人或团体的个别或特定情况而提供。虽然我们已致力提供准确和及时的资料，但我们不能保证这些资料在阁下收取时或日后仍然准确。任何人士不应在没有详细考虑相关的情况及获取适当的专业意见下依据所载内容行事。本文所有提供的内容均不应被视为正式的审计、会计或法律建议。

©2023毕马威华振会计师事务所(特殊普通合伙)、毕马威企业咨询(中国)有限公司及毕马威会计师事务所，均是与英国私营担保有限公司— 毕马威国际有限公司(“毕马威国际”)相关联。毕马威国际不提供任何客户服务。各成员所均为各自独立的法律主体，其对自身描述亦是如此。毕马威华振会计师事务所(特殊普通合伙) — 中国合伙制会计师事务所；毕马威企业咨询 (中国) 有限公司 — 中国有限责任公司；毕马威会计师事务所 — 香港合伙制事务所。版权所有，不得转载。毕马威的名称和标识均属于毕马威国际的商标或注册商标。

责任编辑：