2026外滩年会纵论金融AI治理：谁为机器的决策负责？

2026年10月19日，2026外滩年会，外滩圆桌“金融领域AI治理：关键议题与可行路径”，由左至右：Marshall MILLS、张文才、刘珺、阮国恒、Lorenzo BINI SMAGHI

Marshall MILLS：在座的嘉宾非常适合探讨这一问题，因为他们目前正在直接参与相关治理工作。人工智能正迅速进入金融业的核心领域。我想先提出几项挑战，或者说几组需要权衡的关系，在座的专家稍后可以进一步展开讨论。

首先是创新、安全与问责之间的关系。治理体系应当充分释放人工智能带来的效益，同时确保人工监督、安全性和系统韧性。这在实践中究竟意味着什么？各方又应分别承担哪些责任？

第二是安全保障与竞争力之间的关系。如何建立有力的安全保障机制，同时又不妨碍创新和竞争能力的提升？各国又该如何在尊重各自国情的前提下开展协调？

最后是金融普惠与治理能力的问题。人工智能有望扩大金融服务的覆盖范围，但各国的监管能力存在差距，那么我们如何应对这一挑战？

下面请允许我介绍各位圆桌嘉宾。如果要完整介绍各位嘉宾，一个小时恐怕都不够，因为他们都拥有极其丰富的背景与经验，涵盖发展、金融、银行监管以及欧洲政策制定等领域。

张文才先生，他担任世界银行常务副行长兼首席行政官，此前曾在中国财政部、多家政策性银行以及亚洲开发银行担任高级职务。刘珺先生，担任中国工商银行行长。据我了解，中国工商银行是全球资产规模最大的商业银行。他在大型商业银行的管理方面经验丰富，也曾领导国有金融集团以及主权投资机构。阮国恒先生，现任香港金融管理局副总裁，负责银行政策、监管、操守及执法工作。他自1996年起就在香港金融管理局工作，拥有十分丰富的经验。Lorenzo BINI SMAGHI先生，欧洲50集团主席，曾任欧洲中央银行执行董事会董事、法国兴业银行董事长。

首先我想请问张文才先生：人工智能能够扩大金融包容性、提升效率，但就管理人工智能所需的监管能力而言，各国之间差异巨大。结合您在发展金融领域的经验来看，国家和国际治理机制应如何帮助这些国家善用人工智能的益处，同时确保消费者保护、网络安全以及监管能力能够跟上技术发展的步伐？

2026年10月19日，2026外滩年会，外滩圆桌“金融领域AI治理：关键议题与可行路径”，张文才发言

张文才：谢谢主持人，大家上午好，我也刚刚从曼谷回来，那是IMF和世行的年度会议，我们也谈到了AI以及AI对经济、就业、金融行业的影响。今天和明天在首尔还有一个数字峰会，这是由韩国政府主办的一个全球会议。AI显然是一个重要的话题，我们如何从AI当中受益，防范AI带来的风险。

在金融领域谈论AI的治理现在是最好的时机。说到AI使用的管理，其实它会有很多风险，尤其是在新兴市场和发展中经济体。一些监管机构已经走在前沿，还有一些国家几乎没有任何工具。根据世界银行的调查，只有11%的新兴市场金融监管机构在使用AI赋能的监管工具，大概有50%的机构告诉我们，他们没有足够的人员和工具来进行很好的监管。这就是我们调查的结果，很说明问题。

现在对于这个问题有两个不同的速度，有的发展非常快，走得非常快，比如可以用AI来预防或者是侦查欺诈，同时对少数几家云服务商和模型提供商有过度依赖。怎么应对这个挑战，我认为有三点：

第一，夯实基础。要更多借鉴而非重新发明。首先是要把数字身份证纳入到数据保护和支付当中，那些能力有限的国家不需要提出一个全新的框架，可以借鉴现有做法和国际指导来弥合他们能力上的差距。把有限的资源投入到伤害或风险最高的领域。

第二，帮助监管者更好地利用人工智能、监管人工智能。要有更加互联的数据，员工也要懂得如何运用。

第三，虽然技术来自于其他地方，但是金融机构仍然需要承担责任，对人工智能进行决策和负责。要加强协作，包括网络、数据保护机构必须要坐在同一个房间来进行决策，进行协调。不同机构之间要更好的合作，包括跨境和跨国之间可以去分享各种监管工具和测试结果以及早期的预警，因为大部分监管机构没办法靠一己之力来建这样的监管框架。

世界银行也在大幅度拓展我们对AI的应用，打造AI工具来更好服务我们的客户。所以现在我们的员工在整个世界银行层面都开始大规模使用AI，运用到他们的日常工作当中。

同时我们也非常严肃地对待人工智能相关的风险，网络袭击或者是网络风险等问题。我们每天都会应对大量的网络攻击，每天都要阻隔这样的攻击，给我们的客户提供数字基础设施的融资，我们也有很多相关的支持，而且我们还不断去支持我们的成员国制定这些实施计划，国际货币基金组织也在整个系统内评估整个监管方面的韧性。

另外还有韧性的金融服务，上周世界银行和国际货币基金组织在曼谷举办的年会就是一个很好的平台。最近世界银行集团发布了新一期的世界发展报告，聚焦于人工智能的潜力。报告指出，人工智能有望让发展中国家在十年内完成原本可能需要100年才能实现的增长。但是这些国家要有足够的电力、互联、规模以及非常好的机构，有这四个前提条件才能从人工智能中获益。

这份报告当中也建议了人工智能使用的合适顺序，首先是采纳，二是适应调整，三是推进，对于大部分国家最受益的是调整和适配。那些高收入国家的工具未必适合发展中国家，一定要应用当地的数据、当地的语言、符合当地的情况以及当地的机构，以此来调整AI工具。

所以世界银行提出要推动小型AI工具在发展中国家使用，而不是用最前沿模型或者是建巨型的数据中心。因为小型的AI工具成本比较低，对于大部分客户、国家尤其是低收入国家，这种小规模的工具能够更快速使用。当然有一些比较先进的国家可以用大规模的AI，但是大部分的小的或者是低收入的国家可以先用小模型人工智能进行小的部署。

最后，人工智能推进得非常快，不管有没有我们的参与都是如此。如果说我们现在开始行动，发展中国家就可以更多利用人工智能，可以更加主动地塑造人工智能的发展，而不需要成为被动接受者，所以要快速行动，要建立起信任，而且不让任何一个国家掉队，这是我所想说的。

Marshall MILLS：好的，谢谢张文才先生。刚才提到的小型人工智能非常有意思，它能够根据发展中国家的实际需求进行定制，尤其适用于那些尚未处于技术前沿的发展中经济体。非常感谢您的发言。

接下来，我想请教刘珺先生。您在最近发表的一篇文章《三个维度重塑全球金融治理》提出，治理应当服务于发展，而不应当服务于治理本身。随着人工智能更加深入地融入银行业，在实践中，我们应该如何实现这两者之间的平衡？

2026年10月19日，2026外滩年会，外滩圆桌“金融领域AI治理：关键议题与可行路径”，刘珺发言

刘珺：实际上，在直接讨论发展问题之前，我们不妨先以更宏观的视角审视当前人工智能的发展。如果我们不再采用印象主义的观察方式，那么，人工智能的发展更像是立体主义，更具有后现代主义的特征。我们正面临大量不确定性，甚至还有许多未知因素，影响着人工智能未来的发展轨迹。

刚才央行代表们的讨论让我很有感触，因为中央银行家们面临着诸多挑战，他们的工作确实非常不容易，商业银行从业者的处境也一样。为什么这么说？因为我们刚刚走过计算机导向的发展阶段，完成了相关系统的搭建，如今已经广泛使用各类计算机系统，并努力实现不同业务之间的整合。现在才刚刚迈入数字化转型阶段，这一阶段对于商业银行业务至关重要，我们正在努力汇集各类数据，建立数据集，运用数据分析技术，提升自身决策能力。但到目前为止，这一转型过程尚未完成，我们就已经踏上了一段新的旅程，而这段旅程将把我们带向一个新的领域，其中充满了未知，我们无法确定未来会发生什么。

人们经常谈论各种未知的黑天鹅因素，而人工智能未来的发展本身就可能伴随着大量黑天鹅事件。作为商业银行从业者，我们只能采用相对成熟、经过验证的技术，因为我们的业务直接涉及广大公众的日常生活，我们既参与产业发展，也参与市场中的各种经济活动，因此不能完全依赖尚未成熟的前沿技术。

所以，我们首先需要关注的问题，也是必须解决的问题，就是人工智能的身份定位困境。我所说的身份定位困境是指，人工智能究竟是主体还是客体？我们必须厘清这一点。

正如哲学家约翰·塞尔曾经讨论过的，如果你秉持强人工智能的观点，即认为人工智能迟早将获得与人类类似的意识，而如果你认同弱人工智能的观点，认为人工智能就是一种技术工具，那么我们可以利用这种工具促进业务发展，帮助开展各种业务活动。这就涉及人工智能究竟是主体还是客体的问题。

或许有一天，我们会发现人工智能发展出了某些能力，能够绕过人类进行讨论和谈判，甚至相互串通，破坏现有系统，绕过既定规则。这将是非常危险的。所以我们必须首先明确：人工智能究竟是会成为与人类地位平等的法律主体，还是仅仅作为一种辅助人类的技术工具？

这一问题又延伸到了另一个领域，也就是责任究竟由谁承担？我们需要提出新的思路，确保相关行为的责任归属能够得到清晰界定。因为在过去，如果你是一名银行从业者，使用某一套计算机系统开展业务，那么相关责任就是由你来承担。你不能推卸自己的责任，也不能对公众声称：这套计算机系统不是我开发的，所以我不承担责任。但是，在人工智能的整个开发和应用过程中，涉及许多不同环节，相关责任可能涉及算法开发者、程序员、部署方、使用方以及终端用户。各方处于不同环节，那么最终责任究竟应当由谁承担？人工智能算法在某种程度上而言处于黑箱之中，责任的认定与核实在当前阶段十分困难。如果无法解决前面这些问题，那么促进发展也就无从谈起。

由此又引出了几方面的不匹配问题。

第一个不匹配涉及信息披露。监管机构要求商业银行和上市主体充分披露相关信息，以建立公众信任。但是，人工智能算法及其各种数据参数，在某种程度上仍处于黑箱之中，我们很难准确识别哪些数据会产生哪些结果。我们该如何针对人工智能本身的特性开展信息披露，而不是沿用传统机构主体的披露方式？

第二个不匹配涉及数据存储。依据相关要求，有时我们必须要将数据存储在一国主权管辖范围内，不能将数据存储在其他国家。但我们知道，数据是跨境流动的，数据本身没有国界，算法同样没有国界。

第三个不匹配是主权不匹配。人工智能应当受到一定的主权管辖。我认为在现阶段，没有哪个国家愿意将人工智能的控制权交给另一个国家。这就是为什么“主权人工智能”如今受到广泛关注。

最后一个不匹配涉及信用与可信度。商业银行业本身就是建立在信用基础之上的。我们已经建立了非常成熟、精细的信用评分体系，会评估不同主体的信用状况，包括各类机构、市场参与者甚至个人，并为他们赋予相应的信用评分。但我们应该如何对人工智能算法进行准确的信用评估？人工智能既有闭源模型，也有开放权重模型，还有开源模型。我们又该如何评估这些不同类型模型的可信程度？

我最终想强调的是，尽管我们面临着诸多问题与挑战，我们必须确保，所有技术发展最终都应当服务于人类未来的进步。我们必须确保人工智能能够赋能全人类，使我们携手迈向更加美好的未来。否则，我们甚至没有必要讨论人工智能发展的利弊得失。

因此，我想提出一点：如果我们能够将人工智能视为一种类人的准法律主体，并将人工智能金融治理与人类主体治理以及现有市场参与者的治理体系结合起来，那么我们就可以建立一套统一的治理机制，对人工智能实施监管。人工智能运行过程中产生的数据轨迹，可与现有市场参与者的相关数据整合起来，纳入统一体系，实现统一管理，实现从源头到终点的全流程覆盖。我们确实掌握数据标注技术，也具备追踪能力，通过将人工智能纳入考量，利用现有机制就能够解决系统性风险的验证与识别问题。

Marshall MILLS：好的，谢谢刘珺先生。您对这些挑战的解释非常有洞察力，而且也对妥善应对这些挑战抱有信心。尤其让我印象深刻的是，您谈到了问责、可信度和信任，而这些在金融领域尤其重要，谢谢。

下面请阮国恒先生发言。香港金融管理局一直是支持银行采纳和应用人工智能的最积极的监管机构之一。根据您目前看到的情况，银行和监管者应该把哪些实际经验带入人工智能应用的下一阶段？

2026年10月19日，2026外滩年会，外滩圆桌“金融领域AI治理：关键议题与可行路径”，阮国恒发言

阮国恒：首先感谢主办方，让我有机会与各位分享我的观点。AI治理是非常合时的话题。我认为AI发展中最重要的就是治理。金融机构应用AI和面临的挑战可从两方面分析，一是应用的规模；二是应用过程中走得有多前：从AI助理到生成式AI，再发展至代理式AI，走得越前，面对的挑战越大。

随着业界更有规模地应用代理式AI，我们认为三个因素对治理最为重要。我们正与香港银行合作，共同应对几个主要挑战。

一是情境挑战。银行并非只把技术当作提升生产力的工具。70%的银行向我们表示，人工智能、代币化、分布式分类账技术和云端等相关部署已纳入董事局层面的讨论中。这是关乎整个机构，但同时亦须因应不同情境处理的议题，需要战略部署，对银行的治理带来完全不同的挑战。

如果只把技术当作提升生产力的工具，只需要做各式各样的测试，选择最能提升生产力的工具再作部署便可。但这是对治理狭义的理解。相反，如果从战略角度分析，银行就会以技术为本制定其商业模式。从模型和用例的选择，到后续的模型更新、事故处理和变更安排，不同生命周期的问题都在治理框架之内。框架如何应对这些问题，是一大挑战。

另外，从监管角度而言，我们应在过程中保持灵活和弹性。前几天我们发布了AI的治理框架，并即将就代理式人工智能发布讨论文件。讨论文件的核心，并不是我们掌握了所有答案，而是希望与业界合作，找出可行的方法，应对代理式人工智能带来的挑战。同时，我们会透过持续和互动的方式与业界沟通，而不是用传统的监管方式，即收集问题然后发布咨询文件，到走完整个流程，内容可能已经过时。

此外，国际合作方面也面临挑战。人工智能是跨境议题，亦涉及系统之间的相互依赖关系。有不少香港银行使用的模型并非由本地开发，模型出现问题时，银行应与谁商讨和解决问题？我们是否应更具前瞻性地就系统之间的依赖关系制定监管框架？除了人工智能，系统之间的依赖关系在云端相关领域同样存在。但过去5、6年间我们和相关行业就治理安排紧密沟通，我们在人工智能领域也应一样。

4天前我们发布了“负责任应用人工智能”的监管文件，总结我们过去6至8年在人工智能治理方面的工作，有三个重点：

一是可问责（Accountability），在AI代理方面，我们看到即使是单一的应用方案，金融机构都可能会分成多个AI代理执行。如果每个AI代理都只负责其中小部分的工作，而人工监督亦只对部分工作负责，就等于没有人需要负上整体责任。我们应如何处理责任问题？

二是具韧性（Resilience），随着AI代理的应用越深入，韧性就越复杂，我们要尽早从治理框架着手。

三是可信赖（Trust），公众对金融机构的信任建基于适当的监管制度，以及专业的营运模式。在人工智能领域，我们如何确保先进的AI模型不会影响公众对金融机构的信任？因此，作为监管机构，我们为银行提供一个风险可控的环境进行不同测试，快速试错，藉此维持公众的信任。当然，还有其他不同的方式，我们可以留待之后讨论。

Marshall MILLS：好的，非常感谢阮国恒先生。这是关于人工智能与金融治理的非常有价值的现实经验，而信任的重要性也再次体现出来。

接下来有请Lorenzo BINI SMAGHI先生。欧洲通过《欧盟人工智能法案》采取了相对全面、以规则为基础的人工智能治理方式，同时最近也采取措施确保其高效实施并支持创新。结合您在欧洲政策制定和银行业方面的经验，您如何评价欧洲在保障措施、金融创新和竞争力之间取得的平衡？

2026年10月19日，2026外滩年会，外滩圆桌“金融领域AI治理：关键议题与可行路径”，Lorenzo BINI SMAGHI发言

Lorenzo BINI SMAGHI：首先，非常感谢邀请我参加本届外滩年会。今天的话题是人工智能监管，我在会前稍早拿到了这个问题，所以有机会先去问问人工智能。我问了ChatGPT：欧洲是否监管过度？我简单说一下它的回答，原文很长——

开头是“谢谢你的问题，非常有意思，让我来详细解释一下”诸如此类的话，然后是它的核心结论：对于某些企业而言，欧洲对人工智能施加的监管力度可能超过了企业所期望的最优限度，但目前的证据尚不足以证明，《欧盟人工智能法案》本身导致欧洲失去了竞争力。更站得住脚的结论是，监管只是一系列更广泛的结构性挑战中的潜在劣势之一。

事实上，欧盟已经通过2026年的“人工智能综合法案”调整了法案的实施时间表，并明确提出需要降低合规成本，同时确保标准和实施工具准备就绪。接着它说，解决方案未必是全面放松监管，而是更加适度的监管、更大的法律确定性、更快的实施速度，再加上一套更加有力的投资于技术规模化的战略。

归根结底，评价欧洲的标准不应该是它有多少规则，而应该是它能否在保护公民的同时，让欧洲的企业得以创新、扩大规模并参与全球竞争。

然后，ChatGPT接着还说：“如果你愿意，我可以进一步展开”，等等。

我当时想，这种回答其实不太有意思，但又有点出人意料，我原以为它会更加直接。于是我换了个办法，像记者一样去采访。

我去采访了欧洲最大的AI公司，即法国的Mistral。他们采用开放架构，而且声称自己的水平相当高，几乎可以与中国模型媲美。我问它：你们的问题在哪里？是监管吗？

让我非常惊讶的是，答案是否定的，问题不在监管。Mistral称，虽然欧洲监管还可以改进，但并不是最大的问题。监管其实是合理的，因为人民的确需要透明度，需要被保护。欧洲真正的问题在于规模。

我们如何获得资本来实现增长？Mistral刚刚完成了一轮30亿欧元的融资。所以这是所有欧洲企业都面临的典型问题：如何在留在欧洲的同时实现规模增长。它们确实希望留在欧洲，它们希望做一家欧洲公司，但困难在于，如何留在这里，而不是去华尔街。说白了，如果它们搬到美国，或许想要多少资本都能拿到。它们确实有一部分来自美国的资本，但事实上，AI企业面临的问题与其他企业并无本质区别，也就是规模化和资本获取。

另一个问题是客户获取。在人工智能领域，客户越多，数据越多，就越容易扩大规模。对于欧洲公司尤其是AI企业而言，采购至关重要。但欧洲AI公司说，我们很难获得采购机会，而美国AI公司往往能够顺利进入欧洲的采购市场。

所以，归根结底，如果我来概括一下这些企业的看法，欧洲的问题就是：欧洲在应对人工智能的问题上，有点过于天真。我们几乎向所有人开放市场，但却没有帮助自己的企业成长，也没有帮助自己的企业在欧洲之外游说，推动其他市场向我们的企业开放。有以色列的同行就说：“我们进不了美国政府采购，而美国公司却能够充分参与各种采购。”所以，某种程度的公平竞争环境确实会很有帮助。

你可以说这部分属于监管问题，但最终，欧洲AI企业的诉求并不是放松监管，而是为我们开放市场。

2026年10月19日，2026外滩年会，外滩圆桌“金融领域AI治理：关键议题与可行路径”，Marshall MILLS主持圆桌

Marshall MILLS：好的，谢谢。我的理解是，整体环境很重要，但监管并不是这个环境中最关键的部分，谢谢。

现在进入第二轮提问，请各位尽量简短作答。还是先从张文才先生开始：人工智能真的会扩大金融包容性吗？还是它反而可能加深金融排斥？

张文才：我认为是的，确实AI可以扩大金融的包容性，但我们要加以设计，才能实现这样的包容性。包容性并不会自动发生，这种机会确实存在，在很多新兴市场，有很多中小型企业甚至家庭企业、中小微企业，他们获得资金（融资）不容易，他们没有自信的历史，没有抵押品，没有可靠的身份，也没有品牌，那他们就会面临（融资）困难。AI可以运用多种数据，降低服务小客户、小账户的成本，同时还可以以本地语言来进行服务。

所以，上周在曼谷的年会上我们推出了一项新的战略，帮助中小微企业。借助这项战略，我们将努力加大对中小微企业的支持，我们认为他们确实能够创造更多就业，能够让世界更强大、更包容、平衡。我们考虑用AI等技术帮助中小微企业，让他们更加互联、更有辨识度和能力，也能够获得更多的资金支持，用AI让他们可见、可连接、可融资、可赋能。我们看到了使用AI等数字化技术帮助他们实现这些目标的可能性。

但也不要把可获得和金融包容性混为一谈，有些人可能会得到数字贷款，但是依然过得不如以前。如果模型有偏见、不清楚，或者没有渠道对这一决策提出异议，那么当数据无法反映他们的现实生活时，女性或者非正式就业人员就会受损。调查当中，新兴市场有59%的受访者将欺诈、电诈，列为消费者面临的高风险。这些随着工具演进会变得更复杂，我们有三重保障：

第一，要夯实基础，要有可靠的身份查证，尤其是在互操作的支付方面，数据治理方面。

第二，要在本地去重建工具，这也是在WDR报告当中三步中的第二步，即要看结果，而不只是模型。监管者问一个很简单的问题，给谁批，不给谁批，谁支付的钱更多？这样可以得到更公平的结果，而且用通俗的语言解释决策，同时给用户一个简便的方式来进行上诉。

第三，保护选择权和竞争。如果少数平台控制数据、分销及工具，这样他们就能够左右产品，这样并不是说自动化的水平可以提多高，我们要看如何能够更加公平，让结果更好，让人们有机会在出现错误的时候提出质疑。如果我们做到，我们可以切实改善并加强金融包容性，而不是深化排斥。

阮国恒：我可就包容性稍作补充。先让大家了解中小企业面临的困境：中小企占香港就业人数约60%-65%，但他们仅占银行业资金投入的4%-5%。当然，我们并不是说他们应占60%的资源，但现实的差距实在太悬殊。

我们推动金融业界利用非结构化数据，协助中小企进行融资，同时发现数据是最大的挑战，包括两方面：一是中小企可用的数据（包括非结构化数据）较少；二是中小企透过AI进行融资的过程中，保护数据的法例造成的阻力。这是一个需要各地共同应对的问题。至少对香港银行业来说，这是我们首要处理的问题。

Marshall MILLS：谢谢。某种意义上，我觉得包容性面临的挑战，其实正是人工智能治理和金融领域其他挑战的一个缩影：潜在收益巨大，但要确保这些收益真正落地，同时避免风险发生，关键在于治理。正如阮国恒先生说的那样，其中一部分就是数据。

下一个问题我想请问刘珺先生：中国工商银行在多个司法辖区开展业务，我们在哪些方面最需要统一的人工智能国际标准？哪些规则又应该保留在本地层面？

刘珺：央行和商行的苦恼在于，它们都在不断从一个范式跳到另一个范式：从基于计算机系统的时代，到数字化转型，再到人工智能转型。

当马歇尔问我，工行如何利用人工智能技术服务不同业务领域时，我想从最基础的一点说起：人工智能如何为商业主体乃至市场中的各类利益相关方创造收益。如果我们借用比特币定价机制中的概念，我们有工作量证明、历史证明、权益证明；我还想加一个要素，那就是收益证明。如果我们把这四个因素结合起来，我们就能识别并清晰界定人工智能在特定业务活动中应承担的最终责任。关键在于，由谁独立作出决策并承担相应后果。

我还想借用央行领域的一个概念，那就是独立性——如何在人工智能发展过程中对这种独立性进行清晰、精确的衡量和界定？

我可以用这样一个情境来说明：如果工行在各业务条线上大量使用和部署人工智能工具和智能体，而所有收益都计入工行的资产负债表和利润表，那就意味着使用和部署人工智能的责任由工行来承担。一旦出了问题，就应由工行向相关受害方进行赔偿，并向市场作出最终交代。如果一家一人公司部署了大量智能体，那么这个人就要承担最终责任。如果是人工智能聊天机器人自行设立公司，并像其他金融机构一样从事金融中介业务，那么人类必须在流程中嵌入“紧急关停”开关；否则，这会给我们的业务乃至福祉带来巨大危险。这一点非常重要。

目前我们设定的底线是：如果人工智能设立公司，那么人工智能承担最终责任；如果人设立公司，那么人承担最终责任。谁把这四个要素结合起来、形成独立判断，谁就承担相应责任。这非常非常重要。

因此，在工行的业务流程中，如果某项业务高度依赖数据，工行可以给人工智能更多自主权，让它处理业务流程。由人工智能产出结果、提高效率，也可能带来某些后果，工行承担这些后果，整个系统因此更加高效。如果这项业务直接面向客户，让“回路中的人”把握重大决策。如果某项业务涉及定价管理，且在金融和社会层面敞口巨大，那么人必须从一开始就参与其中。这一点毫无疑问。

目前，工行已经部署了数百个人工智能模型，我们按领域分类、按业务线细分，明确哪些决策节点必须由人来处理、哪些环节可以由人工智能工具完全自动化。但整个过程非常艰难，我们边前进边学习。这是一条相当艰难的道路，我也相信央行会给我们很多帮助，我们可以携手合作。

Marshall MILLS：谢谢，刘珺先生。您谈到了很多挑战，也提出了一个非常清晰的原则，就是坚持人在回路中，最终由人承担责任。谢谢。

那么阮国恒先生，我有一个追问：深度伪造和语音克隆诈骗已经波及银行客户。当人工智能欺诈得逞，银行、技术提供商和客户之间应该如何分担责任？

阮国恒：我非常同意责任是应该共同承担的。我们参考了不同地区的做法，部分地区要求收款银行背负很大责任，亦有一些地区把重点放在客户身上，要求他们时刻保持警觉。谁应承担更多责任？这是非常有意思的概念。

两年前我们咨询了业界，希望制定一个责任框架：如果银行发现了可疑情况而没有采取行动，就需要银行来承担责任；同样地，如客户不保持警觉，随便相信信息而蒙受损失，就理应客户为自己负责。但在两者中间，通常在90%的情况下，需要每个案例逐一分析和判断。因此我认为责任分配没有绝对和简易的原则，但我们确实需要建立一个清晰的框架，为某些情况作判断。

有一点可以肯定：我们留意到英国、新加坡和澳大利亚等地的法律框架要求技术提供者负上一定责任。例如社交媒体平台在客户投放广告前，需要核实客户的身份（KYC）。如果发现疑似诈骗的内容，有关当局亦可要求社交媒体平台将相关内容下架，这对共同分担责任非常重要，技术提供者需负上部分责任。

我想补充一点，刚才刘行长也提到，我们希望给银行足够空间作尝试。正如刚才所说，信任建基于银行快速试错的能力。监管机构应在过程中为银行提供协助，而并非只着眼于相关风险。

Marshall MILLS：好的，谢谢。那么Lorenzo BINI SMAGHI先生，我有一个问题想请教您：如果许多机构依赖相似的模型和数据，人工智能是否会让市场压力更快发生、更加同步？如果是这样，央行现在应该怎么做？

Lorenzo BINI SMAGHI：谢谢。我认为这是一个非常重要的问题，因为我们对人工智能的讨论还处于起步阶段，而我们看待人工智能时，往往会以所谓的局部均衡视角，而不是一般均衡。

我刚才听您提到，维系客户信任是一大难点。我们设想的世界是：我们拥有人工智能，人类选择对其信任或者不信任。但我们将要迎来的并不是这样的世界，因为人类会拥有机器，也会拥有智能体，所以人类必须获得智能体的信任，但智能体如何获得其他智能体的信任呢？

我认为这会变得非常复杂。很难确定客户的智能体会如何行动，比起信任我，我的客户可能更加信任他的智能体，客户的智能体会告诉他应该相信谁，是相信它自己、相信我还是相信监管者。身处这样的世界，我们目前并未具备管控能力。

当然，这种互动最终会对市场运行、响应速度和羊群行为产生什么影响？这正是您刚才的问题，而这种现象本身并不新鲜。自从凯恩斯的选美竞赛理论提出以来，关键就在于其他人认为什么是正确的。换句话说，只要音乐还在播放，我们就必须跳舞。核心在于，我要比别人更早知道音乐什么时候会停止，并且抢到一把椅子。但我们如果拥有一群非常聪明的智能体，它们就会同时扑向同一把椅子，而这会引发市场剧烈震荡。因此，市场调整可能会快得多，也更具破坏性。

对于监管者以及我们这些金融机构来说，终极难题是，应该如何调教智能体？应该向智能体输入什么信息，让它意识到可能存在尾部风险？

关于这对银行家来说会有多么困难，我来举例说明。典型的激励机制是薪酬。从业者不仅要对近期的行为负责，还要对未来六到十年的行为负责。所以必须谨慎，一旦出现失误，就无法轻易免责。那么，智能体的薪酬激励政策该如何制定？

我们尚且不知道如何为智能体建立激励机制，以让它们能够参考久远的历史信息。例如，谁还记得上一次金融危机？现实情况确实如此。如今各大交易大厅里，有多少交易员亲身经历过上一轮金融危机？智能体或许会拥有更强的记忆存储能力，但我们要如何激励它存储15年、20年前的历史数据？如果它现在就能在市场上比我们赚更多的钱，那些久远的数据对它来说又凭什么更重要？

这些都是巨大的挑战。它们未必是全新的问题：为人类设计激励机制，我们懂得如何来做，却不知道如何为比人类更加聪明的智能体设计激励机制。所以，简而言之，我没有答案，但我们可能会在下一轮危机中找到答案。抱歉，这是典型的欧式回答：我们从危机中学习，在这个过程中不断完善。遭遇危机时，我们希望能够平稳度过，并吸取教训，在下次遇到危机时表现得更好。

Marshall MILLS：总结来看，宏观层面来理解这个问题，其在很大程度上取决于如何训练人工智能模型和配套的智能体，以及如何设置激励机制。这一点非常重要，也让我联想到阮国恒先生刚才提到的观点：由于人工智能发展的速度非常快，金融领域的人工智能治理需要加速迭代。因此，监管机构和银行应当协同合作，谢谢。

我们时间差不多到了，但如果可以，我还想再占用几分钟。我想请各位嘉宾分别谈谈，你们认为未来一到两年，政策制定者在金融人工智能治理方面最应该做的一件事情是什么？最重要的一件事情是什么？

Lorenzo BINI SMAGHI：我唯一的建议是，政策制定者应该与金融机构协同合作，而非对立，因为这是一个学习的过程，要分享经验、相互学习。

Marshall MILLS：好的，我看到你说这句话时大家纷纷点头。

刘珺：鉴于人工智能的特性，没有哪个国家能够独立解决问题，全球合作与协作至关重要。“协作”是我想强调的关键词之一。

我还想补充一点，那就是我们可以借鉴其他学科的一些理念，这正是跨学科研究的价值所在。如果我们能够借鉴法律框架和法律领域中的理念，例如“排除合理怀疑”的标准，那么有时候我们必须要求人工智能证明，它的决策能够达到排除合理怀疑的标准。否则，如果某些人工智能工具无法实现可解释性和互操作性，我们就必须搁置这类人工智能工具。这就是人类可以应用于现实世界的“紧急关停”开关。

张文才：我觉得现在我们处在一个关键的时刻，无论是如何使用还是如何治理AI。我之前也谈到了，对每一个经济体，你需要在内部加强你的机构，你需要有足够的规模和监管工具，你需要去加强你的基础，去管理和治理AI，你需要有足够的权利，要和机构、监管机构一起合作。

之前的发言嘉宾还提到了跨境，我们需要更多的全球合作和协调，尤其是在AI治理的标准方面，我们需要和所有的国家一起商量，坐在一起去为共同的AI治理标准贡献力量。包括国家之间如何去分享这些协议，早期的预警等等。我认为未来会有更加紧密的国际间协作和协调。

Marshall MILLS：好的，谢谢。我认为这是非常好的总结：我们需要加强协作，既要推动监管机构与银行协作，也要推动各国之间加强合作。以此收尾，今天的讨论就到这里。非常感谢各位嘉宾带来深刻而精彩的分享，让我们感谢各位嘉宾。

10月19日，在2026外滩年会上，世界银行常务副行长兼首席行政官张文才，中国工商银行行长刘珺，香港金融管理局副总裁阮国恒，欧洲50集团主席Lorenzo BINI SMAGHI，围绕“金融领域AI治理：关键议题与可行路径”展开圆桌讨论，国际货币基金组织驻华首席代表Marshall MILLS主持圆桌。