大模型应用探索：金融业从热情高涨到理性回归

ChatGPT问世以来，在金融业引发了巨大反响。这个对技术充满信仰的行业担心自己可能会被时代的浪潮甩在后面。这种焦虑氛围一度蔓延到了意想不到的地方。有业内人士提到，今年5月她在大理出差时，甚至在寺庙里都能遇到讨论大模型的金融从业者。

然而，这种焦虑正逐渐平复，人们的思路也变得更加清晰和理性。软通动力银行业务CTO孙洪军描述了今年金融业对大模型态度的几个阶段：二三月份，普遍存在焦虑情绪，担心落后；四五月，纷纷组建团队开展相关工作；之后几个月，在寻找方向和落地过程中遇到困难，开始趋于理性；现在，更多关注标杆案例，尝试验证过的应用场景。

值得注意的是，许多金融机构已经开始从战略层面重视大模型。据不完全统计，A股上市公司中，至少有11家银行在最新半年报中明确提出正在探索大模型的应用。从近期动作来看，他们也正在从战略和顶层设计层面进行更深入的思考和规划。

从热情高涨到理性回归

年初ChatGPT刚出现时，金融业对大模型的理解还比较有限。一些大型银行率先行动，开始进行各种宣传。同时，随着国内多家科技公司陆续发布大模型，一些头部金融机构的技术部门开始积极与这些公司探讨大模型建设事宜。

5月份之后，情况开始发生变化。受限于算力资源短缺、成本高昂等因素，许多金融机构开始从单纯希望自建算力和模型，转向更关注应用的价值。目前，每家金融机构都在密切关注其他机构在大模型方面的应用及其效果。

不同规模的企业也分化出了两条路径。拥有海量金融数据和应用场景的大型金融机构，可以引入领先的基础大模型，自建企业大模型，同时采用微调方式，快速开发专业领域的任务大模型；中小金融机构则可以根据需求引入各类大模型的公有云API或私有化部署服务。

由于金融行业对数据合规性、安全性和可信性有较高要求，一些业内人士认为，该行业的大模型落地进展实际上略低于年初预期。一些金融机构已经开始寻找解决方案，以克服大模型落地过程中的各种障碍。

在算力方面，金融业目前出现了几种解决思路：

1. 直接自建算力，成本较高但安全性更有保障。适合实力雄厚、希望自建行业或企业大模型的大型金融机构。

2. 算力混合部署，在确保敏感数据不外流的前提下，结合公有云大模型服务接口和私有化部署方式。这种方式成本相对较低，适合资金实力较弱、只需按需使用的中小型金融机构。

针对中小机构面临的GPU卡短缺和高价问题，有消息称监管机构正在探索搭建面向证券行业的大模型基础设施，集中算力和通用大模型等资源，以帮助中小金融机构避免"技术落后"。

在数据治理方面，越来越多的金融机构开始构建数据中台和数据治理体系。一些银行还通过大模型结合MLOps的方式解决数据问题。例如，某大型银行采用MLOps模式建立了大模型数据闭环体系，实现了流程自动化和多源异构数据的统一管理与高效处理。

从外围场景切入

过去半年多，大模型服务商和金融机构都在积极寻找应用场景，涵盖智慧办公、智能开发、智慧营销、智能客服、智慧投研、智能风控、需求分析等多个领域。

每家金融机构对大模型都有丰富的构想。有银行表示已在20多个场景投放应用，另一家银行称正在30多个场景中进行试点，还有证券公司正探索将大模型与虚拟数字人平台结合。

然而，在实际落地过程中，业内普遍认为应该先内部后外部。考虑到当前大模型技术尚不成熟，而金融行业又是强监管、高安全要求的领域，短期内不建议直接面向客户使用。

目前，代码助手和智慧办公领域已有不少落地案例。例如，某大型银行构建了基于大模型的智能研发体系，编码助手生成的代码量占总代码量的40%。在保险领域，某公司开发了基于大模型的辅助编程插件，直接嵌入内部开发工具。

不过，业内人士判断，这些已广泛落地的场景实际上还不是金融机构的核心应用，大模型距离深入金融行业的业务层面还有一定距离。

在顶层设计方面，一些变革正在进行。多家头部金融机构已经基于大模型搭建了包含基础设施层、模型层、大模型服务层、应用层等多个层级的分层系统框架。这些框架体系普遍具有两大特点：一是大模型发挥中枢能力，将传统模型作为技能进行调用；二是大模型层采用多模型策略，内部优选最佳效果。

人才缺口依然庞大

大模型的应用已经开始对金融行业的人员结构带来一些挑战和变革。一些岗位面临被替代的风险，但同时也创造了新的机会。

多位业内人士表示，目前大模型相关人才的缺口非常大。金融机构虽然能从大模型厂商获得技术支持，但作为最终使用方和创新主导方，他们仍需要一定的人才积累来支撑AI大平台的构建、应用规划以及模型优化等工作。

一些机构已经采取行动，如与科技公司合作设计培训课程，涵盖Prompt调优、微调、大模型运营等内容，并建立联合项目组推动企业人员能力提升。

值得注意的是，在这个过程中，金融机构的人员结构也将迎来调整和变革。熟悉大模型应用的开发人员可能更容易在新环境中脱颖而出。