Exploration des applications de grands modèles : le secteur financier d'un enthousiasme élevé à un retour à la raison

Depuis la création de ChatGPT, il a suscité un énorme écho dans le secteur financier. Cette industrie, pleine de foi en la technologie, craint de se faire distancer par les vagues de l'époque. Cette atmosphère d'anxiété s'est même répandue dans des endroits inattendus. Un professionnel du secteur a mentionné que, lors d'un voyage d'affaires à Dali en mai dernier, elle avait même rencontré des acteurs financiers discutant des grands modèles dans un temple.

Cependant, cette anxiété est en train de s'apaiser progressivement, et la pensée des gens devient également plus claire et rationnelle. Sun Hongjun, CTO des opérations bancaires de Softcom, a décrit plusieurs étapes de l'attitude du secteur financier envers les grands modèles cette année : en février et mars, il y avait une anxiété générale, craignant de prendre du retard ; en avril et mai, de nombreuses équipes ont été formées pour travailler sur le sujet ; au cours des mois suivants, des difficultés ont été rencontrées dans la recherche de direction et de mise en œuvre, et les gens ont commencé à devenir plus rationnels ; maintenant, il y a une attention accrue sur des cas de référence, essayant de valider des scénarios d'application éprouvés.

Il convient de noter que de nombreuses institutions financières commencent à accorder une importance stratégique aux grands modèles. Selon des statistiques incomplètes, parmi les entreprises cotées en bourse A, au moins 11 banques ont clairement indiqué dans leur dernier rapport semestriel qu'elles explorent l'application des grands modèles. D'après les actions récentes, elles réfléchissent et planifient également de manière plus approfondie du point de vue stratégique et de la conception de haut niveau.

De la hausse de l'enthousiasme au retour à la rationalité

Au début de l'année, lorsque ChatGPT est apparu, la compréhension des grands modèles par le secteur financier était encore relativement limitée. Certaines grandes banques ont été les premières à agir, commençant à faire diverses promotions. En même temps, avec le lancement successif de grands modèles par plusieurs entreprises technologiques nationales, les départements techniques de certaines institutions financières de premier plan ont commencé à discuter activement des questions de construction de grands modèles avec ces entreprises.

Après le mois de mai, la situation a commencé à changer. En raison de la pénurie de ressources de calcul, des coûts élevés et d'autres facteurs, de nombreuses institutions financières ont commencé à passer d'un simple espoir de construire leur propre puissance de calcul et modèles, à une attention plus marquée sur la valeur des applications. Actuellement, chaque institution financière surveille de près les applications et les résultats des autres institutions dans le domaine des grands modèles.

Différentes tailles d'entreprises ont également développé deux voies distinctes. Les grandes institutions financières, qui disposent d'une quantité massive de données financières et de cas d'application, peuvent adopter des modèles de base avancés, construire leurs propres modèles d'entreprise tout en utilisant des méthodes de fine-tuning pour développer rapidement des modèles de tâches spécialisés ; les petites et moyennes institutions financières peuvent quant à elles faire appel à des API de modèles de grande taille en cloud public ou à des services de déploiement privatif en fonction de leurs besoins.

En raison des exigences élevées en matière de conformité, de sécurité et de fiabilité des données dans le secteur financier, certains professionnels estiment que les progrès de la mise en œuvre des grands modèles dans ce secteur sont en réalité légèrement inférieurs aux attentes initiales de début d'année. Certaines institutions financières ont déjà commencé à rechercher des solutions pour surmonter les divers obstacles rencontrés lors du processus de mise en œuvre des grands modèles.

En termes de puissance de calcul, plusieurs solutions ont émergé dans le secteur financier :

1. Construire directement sa propre puissance de calcul, le coût est plus élevé mais la sécurité est mieux garantie. Convient aux grandes institutions financières puissantes qui souhaitent construire des modèles de grande taille pour leur industrie ou leur entreprise.

2. Déploiement hybride de la puissance de calcul, garantissant que les données sensibles ne fuient pas, en combinant les interfaces de services de modèles de grande taille sur le cloud public et les méthodes de déploiement privatif. Cette méthode a un coût relativement bas, adaptée aux institutions financières de petite et moyenne taille avec des ressources financières limitées qui n'ont besoin d'utiliser que sur demande.

Face à la pénurie de cartes GPU et aux prix élevés auxquels sont confrontées les petites et moyennes institutions, des sources ont indiqué que les régulateurs explorent la création d'une infrastructure de modèle à grande échelle pour le secteur des valeurs mobilières, centralisant les ressources telles que la puissance de calcul et les grands modèles généraux, afin d'aider les petites et moyennes institutions financières à éviter "le retard technologique".

Dans le domaine de la gouvernance des données, un nombre croissant d'institutions financières commencent à construire des plateformes de données et des systèmes de gouvernance des données. Certaines banques ont également résolu des problèmes de données grâce à la combinaison de grands modèles et de MLOps. Par exemple, une grande banque a adopté le modèle MLOps pour établir un système de boucle fermée de données de grands modèles, réalisant l'automatisation des processus et la gestion unifiée et le traitement efficace de données hétérogènes provenant de multiples sources.

Entrer par le scénario périphérique

Au cours des six derniers mois, les fournisseurs de services de grands modèles et les institutions financières ont activement cherché des scénarios d'application, couvrant plusieurs domaines tels que le bureau intelligent, le développement intelligent, le marketing intelligent, le service client intelligent, la recherche et l'investissement intelligent, la gestion des risques intelligente et l'analyse des besoins.

Chaque institution financière a des idées riches sur les grands modèles. Une banque a déclaré avoir déployé des applications dans plus de 20 scénarios, une autre banque a indiqué qu'elle menait des essais dans plus de 30 scénarios, et une société de valeurs mobilières explore la combinaison des grands modèles avec des plateformes de personnes numériques virtuelles.

Cependant, dans le processus de mise en œuvre, l'industrie estime généralement qu'il faut d'abord se concentrer sur l'interne avant de se tourner vers l'externe. Compte tenu de l'immaturité actuelle de la technologie des grands modèles, et du fait que le secteur financier est un domaine fortement réglementé avec des exigences de sécurité élevées, il n'est pas recommandé dans un avenir proche d'utiliser cela directement auprès des clients.

Actuellement, il existe déjà de nombreux cas d'application dans le domaine des assistants de code et du bureau intelligent. Par exemple, une grande banque a construit un système de recherche et développement intelligent basé sur de grands modèles, où la quantité de code générée par l'assistant de codage représente 40 % du code total. Dans le domaine de l'assurance, une entreprise a développé un plugin de programmation assistée basé sur de grands modèles, intégré directement dans les outils de développement internes.

Cependant, les professionnels du secteur estiment que ces scénarios déjà largement déployés ne constituent en réalité pas encore les applications clés des institutions financières, et que les grands modèles sont encore loin d'une intégration profonde dans les couches opérationnelles du secteur financier.

En termes de conception de haut niveau, certaines réformes sont en cours. Plusieurs grandes institutions financières ont déjà construit un cadre systémique hiérarchique comprenant une couche d'infrastructure, une couche de modèle, une couche de service de grand modèle et une couche d'application, basée sur de grands modèles. Ces systèmes de cadre présentent généralement deux caractéristiques majeures : premièrement, le grand modèle joue un rôle central en appelant les modèles traditionnels comme compétences ; deuxièmement, la couche de grand modèle adopte une stratégie multi-modèle, optimisant en interne pour obtenir les meilleurs résultats.

Le manque de talents reste énorme

L'application des grands modèles a déjà commencé à apporter certains défis et transformations à la structure des effectifs du secteur financier. Certains postes sont menacés d'être remplacés, mais en même temps, de nouvelles opportunités sont créées.

De nombreux professionnels du secteur ont déclaré que le besoin de talents liés aux grands modèles est actuellement très important. Bien que les institutions financières puissent obtenir un soutien technique des fournisseurs de grands modèles, en tant qu'utilisateurs finaux et leaders de l'innovation, elles ont toujours besoin d'un certain niveau d'accumulation de talents pour soutenir la construction, la planification d'application et l'optimisation des modèles des grandes plateformes d'IA.

Certaines institutions ont déjà pris des mesures, comme collaborer avec des entreprises technologiques pour concevoir des programmes de formation couvrant l'optimisation des invites, le réglage fin, l'exploitation de grands modèles, etc., et établir des groupes de projet communs pour promouvoir l'amélioration des compétences du personnel des entreprises.

Il est à noter que, dans ce processus, la structure du personnel des institutions financières sera également soumise à des ajustements et des transformations. Les développeurs familiarisés avec l'application des grands modèles pourraient avoir plus de facilité à se démarquer dans ce nouvel environnement.