Exploración de aplicaciones de modelos grandes: el sector financiero pasa de un entusiasmo creciente a un retorno racional

Desde el lanzamiento de ChatGPT, ha causado un gran impacto en la industria financiera. Este sector, lleno de fe en la tecnología, teme quedar atrás en la ola de la era. Esta atmósfera de ansiedad se ha extendido incluso a lugares inesperados. Un profesional del sector mencionó que, en mayo de este año, mientras estaba en un viaje de negocios en Dali, incluso encontró a profesionales financieros discutiendo sobre grandes modelos en un templo.

Sin embargo, esta ansiedad se está calmando gradualmente, y el pensamiento de las personas se vuelve más claro y racional. Sun Hongjun, CTO de servicios bancarios de Softcom, describió varias etapas de la actitud de la industria financiera hacia los grandes modelos este año: en febrero y marzo, había una ansiedad generalizada, preocupados por quedarse atrás; en abril y mayo, comenzaron a formar equipos para llevar a cabo trabajos relacionados; en los meses siguientes, encontraron dificultades en la búsqueda de dirección y en el proceso de implementación, comenzando a volverse más racionales; ahora, hay más atención en casos de referencia, intentando validar escenarios de aplicación probados.

Es notable que muchas instituciones financieras han comenzado a dar importancia a los grandes modelos desde una perspectiva estratégica. Según estadísticas incompletas, al menos 11 bancos en las empresas que cotizan en la bolsa de A-shares han mencionado explícitamente en sus últimos informes semestrales que están explorando la aplicación de grandes modelos. A partir de las acciones recientes, también están llevando a cabo una reflexión y planificación más profunda desde el nivel estratégico y de diseño superior.

De la pasión alta a la regresión racional

A principios de año, cuando ChatGPT apenas apareció, la comprensión de los grandes modelos en la industria financiera aún era bastante limitada. Algunos grandes bancos tomaron la delantera y comenzaron a realizar diversas campañas de promoción. Al mismo tiempo, a medida que varias empresas tecnológicas nacionales lanzaban sus grandes modelos, algunos departamentos técnicos de instituciones financieras líderes comenzaron a discutir activamente sobre la construcción de grandes modelos con estas empresas.

Después de mayo, la situación comenzó a cambiar. Limitadas por la escasez de recursos de computación y los altos costos, muchas instituciones financieras comenzaron a pasar de la simple esperanza de construir su propia capacidad de computación y modelos, a centrarse más en el valor de las aplicaciones. Actualmente, cada institución financiera está observando de cerca las aplicaciones y los efectos de otros organismos en los grandes modelos.

Las empresas de diferentes tamaños también han diversificado en dos caminos. Las grandes instituciones financieras, que poseen una gran cantidad de datos financieros y escenarios de aplicación, pueden introducir modelos de base líderes, construir sus propios modelos empresariales y, al mismo tiempo, utilizar el ajuste fino para desarrollar rápidamente modelos de tareas en campos profesionales; las instituciones financieras pequeñas y medianas pueden, según sus necesidades, acceder a diversas API de modelos grandes en la nube pública o servicios de implementación privada.

Debido a los altos requisitos de cumplimiento de datos, seguridad y confiabilidad en la industria financiera, algunos profesionales del sector consideran que el avance en la implementación de grandes modelos en esta industria es en realidad ligeramente inferior a las expectativas de principios de año. Algunas instituciones financieras ya han comenzado a buscar soluciones para superar los diversos obstáculos en el proceso de implementación de grandes modelos.

En términos de potencia de cálculo, actualmente hay varias soluciones en la industria financiera:

1. Construir capacidad de cómputo directamente, con un costo más alto pero una mayor seguridad. Es adecuado para instituciones financieras grandes y sólidas que desean construir grandes modelos industriales o empresariales.

2. Despliegue de potencia de cálculo híbrido, asegurando que los datos sensibles no se filtren, combinando interfaces de servicio de modelos grandes en la nube pública y métodos de despliegue privado. Este enfoque tiene un costo relativamente bajo, adecuado para instituciones financieras pequeñas y medianas con recursos limitados que solo necesitan usarlo bajo demanda.

Con respecto a la escasez y los altos precios de las tarjetas GPU que enfrentan las pequeñas y medianas instituciones, se informa que los organismos reguladores están explorando la construcción de una infraestructura de modelos grandes dirigida a la industria de valores, centralizando recursos como la potencia de cálculo y modelos grandes generales, con el fin de ayudar a las pequeñas y medianas instituciones financieras a evitar "retrasos tecnológicos".

En el ámbito de la gobernanza de datos, cada vez más instituciones financieras están comenzando a construir plataformas de datos y sistemas de gobernanza de datos. Algunos bancos también están resolviendo problemas de datos mediante la combinación de modelos grandes y MLOps. Por ejemplo, un gran banco ha adoptado un modelo MLOps para establecer un sistema de ciclo cerrado de datos de modelos grandes, logrando la automatización de procesos y la gestión unificada y el procesamiento eficiente de datos heterogéneos de múltiples fuentes.

Desde el escenario exterior

Durante más de medio año, los proveedores de servicios de modelos grandes y las instituciones financieras han estado buscando activamente escenarios de aplicación, que abarcan múltiples áreas como oficinas inteligentes, desarrollo inteligente, marketing inteligente, atención al cliente inteligente, investigación y análisis de inversiones inteligentes, control de riesgos inteligente y análisis de necesidades.

Cada institución financiera tiene ricas ideas sobre los grandes modelos. Hay un banco que ha implementado aplicaciones en más de 20 escenarios, otro banco afirma que está realizando pruebas en más de 30 escenarios, y una compañía de valores está explorando la combinación de grandes modelos con plataformas de personas digitales virtuales.

Sin embargo, en el proceso de implementación real, se considera generalmente en la industria que primero se debe hacer internamente y luego externamente. Teniendo en cuenta que la tecnología de modelos grandes aún no está madura y que la industria financiera es un campo de alta regulación y altos requisitos de seguridad, no se recomienda el uso directo hacia los clientes en el corto plazo.

Actualmente, ya hay varios casos prácticos en el campo de los asistentes de código y la oficina inteligente. Por ejemplo, un gran banco ha construido un sistema de desarrollo inteligente basado en grandes modelos, donde la cantidad de código generada por el asistente de codificación representa el 40% del total del código. En el sector de seguros, una empresa ha desarrollado un complemento de programación asistida basado en grandes modelos, que se integra directamente en las herramientas de desarrollo internas.

Sin embargo, los expertos de la industria juzgan que estos escenarios que ya se han implementado ampliamente en realidad aún no son las aplicaciones centrales de las instituciones financieras, y los modelos a gran escala todavía están a una cierta distancia de profundizar en el nivel de negocio de la industria financiera.

En cuanto al diseño de alto nivel, se están llevando a cabo algunas transformaciones. Varias instituciones financieras líderes han construido un marco de sistema jerárquico que incluye varias capas, como la capa de infraestructura, la capa de modelos, la capa de servicios de grandes modelos y la capa de aplicaciones, basado en grandes modelos. Estos marcos generalmente presentan dos características principales: primero, el gran modelo desempeña una capacidad central, utilizando los modelos tradicionales como habilidades; segundo, la capa de grandes modelos adopta una estrategia de múltiples modelos, optimizando internamente el mejor rendimiento.

La brecha de talento sigue siendo enorme

La aplicación de grandes modelos ya ha comenzado a presentar algunos desafíos y transformaciones en la estructura del personal de la industria financiera. Algunos puestos enfrentan el riesgo de ser reemplazados, pero al mismo tiempo, también se crean nuevas oportunidades.

Varios expertos de la industria han señalado que actualmente hay una gran escasez de talento relacionado con modelos grandes. Aunque las instituciones financieras pueden obtener apoyo técnico de los proveedores de modelos grandes, como usuarios finales y líderes en innovación, aún necesitan acumular cierto talento para respaldar la construcción de grandes plataformas de IA, la planificación de aplicaciones y la optimización de modelos, entre otros trabajos.

Algunas instituciones ya han tomado medidas, como colaborar con empresas de tecnología para diseñar cursos de formación que abordan la optimización de Prompt, el ajuste fino, la operación de modelos grandes, entre otros, y han establecido grupos de proyectos conjuntos para impulsar el desarrollo de las habilidades del personal empresarial.

Es importante señalar que, en este proceso, la estructura de personal de las instituciones financieras también experimentará ajustes y cambios. Es posible que los desarrolladores familiarizados con la aplicación de grandes modelos tengan más facilidad para destacar en el nuevo entorno.