Exploração da Aplicação de Modelos Grandes: A Indústria Financeira da Entusiasmo Elevado ao Retorno Racional

Desde o lançamento do ChatGPT, houve um grande impacto na indústria financeira. Este setor, que tem uma forte crença na tecnologia, teme que possa ser deixado para trás pela onda dos tempos. Esta atmosfera de ansiedade se espalhou, em um dado momento, para lugares inesperados. Um profissional da área mencionou que, em maio deste ano, enquanto estava em viagem de negócios em Dali, até mesmo em um templo encontrou profissionais financeiros discutindo sobre grandes modelos.

No entanto, essa ansiedade está gradualmente se acalmando, e o pensamento das pessoas está se tornando mais claro e racional. Sun Hongjun, CTO da Softcom Power Bank, descreveu várias fases da atitude da indústria financeira em relação aos grandes modelos este ano: em fevereiro e março, havia uma ansiedade generalizada, com medo de ficar para trás; em abril e maio, muitas equipes foram formadas para desenvolver trabalhos relacionados; nos meses seguintes, encontraram dificuldades na busca por direções e na implementação, começando a se tornar mais racionais; agora, há mais foco em casos de referência, tentando validar cenários de aplicação testados.

É importante notar que muitas instituições financeiras começaram a valorizar os grandes modelos a partir de uma perspectiva estratégica. De acordo com estatísticas incompletas, entre as empresas listadas no A-share, pelo menos 11 bancos mencionaram claramente em seus últimos relatórios semestrais que estão explorando a aplicação de grandes modelos. A julgar pelas ações recentes, eles também estão realizando reflexões e planejamentos mais profundos a partir de uma perspectiva estratégica e de design de alto nível.

De uma empolgação elevada a um retorno racional

No início do ano, quando o ChatGPT apareceu, a compreensão do setor financeiro sobre os grandes modelos ainda era bastante limitada. Alguns grandes bancos foram os primeiros a agir, começando várias campanhas de divulgação. Ao mesmo tempo, com várias empresas de tecnologia do país lançando grandes modelos, alguns departamentos técnicos de instituições financeiras de destaque começaram a discutir ativamente sobre a construção de grandes modelos com essas empresas.

Após maio, a situação começou a mudar. Devido à escassez de recursos de computação e aos altos custos, muitas instituições financeiras começaram a mudar de um desejo puro de construir sua própria capacidade de computação e modelos, para uma maior preocupação com o valor da aplicação. Atualmente, cada instituição financeira está atenta às aplicações e resultados de outras instituições no que diz respeito a grandes modelos.

Empresas de diferentes tamanhos também se diversificaram em dois caminhos. Grandes instituições financeiras, que possuem uma enorme quantidade de dados financeiros e cenários de aplicação, podem introduzir modelos de base avançados, construir seus próprios modelos empresariais e, ao mesmo tempo, adotar a abordagem de ajuste fino para desenvolver rapidamente modelos de tarefas especializadas; instituições financeiras de pequeno e médio porte podem, conforme necessário, introduzir APIs de nuvem pública de vários modelos grandes ou serviços de implantação privada.

Devido às elevadas exigências do setor financeiro em relação à conformidade, segurança e confiabilidade dos dados, alguns profissionais da indústria acreditam que o progresso na implementação de grandes modelos neste setor está, na verdade, ligeiramente abaixo das expectativas iniciais do ano. Algumas instituições financeiras já começaram a procurar soluções para superar os vários obstáculos no processo de implementação dos grandes modelos.

Na área de poder computacional, o setor financeiro atualmente apresenta algumas soluções.

1. Construir diretamente a capacidade de computação, o custo é mais alto, mas a segurança é mais garantida. Adequado para instituições financeiras grandes e robustas que desejam construir grandes modelos de setor ou empresa.

2. Implantação mista de poder computacional, garantindo que dados sensíveis não sejam vazados, combinando interfaces de serviços de grandes modelos em nuvem pública e métodos de implantação privada. Esta abordagem tem um custo relativamente baixo, adequada para instituições financeiras de pequeno e médio porte com recursos financeiros limitados que necessitam apenas de uso sob demanda.

Em resposta à escassez e aos preços elevados das placas GPU enfrentados por pequenas e médias instituições, há informações de que as entidades reguladoras estão a explorar a construção de uma infraestrutura de grandes modelos voltada para o setor de valores mobiliários, concentrando recursos de poder computacional e grandes modelos genéricos, a fim de ajudar as pequenas e médias instituições financeiras a evitar o "atraso tecnológico".

Na área de governança de dados, cada vez mais instituições financeiras começam a construir plataformas de dados e sistemas de governança de dados. Alguns bancos também estão resolvendo problemas de dados através da combinação de grandes modelos com MLOps. Por exemplo, um grande banco adotou o modelo MLOps para estabelecer um sistema de ciclo fechado de dados de grandes modelos, alcançando a automação de processos e a gestão unificada e eficiente de dados heterogéneos de múltiplas fontes.

A partir de cenários externos

Nos últimos seis meses, os prestadores de serviços de grandes modelos e as instituições financeiras têm procurado ativamente cenários de aplicação, abrangendo várias áreas, incluindo escritório inteligente, desenvolvimento inteligente, marketing inteligente, atendimento ao cliente inteligente, pesquisa e investimento inteligente, controle de risco inteligente e análise de demanda.

Cada instituição financeira tem ricas ideias sobre grandes modelos. Um banco afirmou que já lançou aplicações em mais de 20 cenários, outro banco disse que está realizando testes em mais de 30 cenários, e uma corretora de valores está explorando a combinação de grandes modelos com plataformas de pessoas digitais virtuais.

No entanto, no processo de implementação real, a indústria geralmente acredita que deve ser feito primeiro internamente e depois externamente. Considerando que a tecnologia dos grandes modelos ainda não está madura e que o setor financeiro é uma área de forte regulação e altos requisitos de segurança, não é aconselhável usar diretamente para clientes a curto prazo.

Atualmente, já existem vários casos de implementação nas áreas de assistentes de código e escritórios inteligentes. Por exemplo, um grande banco construiu um sistema inteligente de desenvolvimento baseado em grandes modelos, onde a quantidade de código gerada pelo assistente de codificação representa 40% do total de código. No setor de seguros, uma empresa desenvolveu um plugin de programação assistida baseado em grandes modelos, que é diretamente integrado às ferramentas de desenvolvimento internas.

No entanto, especialistas da indústria acreditam que esses cenários já amplamente implementados ainda não são as aplicações principais das instituições financeiras, e que os grandes modelos ainda estão a uma certa distância de penetrar nos níveis de negócio do setor financeiro.

Na área de design de alto nível, algumas transformações estão em andamento. Várias instituições financeiras de destaque já construíram, com base em grandes modelos, um sistema de estrutura em camadas que inclui camadas de infraestrutura, camada de modelo, camada de serviços de grandes modelos, camada de aplicação, entre outras. Esses sistemas de estrutura geralmente possuem duas características principais: a primeira é que o grande modelo desempenha uma capacidade central, utilizando modelos tradicionais como habilidades; a segunda é que a camada de grandes modelos adota uma estratégia de múltiplos modelos, selecionando internamente o melhor desempenho.

A lacuna de talentos continua a ser enorme

A aplicação de grandes modelos já começou a trazer alguns desafios e mudanças na estrutura de pessoal da indústria financeira. Alguns cargos enfrentam o risco de serem substituídos, mas ao mesmo tempo, novas oportunidades foram criadas.

Vários especialistas da indústria afirmaram que, atualmente, há uma grande lacuna de talentos relacionados a modelos grandes. Embora as instituições financeiras possam obter suporte técnico dos fornecedores de modelos grandes, como utilizadores finais e líderes de inovação, ainda precisam acumular um certo número de talentos para apoiar a construção da grande plataforma de IA, planejamento de aplicações e otimização de modelos.

Algumas instituições já tomaram medidas, como colaborar com empresas de tecnologia para desenhar cursos de formação que abrangem otimização de prompts, fine-tuning, operação de grandes modelos, entre outros conteúdos, e estabelecer grupos de projetos conjuntos para promover a melhoria das capacidades dos colaboradores das empresas.

É importante notar que, durante esse processo, a estrutura de pessoal das instituições financeiras também passará por ajustes e transformações. Desenvolvedores familiarizados com a aplicação de grandes modelos podem ter mais facilidade em se destacar em um novo ambiente.