Исследование применения больших моделей: от высокой заинтересованности до рационального возвращения в финансовой сфере

С момента появления ChatGPT в финансовой сфере возникли огромные отклики. Эта отрасль, полная веры в технологии, беспокоится о том, что может быть отброшена на задний план эпохой. Эта атмосфера тревоги однажды распространилась в неожиданные места. Один из профессионалов упомянул, что в мае этого года, когда она была в командировке в Дали, она даже встретила обсуждающих большие модели финансовых работников в храме.

Тем не менее, это беспокойство постепенно утихает, и мышление людей становится более ясным и рациональным. Сунь Хунцзюнь, CTO банковского бизнеса Softcom, описал несколько этапов отношения финансовой отрасли к большим моделям в этом году: в феврале и марте существовало общее беспокойство, опасение отстать; в апреле и мае начали формировать команды для проведения соответствующей работы; в последующие месяцы, сталкиваясь с трудностями в поиске направления и реализации, начали становиться более рациональными; сейчас больше внимания уделяется эталонным случаям и попыткам проверить проверенные приложения.

Стоит отметить, что многие финансовые учреждения начали придавать стратегическое значение большим моделям. По неполным данным, среди компаний, котирующихся на фондовом рынке A, как минимум 11 банков в своих последних полугодовых отчетах явно указали, что исследуют применение больших моделей. Судя по недавним действиям, они также начинают более глубоко размышлять и планировать на стратегическом и верхнем уровне.

От высоких эмоций к рациональному возвращению

В начале года, когда ChatGPT только появился, понимание больших моделей в финансовой сфере было еще довольно ограниченным. Некоторые крупные банки первыми начали действовать, запуская различные рекламные кампании. В то же время, с выходом на рынок крупных моделей от нескольких отечественных технологических компаний, технические отделы некоторых ведущих финансовых учреждений начали активно обсуждать вопросы создания больших моделей с этими компаниями.

После мая ситуация начала меняться. Из-за нехватки вычислительных ресурсов, высоких затрат и других факторов многие финансовые учреждения начали переходить от простого желания построить свои вычислительные мощности и модели к более внимательному отношению к ценности применения. В настоящее время каждое финансовое учреждение внимательно следит за тем, как другие учреждения используют большие модели и каковы их результаты.

Разные по размеру предприятия также разделились на два пути. Крупные финансовые учреждения, обладающие огромными финансовыми данными и сценариями применения, могут внедрить передовые базовые большие модели, создать собственные корпоративные большие модели и быстро разрабатывать модели задач в специализированных областях с помощью дообучения; малые и средние финансовые учреждения могут привлекать различные публичные облачные API больших моделей или услуги по приватному развертыванию в зависимости от потребностей.

В связи с высокими требованиями финансовой отрасли к соблюдению данных, безопасности и надежности, некоторые эксперты отрасли считают, что фактический прогресс внедрения крупных моделей в этой отрасли немного ниже ожидаемого в начале года. Некоторые финансовые учреждения уже начали искать решения, чтобы преодолеть различные препятствия в процессе внедрения крупных моделей.

В области вычислительной мощности в финансовой сфере в настоящее время наблюдаются несколько решений:

1. Прямое создание вычислительной мощности, стоимость выше, но безопасность более надежна. Подходит для крупных финансовых учреждений с сильными возможностями, желающих создать отраслевую или корпоративную большую модель.

2. Гибридное развертывание вычислительной мощности, при условии, что чувствительные данные не покидают пределы, в сочетании с интерфейсом обслуживания больших моделей публичного облака и приватным развертыванием. Этот метод относительно недорогой и подходит для финансовых учреждений среднего и малого размера с ограниченными финансовыми возможностями, которые нуждаются в использовании по мере необходимости.

В ответ на нехватку GPU-карт и высокие цены, с которыми сталкиваются малые и средние организации, поступила информация о том, что регуляторы исследуют возможность создания инфраструктуры больших моделей для сектора ценных бумаг, которая будет концентрировать вычислительные мощности и ресурсы универсальных больших моделей, чтобы помочь малым и средним финансовым учреждениям избежать "технологического отставания".

В области управления данными все больше финансовых учреждений начинают строить платформы данных и системы управления данными. Некоторые банки также решают проблемы с данными с помощью больших моделей, комбинируя их с MLOps. Например, один крупный банк использовал модель MLOps для создания замкнутой системы работы с большими моделями данных, что позволило автоматизировать процессы и эффективно управлять и обрабатывать многопоточные гетерогенные данные.

Вход в окружение

За последние полгода провайдеры больших моделей и финансовые учреждения активно ищут сценарии применения, охватывающие такие области, как умный офис, интеллектуальная разработка, умный маркетинг, интеллектуальное обслуживание клиентов, умные инвестиционные исследования, интеллектуальный риск-менеджмент, анализ потребностей и другие.

Каждое финансовое учреждение имеет богатые идеи о больших моделях. Один банк заявил, что уже внедрил приложения в более чем 20 сценариях, другой банк сообщил, что проводит пилотные проекты в более чем 30 сценариях, а одна инвестиционная компания исследует возможность объединения больших моделей с платформами виртуальных цифровых людей.

Тем не менее, в процессе реализации в отрасли широко считается, что следует сначала работать внутри, а затем выходить на внешний рынок. Учитывая, что текущие технологии больших моделей еще не достаточно зрелы, а финансовая отрасль является областью с жестким регулированием и высокими требованиями к безопасности, в краткосрочной перспективе не рекомендуется напрямую использовать их для клиентов.

В настоящее время в области кодовых помощников и интеллектуального офиса уже имеется немало практических примеров. Например, один крупный банк создал интеллектуальную систему разработки на основе больших моделей, где объем кода, сгенерированного помощником по кодированию, составляет 40% от общего объема кода. В страховом секторе одна компания разработала плагин для вспомогательного программирования на основе больших моделей, который напрямую интегрирован во внутренние инструменты разработки.

Однако, эксперты отрасли считают, что эти уже широко применяемые сценарии на самом деле еще не являются основными приложениями финансовых учреждений, и большие модели еще не достигли уровня глубокой интеграции с бизнес-процессами финансовой отрасли.

В области верхнего уровня проектирования происходят некоторые изменения. Несколько ведущих финансовых учреждений уже на основе больших моделей создали многоуровневую системную структуру, включающую уровень инфраструктуры, уровень модели, уровень обслуживания больших моделей и уровень приложений. Эти системные структуры в целом имеют две основные характеристики: во-первых, большие модели выполняют центральные функции, вызывая традиционные модели как навыки; во-вторых, уровень больших моделей использует стратегию многомодельности, внутренне выбирая наилучший результат.

Пробел талантов по-прежнему огромен

Применение крупных моделей уже начало приносить некоторые вызовы и изменения в структуру персонала финансовой отрасли. Некоторые должности сталкиваются с риском замены, но одновременно создаются новые возможности.

Многие эксперты отрасли заявляют, что в настоящее время существует значительный дефицит специалистов, связанных с большими моделями. Хотя финансовые учреждения могут получать техническую поддержку от поставщиков больших моделей, как конечные пользователи и ведущие инновации, им все же необходимо накопление определенного числа специалистов для поддержки построения AI крупных платформ, планирования приложений и оптимизации моделей.

Некоторые организации уже предприняли действия, такие как сотрудничество с технологическими компаниями для разработки учебных курсов, охватывающих настройки Prompt, донастройку, эксплуатацию больших моделей и другие аспекты, а также создание совместных проектных групп для повышения квалификации сотрудников предприятий.

Стоит отметить, что в этом процессе структура персонала финансовых учреждений также претерпит изменения и преобразования. Разработчики, знакомые с применением больших моделей, могут легче выделиться в новой среде.