Дослідження застосування великих моделей: фінансовий сектор від високого зростання до раціонального повернення

Від моменту появи ChatGPT у фінансовій сфері виникли величезні відгуки. Ця галузь, яка сповнена віри у технології, турбується, що вона може залишитися позаду в епоху змін. Ця атмосфера тривоги на деякий час поширилася в несподівані місця. Один з представників галузі згадала, що в травні цього року під час відрядження в Далі вона навіть зустрічала фінансових працівників, які обговорювали великі моделі, навіть у храмі.

Однак це занепокоєння поступово вщухає, а думки людей стають більш чіткими та раціональними. Сон Хунцзюнь, CTO банківського бізнесу SoftCom, описав кілька етапів ставлення фінансової галузі до великих моделей цього року: у лютому-березні панувало загальне занепокоєння, що може бути відставання; у квітні-травні команди почали активно формуватися для роботи в цій сфері; у наступні кілька місяців виникли труднощі в пошуку напрямку та реалізації, починаючи ставитися до ситуації більш раціонально; зараз більше уваги приділяється еталонним випадкам, намагаючись перевірити перевірені сценарії застосування.

Варто зауважити, що багато фінансових установ вже почали з стратегічної точки зору приділяти увагу великим моделям. За неповними даними, серед компаній, що котируються на A-акціях, принаймні 11 банків у своїх останніх піврічних звітах чітко зазначили, що досліджують застосування великих моделей. Судячи з нещодавніх дій, вони також проводять більш глибоке обмірковування та планування з стратегічної та верхньої точки зору.

Від підвищеного ентузіазму до раціонального повернення

На початку року, коли ChatGPT тільки з'явився, фінансовий сектор ще досить обмежено розумів великі моделі. Деякі великі банки першими почали діяти, розпочавши різноманітну рекламу. Одночасно, з виходом на ринок кількох вітчизняних технологічних компаній з великими моделями, технічні відділи деяких провідних фінансових установ почали активно обговорювати питання створення великих моделей з цими компаніями.

Після травня ситуація почала змінюватися. Обмеженість ресурсів обчислювальної потужності та високі витрати змусили багато фінансових установ відмовитися від спроб самостійно створити обчислювальні потужності та моделі, зосередившись натомість на цінності застосувань. Наразі кожна фінансова установа уважно стежить за застосуванням великих моделей в інших установах та їхніми результатами.

Різні за розміром підприємства також диференціювалися на два шляхи. Великі фінансові установи, які мають величезну кількість фінансових даних та сценаріїв використання, можуть впроваджувати провідні базові великі моделі, створювати власні підприємницькі великі моделі, одночасно використовуючи методи тонкого налаштування для швидкої розробки великих моделей завдань у спеціалізованих сферах; середні та малі фінансові установи можуть відповідно до потреб впроваджувати різноманітні публічні API великих моделей або послуги приватного розгортання.

Оскільки фінансова галузь має високі вимоги до відповідності даних, безпеки та надійності, деякі представники галузі вважають, що прогрес впровадження великих моделей у цій галузі насправді дещо нижчий за очікування на початку року. Деякі фінансові установи вже почали шукати рішення, щоб подолати різні перешкоди в процесі впровадження великих моделей.

У сфері обчислювальної потужності в фінансовій галузі наразі з'явилося кілька рішень:

1. Пряме самостійне будівництво потужності, вартість вища, але безпека більш гарантована. Підходить для потужних фінансових установ, які хочуть самостійно будувати великі моделі в галузі або підприємств.

2. Змішане розгортання потужності обчислень, за умови, що чутливі дані не виходять за межі, поєднує інтерфейси служб великих моделей публічної хмари та приватні методи розгортання. Цей спосіб має відносно низькі витрати, підходить для фінансових установ середнього та малого розміру з обмеженими фінансовими ресурсами, які потребують лише за потребою.

Щодо проблеми нестачі та високих цін на графічні процесори (GPU), з'явилися повідомлення, що регулятори досліджують можливість створення інфраструктури для великих моделей, орієнтованої на фондовий ринок, зосереджуючи обчислювальну потужність та ресурси загальних великих моделей, щоб допомогти малим і середнім фінансовим установам уникнути "технологічної відсталості".

У сфері управління даними все більше фінансових установ починають будувати центральну платформу даних та систему управління даними. Деякі банки також вирішують проблеми з даними за допомогою поєднання великих моделей і MLOps. Наприклад, один великий банк використовує модель MLOps для створення замкнутої системи даних з великими моделями, що забезпечує автоматизацію процесів та єдине управління і ефективну обробку багатоджерельних гетерогенних даних.

Вхід з зовнішньої сцени

Протягом більше півроку постачальники великих моделей та фінансові установи активно шукають застосунки, які охоплюють розумний офіс, інтелектуальну розробку, розумний маркетинг, інтелектуальне обслуговування клієнтів, розумне інвестування та дослідження, інтелектуальний контроль ризиків, аналіз потреб та інші сфери.

Кожна фінансова установа має багатий спектр ідей щодо великих моделей. Один банк повідомив, що вже впровадив застосування в понад 20 сценаріях, інший банк заявив, що проводить пілотні проекти в більш ніж 30 сценаріях, а ще одна брокерська компанія досліджує можливість поєднання великих моделей з платформою віртуальних цифрових людей.

Однак у процесі реалізації галузь загалом вважає, що спочатку потрібно зосередитися на внутрішніх процесах, а потім на зовнішніх. Враховуючи те, що технології великих моделей ще не досягли зрілості, а фінансова сфера є дуже регульованою та вимагає високої безпеки, у короткостроковій перспективі не рекомендується безпосередньо використовувати їх для клієнтів.

Наразі у сфері кодових помічників та розумного офісу вже є чимало реалізованих прикладів. Наприклад, один великий банк створив інтелектуальну систему розробки на основі великої моделі, де обсяг коду, згенерованого кодовим помічником, становить 40% від загального обсягу коду. У сфері страхування одна компанія розробила плагін для допоміжного програмування на основі великої моделі, який безпосередньо вбудовується в внутрішні інструменти розробки.

Проте, експерти в галузі вважають, що ці вже широко впроваджені сценарії насправді ще не є основними застосуваннями фінансових установ, а великій моделі ще потрібно пройти певну відстань до глибшого залучення до бізнес-аспектів фінансової галузі.

У сфері верхнього проектування відбуваються деякі зміни. Кілька провідних фінансових установ вже створили багатошарову системну архітектуру, що включає інфраструктурний рівень, рівень моделей, рівень послуг великих моделей, рівень застосувань та інші рівні, на основі великих моделей. Ці системи загалом мають дві основні характеристики: по-перше, великі моделі виконують центральні функції, використовуючи традиційні моделі як навички; по-друге, рівень великих моделей застосовує стратегію множинних моделей, внутрішньо обираючи найкращий результат.

Прогалини в кадрах все ще величезні

Застосування великих моделей вже почало створювати певні виклики та зміни в структурі персоналу фінансової індустрії. Деякі посади піддаються ризику заміщення, але водночас створюються нові можливості.

Багато експертів у галузі зазначають, що наразі існує великий дефіцит кадрів, пов'язаних з великими моделями. Хоча фінансові установи можуть отримувати технічну підтримку від постачальників великих моделей, як кінцеві користувачі та провідні інноватори, їм все ж потрібен певний накопичений досвід для підтримки будівництва великої платформи AI, планування застосувань та оптимізації моделей.

Деякі установи вже вжили заходів, таких як співпраця з технологічними компаніями для розробки навчальних курсів, що охоплюють налаштування Prompt, доопрацювання, управління великими моделями тощо, а також створення спільних проектних груп для підвищення кваліфікації працівників підприємств.

Варто зазначити, що в цьому процесі структура персоналу фінансових установ також зазнає змін і трансформацій. Розробники, які знайомі з застосуванням великих моделей, можуть легше виділитися в новому середовищі.