Büyük Model Uygulamaları Keşfi: Finans Sektörünün Yükselişten Rasyonel Geri Dönüşe

ChatGPT'nin piyasaya sürülmesinden bu yana, finans sektöründe büyük bir yankı uyandırdı. Bu teknolojiye son derece inanan sektör, kendisinin zamanın dalgalarının gerisinde kalabileceğinden endişe ediyor. Bu kaygı atmosferi bir zamanlar beklenmedik yerlere kadar yayıldı. Sektörden birisi, bu yıl Mayıs ayında Dali'de iş gezisindeyken, hatta bir tapınakta büyük model tartışmaları yapan finans profesyonelleriyle karşılaştığını belirtti.

Ancak, bu kaygılar giderek azalmaktadır ve insanların düşünceleri daha net ve rasyonel hale gelmektedir. Softcom Bankacılık CTO'su Sun Hongjun, bu yıl finans sektörünün büyük modellerle ilgili tutumunun birkaç aşamasını tanımladı: Şubat ve Mart aylarında, geride kalma kaygısı ile yaygın bir kaygı durumu vardı; Nisan ve Mayıs'ta, ilgili çalışmaları yürütmek için ekipler kuruldu; sonraki birkaç ayda, yön bulma ve uygulama sürecinde zorluklar yaşandı, rasyonelliğe yönelmeye başlandı; şimdi, daha fazla örnek vaka üzerine odaklanılıyor ve doğrulanmış uygulama senaryolarını test etme çabaları var.

Dikkat çekici olan, birçok finansal kurumun stratejik düzeyde büyük modellere önem vermeye başlamasıdır. Tam olmayan istatistiklere göre, A-hisse senedi borsasında yer alan şirketlerden en az 11 banka, en son altı aylık raporlarında büyük model uygulamalarını keşfettiklerini açıkça belirtmiştir. Son dönemdeki hareketlerine bakıldığında, strateji ve üst düzey tasarım açısından daha derin düşünme ve planlama yapıyorlar.

Heyecanlı Yükselişten Rasyonel Dönüşe

Yılın başında ChatGPT ilk ortaya çıktığında, finans sektörünün büyük modelleri anlama kapasitesi oldukça sınırlıydı. Bazı büyük bankalar öncülük ederek çeşitli tanıtımlar yapmaya başladı. Aynı zamanda, yurtiçindeki birçok teknoloji şirketinin büyük modelleri ardı ardına piyasaya sürmesiyle, bazı önde gelen finansal kuruluşların teknik departmanları bu şirketlerle büyük model inşası konusunu aktif bir şekilde tartışmaya başladı.

Mayıs ayından sonra durum değişmeye başladı. Hesaplama gücü kaynaklarındaki kısıtlamalar, yüksek maliyet gibi etkenlerden dolayı birçok finans kurumu, yalnızca kendi hesaplama gücünü ve modellerini inşa etme umudundan daha çok uygulamanın değerine odaklanmaya başladı. Şu anda her finans kurumu, diğer kurumların büyük modellerdeki uygulamalarını ve bunların etkilerini yakından takip ediyor.

Farklı ölçeklerdeki işletmeler de iki ayrı yol geliştirmiştir. Büyük finansal kuruluşlar, devasa finansal verilere ve uygulama senaryolarına sahip oldukları için, öncü temel büyük modelleri benimseyebilir, kendi kurumsal büyük modellerini oluşturabilir ve aynı zamanda ince ayar yöntemi kullanarak uzmanlık alanında görev büyük modellerini hızlı bir şekilde geliştirebilir; küçük ve orta ölçekli finansal kuruluşlar ise ihtiyaçlarına göre çeşitli büyük modellerin kamu bulut API'lerini veya özel dağıtım hizmetlerini benimseyebilir.

Finans sektörünün veri uyumu, güvenliği ve güvenilirliği için yüksek talepleri olması nedeniyle, bazı sektör uzmanları bu alandaki büyük modellerin uygulanmasının aslında yılın başındaki beklentilerin biraz altında ilerlediğini düşünüyor. Bazı finansal kurumlar, büyük model uygulama sürecindeki çeşitli engelleri aşmak için çözümler aramaya başladılar.

Hesaplama gücü açısından, finans sektöründe şu anda birkaç çözüm fikri ortaya çıkmıştır:

1. Doğrudan kendi hesaplama gücünü inşa etmek, maliyeti yüksek ama güvenliği daha iyi sağlar. Güçlü bir finansal kuruluş olan ve sektörde veya işletmede büyük modeller inşa etmek isteyenler için uygundur.

2. Hesaplama gücü karışık dağıtımı, hassas verilerin dışarıya sızmadığından emin olunarak, kamu bulut büyük model hizmeti arayüzü ve özel dağıtım yönteminin birleştirilmesi. Bu yöntem, nispeten düşük maliyetlidir ve yalnızca ihtiyaç duyulduğunda kullanılması gereken, finansal gücü zayıf olan küçük ve orta ölçekli finansal kurumlar için uygundur.

Küçük ve orta ölçekli kuruluşların karşılaştığı GPU kartı kıtlığı ve yüksek fiyat sorunlarıyla ilgili olarak, düzenleyici kurumların menkul kıymetler endüstrisine yönelik büyük model altyapısı oluşturmayı araştırdığına dair haberler var. Bu, küçük ve orta ölçekli finansal kuruluşların "teknolojik geri kalma" durumunu önlemelerine yardımcı olmak için hesaplama gücü ve genel büyük model gibi kaynakları bir araya getirecek.

Veri yönetimi açısından, giderek daha fazla finans kurumu veri merkezi ve veri yönetim sistemleri oluşturmaya başlamaktadır. Bazı bankalar, veri sorunlarını büyük modellerle MLOps yöntemini birleştirerek çözmektedir. Örneğin, büyük bir banka MLOps modelini kullanarak büyük model veri kapalı döngü sistemini kurmuş, süreç otomasyonunu ve çok kaynaklı heterojen verilerin birleşik yönetimini ve verimli işlenmesini sağlamıştır.

Dış çevre sahnesine giriş

Geçtiğimiz altı ay boyunca, büyük model hizmet sağlayıcıları ve finansal kurumlar akıllı ofis, akıllı geliştirme, akıllı pazarlama, akıllı müşteri hizmetleri, akıllı yatırım araştırması, akıllı risk kontrolü, talep analizi gibi birçok alanda uygulama senaryoları arayışında aktif oldular.

Her finansal kurumun büyük modeller hakkında zengin fikirleri var. Bir banka, 20'den fazla senaryoda uygulama sunduğunu belirtirken, başka bir banka 30'dan fazla senaryoda pilot uygulama gerçekleştirdiğini ifade ediyor. Ayrıca, bir menkul kıymet şirketi, büyük modeli sanal dijital insan platformuyla birleştirmeyi araştırıyor.

Ancak, pratikte uygulama sürecinde, sektörde genel olarak önce içe sonra dışa açılmanın gerektiği düşünülmektedir. Mevcut büyük model teknolojisinin henüz olgunlaşmamış olduğu ve finans sektörünün sıkı düzenlemeler ve yüksek güvenlik gereksinimleri olan bir alan olduğu göz önüne alındığında, kısa vadede doğrudan müşterilere sunulması önerilmemektedir.

Şu anda, kod asistanı ve akıllı ofis alanında birçok uygulanabilir örnek bulunmaktadır. Örneğin, bir büyük banka büyük model temelinde akıllı bir geliştirme sistemi kurmuştur, kod asistanı tarafından üretilen kod miktarı toplam kod miktarının %40'ını oluşturmaktadır. Sigorta alanında, bir şirket büyük model temelinde yardımcı programlama eklentisi geliştirmiştir ve bu eklenti doğrudan iç geliştirme araçlarına entegre edilmiştir.

Ancak, sektör uzmanları, bu şekilde yaygınlaşmış olan durumların aslında finansal kurumların temel uygulamaları olmadığını değerlendiriyor; büyük modellerin finans sektörünün iş katmanına derinlemesine girmesi için hala belirli bir mesafe var.

Üst düzey tasarım açısından bazı reformlar gerçekleştirilmektedir. Birçok önde gelen finans kurumu, altyapı katmanı, model katmanı, büyük model hizmet katmanı, uygulama katmanı gibi birden fazla katmandan oluşan katmanlı sistem çerçevesini büyük model temelinde inşa etmiştir. Bu çerçeve sistemleri genel olarak iki ana özelliğe sahiptir: birincisi, büyük model merkezi yetenekleri kullanarak geleneksel modelleri bir beceri olarak çağırır; ikincisi, büyük model katmanı çoklu model stratejisi kullanarak içsel olarak en iyi sonuçları seçer.

Yetenek açığı hala büyük

Büyük model uygulamaları, finans sektöründeki insan yapısını etkilemeye ve bazı zorluklar ve değişiklikler getirmeye başladı. Bazı pozisyonlar yerini alma riski ile karşı karşıya, ancak aynı zamanda yeni fırsatlar da yaratıyor.

Birçok sektör uzmanı, şu anda büyük modelle ilgili yetenek açığının çok fazla olduğunu belirtiyor. Finansal kurumlar, büyük model tedarikçilerinden teknik destek alabilse de, nihai kullanıcı ve yenilik lideri olarak, AI büyük platformunun inşası, uygulama planlaması ve model optimizasyonu gibi çalışmalarını desteklemek için belirli bir yetenek birikimine ihtiyaçları var.

Bazı kurumlar, teknoloji şirketleriyle işbirliği yaparak Prompt ayarlama, ince ayar, büyük modellerin işletimi gibi konuları kapsayan eğitim programları tasarlama gibi adımlar atmış ve şirket personelinin yeteneklerini artırmak için ortak proje grupları oluşturmuştur.

Dikkat edilmesi gereken bir nokta, bu süreçte finansal kurumların personel yapısının da bir değişim ve dönüşüm sürecine gireceğidir. Büyük model uygulamaları konusunda tecrübeli geliştiricilerin yeni ortamda öne çıkması daha kolay olabilir.