Eksplorasi Aplikasi Model Besar: Industri Keuangan dari Antusiasme yang Tinggi ke Kembali Rasional

Sejak kemunculan ChatGPT, telah menimbulkan dampak besar di industri keuangan. Industri yang penuh keyakinan terhadap teknologi ini khawatir akan tertinggal oleh gelombang zaman. Suasana kecemasan ini sempat menyebar ke tempat-tempat yang tidak terduga. Seorang pelaku industri menyebutkan bahwa pada bulan Mei tahun ini, saat dia bertugas di Dali, dia bahkan bertemu dengan para profesional keuangan yang mendiskusikan model besar di dalam kuil.

Namun, kecemasan ini perlahan-lahan memudar, dan pemikiran orang-orang menjadi lebih jelas dan rasional. CTO layanan perbankan Softcom, Sun Hongjun, menggambarkan beberapa tahap sikap industri keuangan terhadap model besar tahun ini: pada bulan Februari dan Maret, ada kecemasan yang umum, khawatir tertinggal; pada bulan April dan Mei, banyak yang membentuk tim untuk melakukan pekerjaan terkait; beberapa bulan setelahnya, mereka mengalami kesulitan dalam mencari arah dan penerapan, mulai menjadi lebih rasional; sekarang, lebih banyak fokus pada studi kasus acuan, mencoba memverifikasi skenario aplikasi yang sudah teruji.

Perlu dicatat bahwa banyak lembaga keuangan telah mulai memberikan perhatian strategis terhadap model besar. Menurut statistik yang tidak lengkap, setidaknya ada 11 bank di perusahaan yang terdaftar di A-share yang secara jelas menyatakan dalam laporan setengah tahunan terbaru mereka bahwa mereka sedang menjajaki aplikasi model besar. Dari tindakan terbaru, mereka juga sedang melakukan pemikiran dan perencanaan yang lebih mendalam dari tingkat strategis dan desain tingkat atas.

Dari semangat yang tinggi ke kembalinya rasionalitas

Pada awal tahun, ketika ChatGPT baru muncul, pemahaman industri keuangan tentang model besar masih cukup terbatas. Beberapa bank besar mengambil langkah pertama, mulai melakukan berbagai promosi. Sementara itu, dengan banyak perusahaan teknologi domestik yang secara bertahap merilis model besar, beberapa departemen teknologi dari lembaga keuangan terkemuka mulai secara aktif berdiskusi dengan perusahaan-perusahaan ini mengenai pembangunan model besar.

Setelah bulan Mei, situasi mulai berubah. Terbatas oleh kekurangan sumber daya komputasi, biaya yang tinggi, dan faktor lainnya, banyak lembaga keuangan mulai beralih dari sekadar berharap untuk membangun kekuatan komputasi dan model sendiri, menuju perhatian yang lebih besar terhadap nilai aplikasi. Saat ini, setiap lembaga keuangan sedang memantau dengan cermat aplikasi dan efek dari model besar yang diterapkan oleh lembaga lain.

Perusahaan dengan skala yang berbeda juga telah mengembangkan dua jalur. Lembaga keuangan besar yang memiliki data keuangan dan skenario aplikasi yang melimpah dapat memperkenalkan model dasar besar terdepan, membangun model besar perusahaan sendiri, dan dengan cepat mengembangkan model tugas di bidang profesional melalui metode penyesuaian; sementara lembaga keuangan kecil dan menengah dapat memperkenalkan berbagai API model besar dari cloud publik atau layanan penyebaran privat sesuai kebutuhan.

Karena industri keuangan memiliki tuntutan yang tinggi terhadap kepatuhan data, keamanan, dan keandalan, beberapa profesional di bidang ini berpendapat bahwa kemajuan implementasi model besar di industri ini sebenarnya sedikit di bawah ekspektasi awal tahun. Beberapa lembaga keuangan telah mulai mencari solusi untuk mengatasi berbagai hambatan dalam proses implementasi model besar.

Dalam hal komputasi, industri keuangan saat ini telah muncul beberapa solusi:

1. Membangun kekuatan komputasi secara langsung, biayanya lebih tinggi tetapi keamanannya lebih terjamin. Cocok untuk lembaga keuangan besar yang memiliki kekuatan yang kuat dan ingin membangun model besar untuk industri atau perusahaan.

2. Penerapan campuran kekuatan komputasi, dengan memastikan data sensitif tidak bocor, menggabungkan antarmuka layanan model besar di cloud publik dan cara penerapan privat. Metode ini relatif lebih murah, cocok untuk institusi keuangan kecil dan menengah yang memiliki kekuatan finansial terbatas dan hanya membutuhkan penggunaan sesuai permintaan.

Terkait dengan masalah kekurangan dan harga tinggi GPU yang dihadapi oleh lembaga kecil dan menengah, ada kabar bahwa lembaga pengatur sedang menjajaki pembangunan infrastruktur model besar yang ditujukan untuk industri sekuritas, yang akan mengonsolidasikan sumber daya seperti daya komputasi dan model besar umum, untuk membantu lembaga keuangan kecil dan menengah agar terhindar dari "ketinggalan teknologi".

Dalam hal tata kelola data, semakin banyak lembaga keuangan yang mulai membangun platform data dan sistem tata kelola data. Beberapa bank juga menyelesaikan masalah data melalui kombinasi model besar dan MLOps. Misalnya, sebuah bank besar telah menerapkan model MLOps untuk membangun sistem siklus tertutup data model besar, yang mencapai otomatisasi proses dan pengelolaan serta pemrosesan data heterogen multi-sumber secara efisien.

Memasuki dari Skenario Luar

Selama lebih dari enam bulan terakhir, penyedia layanan model besar dan lembaga keuangan aktif mencari skenario aplikasi, mencakup perkantoran cerdas, pengembangan cerdas, pemasaran cerdas, layanan pelanggan cerdas, penelitian investasi cerdas, manajemen risiko cerdas, analisis kebutuhan, dan banyak bidang lainnya.

Setiap lembaga keuangan memiliki gagasan yang kaya tentang model besar. Sebuah bank menyatakan telah menerapkan aplikasi di lebih dari 20 skenario, bank lain mengklaim sedang melakukan pilot di lebih dari 30 skenario, sementara perusahaan sekuritas sedang menjajaki penggabungan model besar dengan platform manusia digital virtual.

Namun, dalam proses implementasi yang sebenarnya, industri umumnya percaya bahwa sebaiknya dimulai dari internal sebelum eksternal. Mengingat teknologi model besar saat ini belum matang, dan industri keuangan adalah bidang yang sangat diatur dan memiliki tuntutan keamanan yang tinggi, dalam jangka pendek tidak disarankan untuk langsung digunakan oleh pelanggan.

Saat ini, telah ada banyak kasus implementasi di bidang asisten kode dan kantor cerdas. Misalnya, sebuah bank besar telah membangun sistem pengembangan cerdas berbasis model besar, di mana jumlah kode yang dihasilkan oleh asisten pengkodean mencapai 40% dari total jumlah kode. Di bidang asuransi, sebuah perusahaan telah mengembangkan plugin pemrograman bantuan berbasis model besar yang langsung disematkan ke dalam alat pengembangan internal.

Namun, para ahli industri menilai bahwa skenario yang telah diterapkan secara luas ini sebenarnya belum menjadi aplikasi inti bagi lembaga keuangan, dan model besar masih memiliki jarak tertentu untuk mendalami aspek bisnis di industri keuangan.

Dalam hal desain tingkat atas, beberapa reformasi sedang dilakukan. Beberapa lembaga keuangan terkemuka telah membangun kerangka sistem berlapis yang mencakup lapisan infrastruktur, lapisan model, lapisan layanan model besar, lapisan aplikasi, dan sebagainya, berdasarkan model besar. Kerangka ini umumnya memiliki dua ciri utama: yang pertama adalah model besar memainkan kemampuan pusat, memanggil model tradisional sebagai keterampilan; yang kedua adalah lapisan model besar mengadopsi strategi multi-model, dengan pilihan internal untuk hasil terbaik.

Kekurangan talenta masih sangat besar

Aplikasi model besar telah mulai membawa tantangan dan perubahan pada struktur tenaga kerja di industri keuangan. Beberapa posisi menghadapi risiko penggantian, tetapi pada saat yang sama juga menciptakan peluang baru.

Banyak profesional industri menyatakan bahwa saat ini ada kekurangan besar dalam tenaga kerja terkait model besar. Meskipun lembaga keuangan dapat memperoleh dukungan teknis dari penyedia model besar, sebagai pihak pengguna akhir dan pengarah inovasi, mereka tetap membutuhkan akumulasi tenaga kerja tertentu untuk mendukung pembangunan platform AI besar, perencanaan aplikasi, serta optimasi model.

Beberapa lembaga telah mengambil tindakan, seperti bekerja sama dengan perusahaan teknologi untuk merancang kursus pelatihan yang mencakup penyempurnaan Prompt, fine-tuning, operasi model besar, dan membentuk kelompok proyek bersama untuk mendorong peningkatan kemampuan staf perusahaan.

Perlu dicatat bahwa dalam proses ini, struktur personel di lembaga keuangan juga akan mengalami penyesuaian dan perubahan. Pengembang yang akrab dengan aplikasi model besar mungkin akan lebih mudah menonjol di lingkungan baru.