Bài học thực tế dành cho GenAI trong Ngân hàng

Mặc dù GenAI mang lại nhiều tiềm năng, nhưng cũng có những tranh cãi về tác động của nó. Nhưng giờ đây, năm 2024 được xem là thời điểm quan trọng khi ngành ngân hàng bắt đầu áp dụng công nghệ này vào thực tế, sau những giai đoạn thử nghiệm và thí điểm ban đầu.

Zac Maufe, Giám đốc toàn cầu Bộ phận Regulate Industries tại Google Cloud, cho hay.

Zac Maufe, người từng làm việc ở nhiều vị trí ngân hàng khác nhau, chủ yếu tại Wells Fargo, trước khi gia nhập Google Cloud vào cuối năm 2020, chia sẻ: "Mọi người đang bắt đầu áp dụng GenAI vào công việc hàng ngày. Trong năm nay, các bạn sẽ thấy các trường hợp sử dụng thực tế của GenAI trong sản xuất và các hoạt động kinh tế cơ bản.”

Ưu tiên tiết kiệm chi phí: Chiến lược ngắn hạn

Một khảo sát được Google Cloud công bố vào cuối năm 2023 cho thấy hơn 1/3 Giám đốc điều hành của các ngân hàng lớn tin rằng GenAI sẽ giúp tiết kiệm chi phí đáng kể trong vòng 5 năm tới.

Năm lĩnh vực hàng đầu mà những người tham gia khảo sát cho biết họ đang thử nghiệm bao gồm các công cụ để nhân viên chuẩn bị email, tài liệu và thuyết trình (57%); chuẩn bị nội dung tiếp thị mới như quảng cáo, ưu đãi và bài đăng trên mạng xã hội (55%); hỗ trợ mã hóa phần mềm và ứng dụng (50%); xuất bản báo cáo tài chính và bản cáo bạch (49%); và tóm tắt nghiên cứu thị trường tài chính để ra quyết định đầu tư và cung cấp thông tin cho khách hàng (49%).

Phạm vi phủ sóng của GenAI có xu hướng tập trung vào một số mô hình ngôn ngữ lớn (gọi tắt là LLM) như ChatGPT và Gemini của chính Google. Tuy nhiên, LLM có thể quá lớn/không cần thiết đối với một số tác vụ nhỏ. Maufe dự đoán sự kết hợp của việc sử dụng điện toán đám mây ngày càng phổ biến trong ngành và sự sẵn có ngày càng nhiều của các dạng GenAI chuyên biệt sẽ cho phép các tổ chức lựa chọn được công cụ phù hợp cho từng công việc.

“Có thể bạn đang sử dụng một chiếc búa để thực hiện một công việc nào đó, nhưng bạn có thể muốn thử thứ gì đó tinh tế hơn”. - Zac Maufe, Google Cloud.

“Các mô hình lớn hơn có xu hướng chậm hơn vì chúng xử lý nhiều dữ liệu hơn. Mặt khác, một mô hình nhỏ hơn có thể thực sự phù hợp hơn nếu ngân hàng của bạn chỉ muốn xử lý các tác vụ trong phạm vi nhỏ.”, Maufe nói.

Một ví dụ điển hình: Đào tạo một mô hình để hỗ trợ các chuyên viên chăm sóc khách hàng làm việc tại Trung tâm cuộc gọi (Call Center). Các gói chuyên dụng đã được phát triển để giải quyết những thách thức cụ thể như vậy.

Maufe cho biết: “Nếu chỉ cần một mô hình được đào tạo tập trung, với tập dữ liệu cụ thể, thì bạn không cần thiết phải dùng đến LLM”.

Mặt khác, một ví dụ cho thấy sự cần thiết phải sử dụng đến LLM, đó là khi so sánh chi tiết về các chương trình thẻ tín dụng và các đề xuất nhằm cải thiện dịch vụ của tổ chức tài chính. Điều này đòi hỏi xử lý một lượng lớn dữ liệu từ nhiều nguồn khác nhau, bao gồm thông tin về lịch sử giao dịch, tỷ lệ phí và lợi ích, và phản hồi từ khách hàng. Hay việc chuẩn bị các nghiên cứu thị trường đầu tư cho khách hàng cũng là một ví dụ tương tự.

Maufe nói: “Sử dụng GenAI chính là thực hiện các tác vụ có thể lặp lại và (chuẩn hóa định dạng đầu ra) Ông nói thêm, nếu một khách hàng đầu tư muốn có cái nhìn tổng quan về thị trường năng lượng thì “công cụ GenAI không cần biết về thư viện âm nhạc của Taylor Swift”.

Nếu có các công cụ GenAI được điều chỉnh cho phù hợp với nhiều nhiệm vụ cụ thể, thì cũng cần phải có một bộ công cụ (tool box) lắp ráp những công cụ riêng lẻ này lại để dễ dàng khai thác và sử dụng.

Maufe cho biết nhiều tổ chức sẽ thấy rằng họ cần các nền tảng có thể lưu trữ một bộ sưu tập các tùy chọn GenAI trên đó. Các nền tảng này sẽ cung cấp lựa chọn không chỉ từ những mô hình GenAI do nhà cung cấp cụ thể cung cấp, mà còn từ các mô hình ngôn ngữ lớn khác, cũng như từ các mô hình cạnh tranh và từ các mô hình đặc biệt của các bên thứ ba và mã nguồn mở. Google Cloud cung cấp một nền tảng có tên Vertex bao gồm Gemini và các biến thể của Gemini cũng như GenAI khác.

Nhìn vào GenAI và rủi ro mô hình

Khi điện toán đám mây ngày càng phát triển nhờ tốc độ, dung lượng lưu trữ lớn và tính linh hoạt, Maufe cho biết trong tương lai, không chỉ các bộ phận công nghệ thông tin (IT) mà các đơn vị kinh doanh cũng sẽ tham gia vào quyết định. Điều này đề xuất một sự thay đổi trong cách quản lý và triển khai công nghệ trong các tổ chức, trong đó không chỉ là các quyết định kỹ thuật mà còn có sự đóng góp từ các đơn vị kinh doanh để đảm bảo rằng các quyết định phù hợp với mục tiêu kinh doanh và nhu cầu của doanh nghiệp.

Ví dụ, chức năng quản lý rủi ro của tổ chức tài chính sẽ đóng một vai trò quan trọng vì các mô hình ngôn ngữ lớn phải tuân theo các yêu cầu của cơ quan quản lý tài chính rằng các mô hình của bên thứ ba phải được kiểm soát nội bộ.

Các nhân viên ngân hàng được Google khảo sát cho biết họ đang đầu tư vào công nghệ để chuyển dữ liệu của mình lên đám mây. Trong khi đó, các tổ chức đã thiết lập các quy trình đánh giá rủi ro của các mô hình của bên thứ ba mà họ có thể áp dụng cho các mô hình GenAI.

Việc sử dụng GenAI trong ngân hàng đang ngày càng trở nên phổ biến và quan trọng hơn. Tuy nhiên, việc lựa chọn và quản lý các mô hình GenAI đòi hỏi sự cẩn trọng và kiểm soát rủi ro chặt chẽ từ các tổ chức. Điều này cũng mở ra một cơ hội mới để cải thiện hiệu suất và tiết kiệm chi phí trong ngành ngân hàng.

Nguồn tham khảo: The Financial Brand

Tổng hợp bởi nhóm tác giả DTSVN - Giải pháp chuyển đổi số ngành Tài chính - Ngân hàng.

-------

DTSVN là Công ty Chuyển đổi số tiên phong cung cấp giải pháp số hóa mới nhất dành riêng cho các doanh nghiệp trong ngành Tài chính - Ngân hàng tại Việt Nam; giúp Ngân hàng, tổ chức tài chính nhanh chóng hoàn thiện hệ thống công nghệ phục vụ Chuyển đổi số.

Liên hệ ngay để được tư vấn và trải nghiệm giải pháp tại đây