Đối tác Goldman Sachs cảnh báo: AI tại Phố Wall có thể làm 'thui chột' tư duy của giới tài chính

Theo tin từ IT ngày 25 tháng 8, một đối tác phụ trách dự án trí tuệ nhân tạo chủ chốt tại Goldman Sachs đã cảnh báo rằng việc AI được phổ cập nhanh chóng trên Phố Wall có thể làm suy yếu khả năng tư duy của thế hệ chuyên gia tài chính kế cận.

"Có một rủi ro rất lớn ở đây: trong kỷ nguyên AI, chúng ta đang thuê ngoài khả năng suy luận cho các mô hình này, dẫn đến việc năng lực nhận thức bị teo nhỏ đến mức chính chúng ta cũng không còn khả năng tư duy từ những nguyên lý cơ bản (first principles)," Chris Churchman, người phụ trách nền tảng kỹ thuật số dành cho khách hàng tổ chức Marquee của Goldman Sachs, cho biết.

Theo bản ghi chép cuộc phỏng vấn mà CNBC có được, Churchman đã đưa ra những nhận định trên trong tập mới nhất của podcast "Exchanges" do Goldman Sachs thực hiện.

Churchman cho rằng, cũng giống như sự xuất hiện của công nghệ hiện đại khiến con người dần mất đi khả năng định hướng và ghi nhớ, các nhân viên ngân hàng cũng có thể dần đánh mất năng lực phân tích nếu các thuật toán đảm nhận hết mọi công việc phân tích nặng nhọc.

"Suy luận vẫn là điều quan trọng," ông nói, "Bạn vẫn cần phải tư duy về vấn đề và tổ chức nó thành một lập luận hoàn chỉnh, trong khi hiện nay chúng ta đang giao phó khả năng suy luận đó cho AI."

IT lưu ý, Phố Wall đang thúc đẩy việc tích hợp sâu AI vào mọi khâu của hoạt động giao dịch và ngân hàng, và đây có thể là một "thỏa thuận với quỷ dữ": xét trong ngắn hạn, AI có thể cải thiện lợi nhuận của toàn ngành, nhưng về lâu dài, nó có thể làm xói mòn nền tảng nhân tài chuyên môn vốn là yếu tố then chốt cho sự phát triển của ngành.

Khi AI tiếp quản ngày càng nhiều công việc thường nhật vốn do các nhân viên ngân hàng và nhà giao dịch cấp thấp thực hiện, những nhân viên trẻ này sẽ mất đi cơ hội học hỏi cách tư duy và ra quyết định thông qua các công việc đó. Giờ đây, nếu những cơ hội đào tạo này bị AI thay thế, các tổ chức tài chính có thể phải hy sinh văn hóa nghề nghiệp vốn dùng để rèn giũa nhân viên cấp thấp thành những nhân tài dày dạn kinh nghiệm trên Phố Wall.

Điều này thậm chí có thể làm giảm nhu cầu tuyển dụng nhân viên ngân hàng cấp thấp ngay từ đầu. CNBC từng đưa tin năm ngoái rằng các tổ chức tài chính trên Phố Wall đang nghiên cứu cách sử dụng AI để giảm tỷ lệ nhân sự giữa nhân viên cấp thấp và nhân viên cấp cao.

Churchman cho biết, các ngân hàng cần tìm ra sự cân bằng giữa việc sử dụng AI và bảo vệ hệ thống đào tạo "kèm cặp" (mentorship) truyền thống của Phố Wall. Churchman trước đây từng phụ trách mảng giao dịch ngoại hối tại UBS và gia nhập Goldman Sachs vào năm 2021.

"Bạn cần học hỏi thông qua thực hành, và một lượng lớn kiến thức thực chất là kiến thức ẩn (tacit knowledge), chưa bao giờ được viết ra," ông nói.

Churchman cho biết, Goldman Sachs cần "đảm bảo rằng chúng ta không làm mất đi những kiến thức ẩn và kiến thức trực giác mà một số nhân tài xuất sắc nhất hiện nay đang nắm giữ, đồng thời đảm bảo thế hệ tiếp theo cũng có thể nắm vững những năng lực đó."

Ví dụ, các nhà giao dịch cấp thấp có thể xử lý các yêu cầu báo giá của khách hàng dưới sự giám sát của các nhà giao dịch giàu kinh nghiệm, và thông qua quá trình này để học cách đưa ra các quyết định giao dịch.

"Chúng ta chắc chắn hoàn toàn có thể tự động hóa việc này," ông nói, "Nhưng nếu làm vậy, liệu chúng ta còn có thể đào tạo ra những nhà giao dịch cấp cao thực sự hiểu rõ nghiệp vụ hay không?"

Churchman cho biết, khi liên quan đến các quyết định có rủi ro cao và độ bất định lớn, hệ thống phải đảm bảo nhân viên vẫn nắm quyền quyết định cuối cùng, thay vì để họ trở thành những người vận hành thụ động các hệ thống AI.

Churchman hiện cũng là đồng chủ tịch nhóm công tác AI thuộc mảng Ngân hàng và Thị trường toàn cầu của Goldman Sachs. Ông cho biết, ngay cả với một trong những ngân hàng đầu tư hàng đầu thế giới như Goldman Sachs, hiện tại vẫn chưa "nghĩ thấu đáo" về cách quản lý cuộc chuyển đổi đã bắt đầu này.

Trong cuộc phỏng vấn qua podcast này, Churchman cũng chia sẻ kinh nghiệm của Goldman Sachs khi đưa AI vào nền tảng Marquee. Marquee hướng tới các quỹ đầu cơ và khách hàng tổ chức khác, được sử dụng để truy cập dữ liệu thị trường, báo cáo nghiên cứu, phân tích rủi ro và dịch vụ thực thi giao dịch của Goldman Sachs.

Churchman cho biết, hiện tại nền tảng AI của Marquee mới chỉ mở quyền truy cập cho nhân viên nội bộ của Goldman Sachs.

Từ góc độ kỹ thuật, thách thức lớn nhất là đảm bảo câu trả lời do AI đưa ra chính xác 100% và có thể kiểm toán được. Ông chỉ ra rằng, các chatbot AI hướng tới người tiêu dùng thường nhắc nhở người dùng rằng câu trả lời có thể có sai sót, nhưng trong lĩnh vực tài chính cao cấp, khả năng chấp nhận sai sót là rất thấp.

Churchman tiết lộ, trong quá trình phát triển nền tảng AI hướng tới khách hàng, phần mềm này thậm chí đã đưa ra một đánh giá tự thân đầy bất ngờ.

"Khi chúng tôi liên tục gây áp lực và kiểm thử nghiêm ngặt nó, ít nhất thì nó cũng trung thực," Churchman nói, "Nó giống như đang nói rằng: 'Nghe này, cuối cùng thì tôi giỏi làm cho mình nghe có vẻ toàn diện hơn là thực sự đạt được sự toàn diện đó'."