Nghiên cứu từ MIT: Lợi và hại của 'độc canh thuật toán' phụ thuộc vào từng ngữ cảnh cụ thể

Các công cụ AI đang ngày càng thay thế sự phán đoán của con người trong một số lĩnh vực. Ví dụ, các thuật toán sàng lọc hồ sơ thường được sử dụng trong tuyển dụng, nơi chúng có thể cải thiện hiệu quả và tính nhất quán trong việc ra quyết định.

Tuy nhiên, một số học giả đã đưa ra những lo ngại rằng việc áp dụng các hệ thống tự động cuối cùng có thể dẫn đến việc một thuật toán duy nhất được sử dụng để đưa ra mọi quyết định trong một ngành cụ thể. Họ lo ngại cái gọi là "độc canh thuật toán" (algorithmic monoculture) có thể gây ra những hậu quả tiêu cực.

Ví dụ, trong tuyển dụng, người ta cho rằng độc canh thuật toán có thể dẫn đến sự loại trừ mang tính hệ thống — một tình huống mà ứng viên bị thuật toán của một công ty từ chối thì cũng có khả năng bị thuật toán của mọi công ty khác từ chối.

Tuy nhiên, các nhà nghiên cứu tại MIT hiện lập luận rằng độc canh thuật toán có thể không phải lúc nào cũng tồi tệ như một số nhà khoa học đã gợi ý.

Họ đã đánh giá một cách hệ thống các phản đối chính đối với độc canh thuật toán, bao gồm cả sự loại trừ mang tính hệ thống, và kết luận rằng lập luận này cùng nhiều lập luận khác đều không thành công hoặc không mang tính quyết định đối với mọi hình thức độc canh.

Thay vào đó, họ chứng minh bằng toán học rằng độc canh có xu hướng tạo ra các "phòng vang thông tin" (informational echo chambers) có thể cản trở việc khám phá. Trong tuyển dụng, điều này có thể làm giảm khả năng các ứng viên tốt nhất có được việc làm — tuy nhiên, các nhà nghiên cứu chỉ ra rằng việc kết hợp nhiều thuật toán tuyển dụng khác nhau thành một "tập hợp" (ensemble) có thể khắc phục hạn chế này. Đôi khi, điều này có thể giúp độc canh hoạt động tốt ngang bằng, nếu không muốn nói là tốt hơn, so với đa canh (polyculture), nơi các công ty khác nhau sử dụng các thuật toán khác nhau.

"Xu hướng hướng tới độc canh thuật toán là một kịch bản thực tế và là một vấn đề thực sự quan trọng do việc sử dụng AI mang lại, nhưng rất khó để nói một cách trừu tượng rằng liệu độc canh có phải là một điều tồi tệ hay không. Nó phụ thuộc vào các chi tiết, như lĩnh vực chúng ta đang nói đến và độ chính xác của chính thuật toán đó," đồng tác giả nghiên cứu Brian Hedden, giáo sư tại Khoa Ngôn ngữ học và Triết học, người giữ vị trí chung tại MIT Schwarzman College of Computing với Khoa Kỹ thuật Điện và Khoa học Máy tính (EECS) và cũng là nhà nghiên cứu chính tại Phòng thí nghiệm Hệ thống Thông tin và Quyết định (LIDS), cho biết.

Cùng tham gia bài báo với Hedden là đồng tác giả Manish Raghavan, Giáo sư Phát triển Sự nghiệp Drew Houston (2005) tại Trường Quản lý MIT Sloan và EECS, đồng thời là nhà nghiên cứu chính tại LIDS. Nghiên cứu được đăng trên Philosophical Perspectives.

Xu hướng hướng tới độc canh

Độc canh thuật toán, trong đó mọi quyết định trong một lĩnh vực nhất định đều được đưa ra bằng cách sử dụng cùng một thuật toán, không phải là một hiện tượng mới.

Ví dụ, các quyết định cho vay từng được đưa ra bởi các nhân viên ngân hàng độc lập tại từng ngân hàng riêng lẻ, nhưng giờ đây tất cả các nhân viên ngân hàng đều sử dụng cùng một thông tin dựa trên điểm tín dụng tiêu chuẩn của người vay, vốn được lấy từ thuật toán của Fair Isaac Corporation (FICO).

Tương tự, một số ít thuật toán sàng lọc hồ sơ thường được nhiều công ty trong danh sách Fortune 500 sử dụng.

"Mối lo ngại là khi ngày càng có nhiều người sử dụng AI và thuật toán để thu thập thông tin và đưa ra quyết định, thì càng có nhiều phương tiện để loại tương quan này xảy ra," Raghavan nói.

Để hiểu rõ hơn về vấn đề này, ông và Hedden đã hợp tác để đánh giá một cách hệ thống những hứa hẹn và cạm bẫy của độc canh thuật toán. Họ tập trung vào tuyển dụng, nhưng phương pháp của họ có thể áp dụng cho các lĩnh vực khác, chẳng hạn như cho vay. (Tuy nhiên, họ lưu ý rằng các lĩnh vực khác, như tạo nội dung bằng AI tạo sinh hoặc nghiên cứu khoa học có sự hỗ trợ của AI, có thể hoạt động khác biệt và độc canh trong một số lĩnh vực này có thể gây ra nhiều vấn đề hơn.)

Các nhà nghiên cứu bắt đầu bằng việc khám phá một phản đối phổ biến đối với độc canh thuật toán: việc dựa vào cùng một thuật toán sẽ loại trừ một cách hệ thống những người nhất định khỏi các cơ hội.

Điều này có thể xảy ra trong tuyển dụng vì nếu một công ty loại hồ sơ của một cá nhân, thì ứng viên đó có khả năng sẽ gặp vận rủi tương tự tại mỗi công ty khác.

Nhưng sau khi đánh giá một cách hệ thống lập luận này bằng một loạt các mô hình nắm bắt nhiều tình huống, các nhà nghiên cứu lập luận rằng nó không thuyết phục vì tổng số người được tuyển dụng không bị ảnh hưởng bởi việc các công ty sử dụng cùng một thuật toán.

Thay vào đó, độc canh thuật toán có thể cải thiện quyền thương lượng của các ứng viên xin việc.

"Tất cả các công việc đều được lấp đầy và số lượng người có việc làm vẫn như cũ, nhưng các công ty đang tranh giành cùng một nhóm ứng viên, điều này thực sự đẩy mức lương lên cao," Raghavan nói.

Họ cũng khám phá các phản đối liên quan đến quyền tự chủ. Ví dụ, nếu một ứng viên nộp đơn xin việc và hồ sơ của họ được chuyển đến mọi công ty sử dụng thuật toán tuyển dụng đó, ứng viên sẽ không bao giờ có cơ hội điều chỉnh hồ sơ của mình để cải thiện cơ hội.

"Đây có vẻ là một phản đối hợp lý đối với các hình thức độc canh tồi tệ. Nhưng nếu bạn có một hệ thống độc canh mà ở đó bạn có thể sửa đổi hồ sơ và nộp lại tài liệu của mình, thì lập luận này không còn đứng vững," Hedden nói.

Mặt khác, độc canh có thể cho phép các cá nhân thao túng hệ thống. Ví dụ, nếu việc để hồ sơ ở một định dạng nhất định dẫn đến kết quả tốt hơn, các ứng viên xin việc có thể chỉ cần định dạng lại hồ sơ của họ để cải thiện cơ hội.

"Nhưng không rõ ràng rằng việc có một thuật toán duy nhất sẽ khuyến khích kiểu thao túng này nhiều hơn là có một loạt các thuật toán khác nhau được sử dụng bởi các công ty khác nhau," Hedden nói. "Trong kịch bản sau, bạn có thể chỉ nhắm mục tiêu vào thuật toán của một vài công ty và cố gắng thao túng chúng, mang lại cho bản thân một chút lợi thế với một vài nhà tuyển dụng."

Trí tuệ đám đông

Họ cũng xem xét một phản đối ít được khám phá hơn: độc canh có thể làm tăng sự đồng nhất hóa thông tin.

Dựa trên "trí tuệ đám đông", một lý thuyết từ tâm lý học xã hội, một nhóm đa dạng gồm những người ra quyết định độc lập có thể hoạt động hiệu quả hơn một cá nhân đơn lẻ, Hedden giải thích.

Trong tuyển dụng, điều này có nghĩa là việc có các công ty với các thuật toán tuyển dụng đa dạng có thể dẫn đến một nhóm nhân viên mới có chất lượng cao hơn.

Độc canh thuật toán cũng có thể khiến các ứng viên có cùng đặc điểm và bằng cấp bị mọi công ty tuyển dụng mỗi lần. Điều này có thể ngăn cản các công ty khám phá ra những ứng viên có thể là lựa chọn thay thế tốt hơn.

"Độc canh có thể ức chế mức độ khám phá diễn ra nói chung. Không rõ liệu đó có phải là một điều tồi tệ hay không, nhưng đó chắc chắn là một mối lo ngại khi chúng ta nghĩ về việc thiết kế AI cho các ứng dụng như khoa học, nghệ thuật hoặc viết lách," Raghavan nói.

Vấn đề này có thể được giảm thiểu bằng cách đưa tính ngẫu nhiên vào một nền tảng độc canh, điều này có thể tạo ra mức độ khám phá cao hơn, ông nói thêm.

Ngoài ra, hiệu suất của độc canh phụ thuộc vào thuật toán. Nếu một thuật toán duy nhất chính xác hơn nhiều so với nhiều thuật toán được sử dụng bởi các công ty khác nhau, thì độc canh có thể là một hệ thống tốt hơn.

Một cách để tăng hiệu suất có thể là đóng gói các thuật toán tuyển dụng của nhiều công ty thành một "thuật toán tập hợp" (ensemble algorithm) có thể gán cho mỗi ứng viên một điểm số dựa trên mức trung bình.

Bằng cách thực hiện một loạt các mô phỏng về các tình huống tuyển dụng khác nhau, các nhà nghiên cứu xác nhận rằng một "thuật toán tập hợp" như vậy đôi khi có thể vượt trội hơn việc sử dụng nhiều thuật toán riêng lẻ.

Tuy nhiên, Hedden cho biết vẫn cần phải tìm hiểu xem liệu kiểu "kết hợp thuật toán" (algorithmic ensembling) này có khả thi trong thực tế hay không.

"Rất nhiều câu trả lời xoay quanh những hứa hẹn và cạm bẫy của sự độc canh thuật toán (algorithmic monoculture) sẽ phụ thuộc vào ngữ cảnh. Ngay cả từ góc độ nghiên cứu, vẫn còn rất nhiều việc phải làm để tìm ra cách tiếp cận những mối lo ngại này từ góc độ thực nghiệm," Raghavan nói.

Cuối cùng, các nhà nghiên cứu hy vọng công trình này sẽ truyền cảm hứng cho các nghiên cứu bổ sung về những hậu quả lâu dài của sự độc canh thuật toán, cũng như các nghiên cứu tập trung vào những phức tạp thực tế trong một hệ thống phức hợp như thị trường việc làm.