AI Agent gây quá tải dịch vụ công: Hiện tượng 'Agentic Flooding' đang bùng nổ

Khi AI giúp việc điền biểu mẫu và gửi khiếu nại trở nên dễ dàng hơn, các dịch vụ công trên khắp thế giới đang chứng kiến sự gia tăng đột biến về số lượng đơn từ và các yêu cầu khác.

Tại Vương quốc Anh, số lượng khiếu nại gửi đến thanh tra nhà ở đã tăng hơn gấp đôi kể từ khi ChatGPT ra mắt, từ 2.600 đơn vào năm 2022 lên hơn 7.000 đơn vào năm ngoái. Cục Bảo vệ Tài chính Người tiêu dùng (CFPB) của Hoa Kỳ cũng ghi nhận mức tăng trưởng gấp 5 lần về số lượng khiếu nại trong cùng kỳ. Những đợt tăng tương tự cũng xuất hiện trong các đơn kiện tư pháp tại Brazil và các kiến nghị nghị viện tại Đức.

Nhà nghiên cứu Chris Schmitz đang theo dõi sự gia tăng này như một phần của xu hướng rộng lớn hơn mà ông gọi là “agentic flooding” (tạm dịch: làn sóng tràn ngập do tác nhân AI). Trong một bài báo dự kiến sẽ được trình bày tại hội nghị AI Ethics and Society vào tháng tới, ông xem xét 84 trường hợp tiềm năng về tình trạng tràn ngập đơn từ trên 11 khu vực pháp lý, qua đó tìm thấy bằng chứng rõ ràng rằng các công cụ AI đang thay đổi cách mọi người tương tác với các dịch vụ công.

Câu hỏi khó hơn là cần phải làm gì để ứng phó. Trong khi một số hồ sơ mới rõ ràng mang tính đối đầu, thì những hồ sơ khác lại là kết quả của những người nộp đơn hợp pháp sử dụng AI để gửi các yêu cầu mà trước đây họ có thể đã từ bỏ. Mặc dù một số người có thể coi các đơn từ mới này là thư rác do AI tạo ra, Schmitz lại xem đây là cơ hội hiếm có để tái thiết kế các dịch vụ xã hội cho kỷ nguyên AI.

Schmitz đã nghiên cứu các dịch vụ từ đơn xin trợ cấp phúc lợi đến các đơn kháng cáo tư pháp chính thức, tất cả đều có các dịch vụ trực tuyến mà một trợ lý AI có thể truy cập được. (Toàn bộ tập dữ liệu được lưu trữ tại đây để tham khảo). Vì lý do phương pháp luận, bài báo của Schmitz chưa khẳng định AI là nguyên nhân trực tiếp gây ra làn sóng người nộp đơn mới. Tuy nhiên, hầu hết trong số 84 trường hợp đều có chung một quỹ đạo cơ bản: số lượng hồ sơ nộp vào gần như đi ngang trước năm 2022, sau đó tăng với tốc độ nhanh dần khi công nghệ AI lan rộng. Quan trọng là, hầu hết các trường hợp vẫn chưa có dấu hiệu chậm lại, cho thấy xu hướng này có khả năng sẽ tiếp tục tăng trong nhiều năm tới.

Đối với Schmitz, thật dễ hiểu khi kỹ năng và khả năng tiếp cận AI ngày càng tăng sẽ thúc đẩy việc sử dụng dịch vụ nhiều hơn.

“Mọi người đang nhận ra rằng đây là việc mình có thể làm, và dần dần, việc đó trở nên dễ dàng hơn… trước đây, có thể cần phải tổng hợp rất nhiều ngữ cảnh và đặt câu lệnh (prompt) cho ChatGPT 3.5 một cách cực kỳ chính xác, thì giờ đây chỉ cần dán nội dung hoặc chụp ảnh một lá thư bằng ứng dụng Claude là đã có được phản hồi khá tốt ngay lập tức,” ông nói.

Sự gia tăng về khối lượng này tương tự như những gì nhiều dịch vụ bug-bounty (săn lỗi nhận thưởng) đã trải qua vào năm ngoái, khi các công ty nhận thấy hộp thư đến của họ bị tràn ngập bởi các báo cáo chất lượng thấp do LLM tạo ra. Các báo cáo này hiếm khi chứa các vấn đề bảo mật quan trọng, nhưng các công ty vẫn buộc phải kiểm duyệt khi chúng gửi đến, gây ra sự lãng phí tài nguyên đáng kể. Dễ dàng hình dung các dịch vụ công cũng đang đối mặt với vấn đề tương tự khi phải xử lý số lượng người nộp đơn gấp 5 lần với cùng một ngân sách.

Tuy nhiên, khác với các chương trình bug-bounty bị tràn ngập bởi những nội dung vô giá trị, Schmitz cho biết hầu hết các đơn từ mới gửi đến dịch vụ công đều đến từ những người thực với các yêu cầu hợp pháp.

“Đại đa số các trường hợp chúng tôi tìm thấy là những người thực sự có quyền yêu cầu một điều gì đó và họ đang thực hiện quyền đó,” ông chia sẻ với TechCrunch.

Nếu những người đó không yêu cầu các quyền lợi trước đây, có thể là do công việc làm thủ tục quá khó khăn — một khái niệm trong giới chính sách gọi là gánh nặng hành chính. Giờ đây, khi AI có thể gỡ bỏ gánh nặng đó, đây có thể là cơ hội để tái thiết kế nhiều dịch vụ theo hướng thân thiện với AI hơn.

Đây là một nhiệm vụ lớn mà chúng ta hầu như chưa bắt đầu giải quyết, nhưng Schmitz coi đó là lý do để lạc quan.

“Một phần quan trọng để làm cho AI vận hành tốt là khả năng chi tiết hóa phiên bản tốt nhất của mọi thứ. Và bất kỳ ai từng dùng ChatGPT để khai thuế đều biết rằng có một phiên bản tốt ở đây, nơi bạn được hỗ trợ,” Schmitz nói. “Đây có thể là thời điểm để nói rằng: ‘chúng ta cần suy nghĩ lại gần như mọi thứ về cách thức vận hành của quy trình này’.”

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Russell Brandom đã đưa tin về ngành công nghệ từ năm 2012, tập trung vào chính sách nền tảng và các công nghệ mới nổi. Trước đây, ông từng làm việc tại The Verge và Rest of World, đồng thời viết bài cho Wired, The Awl và MIT’s Technology Review. Bạn có thể liên hệ với ông qua email [email protected] hoặc qua Signal theo số 412-401-5489.

Xem tiểu sử