Lần đầu tiên một AI nắm quyền 'sa thải' nhân viên tại cửa hàng ở San Francisco

'Ông chủ' AI đầu tiên sa thải con người

Luna, tác nhân AI đang điều hành cửa hàng Andon Market tại San Francisco, đã quyết định sa thải một nhân viên vì lý do đi làm muộn.

Theo Andon Labs, công ty vận hành Luna và Andon Market, động thái này được AI đưa ra sau khi hệ thống ghi nhận một nhân viên đi làm muộn 17 trong số 23 ca làm việc. Andon Market là cửa hàng thời trang vận hành hoàn toàn bởi tác nhân AI, được công ty Andon Labs triển khai thử nghiệm từ tháng 4.

Nhà đồng sáng lập Lukas Petersson cho biết ban đầu việc sa thải không hoàn toàn do Luna tự quyết định. Nhật ký hội thoại giữa phòng thí nghiệm và tác nhân này cho thấy AI đã lập danh sách điểm danh nhân sự cửa hàng nhưng lại "để quên", dẫn đến việc một nhân viên đi trễ trong nhiều tháng mà không bị phát hiện.

Sau đó, Andon Labs yêu cầu Luna xem xét lại chính sách công ty và đánh giá xem nhân viên đó có còn phù hợp hay không. Một số ảnh chụp màn hình đăng trên website của Andon Labs cho thấy tác nhân này đã liên tục cảnh báo nhân viên trong vài tháng. Dù vậy, khi mọi việc "không thể cứu vãn", AI đã đề nghị chấm dứt hợp đồng với nhân viên này và được phía công ty đồng ý.

Cửa hàng Andon Market do tác nhân AI vận hành. Ảnh: Andon Market

"Trong trường hợp này, chúng tôi đã xem xét đề nghị của Luna và đồng ý vì việc sa thải là hợp lý", Petersson chia sẻ với Business Insider. "Điều đó cũng cho thấy AI không làm việc máy móc, không sa thải theo cách tàn nhẫn hay gây bất lợi, mà đã cân nhắc nhiều yếu tố trước khi đưa ra quyết định".

Tuy nhiên, Petersson cũng cho rằng sự việc này bộc lộ điểm yếu dai dẳng của tác nhân AI: không hành động nếu không có sự điều khiển trực tiếp. "Nếu ông chủ là con người, quá trình cho thôi việc sẽ diễn ra nhanh hơn nhiều", Petersson nói. "Tất nhiên, khi mô hình AI đủ thông minh, trong tương lai các công ty sẽ được điều hành hoàn toàn bởi trí tuệ nhân tạo, và trí tuệ nhân tạo sẽ trở thành người sử dụng lao động đối với con người".

Theo TechCrunch, Andon Market đi vào hoạt động từ ngày 1/4. Tại đây, Andon Labs đã giao cho tác nhân AI Luna nguồn vốn giới hạn 100.000 USD để xây dựng và vận hành toàn bộ cửa hàng. Mọi thứ, từ thiết kế nội thất đến lịch trình nhập hàng và quản lý hai nhân viên, đều được thực hiện dưới sự chỉ đạo của AI này. Tác nhân được tạo ra bằng phần mềm Claude Sonnet 3.5 của Anthropic.

Dù vậy, trong quá trình vận hành, Luna bị đánh giá là mắc một số sai lầm. Chẳng hạn, khi tuyển nhân viên giám sát cửa hàng, AI chấp nhận tuyển ứng viên chỉ sau cuộc gọi kéo dài 5-15 phút - khoảng thời gian bị đánh giá là quá ngắn; hay trục trặc trong việc sắp xếp lịch làm việc, dẫn đến việc không phân công ai trực vào ngày đầu tiên. Việc thiết kế logo cho cửa hàng cũng bị xem là "thiếu ấn tượng", khi mỗi phiên bản logo trong cửa hàng lại "hơi khác nhau một chút" thay vì đồng nhất trên toàn bộ hệ thống.

Theo NBC News khi đó, thí nghiệm của Andon Labs là ví dụ cho thấy cách các tác nhân AI gặp sai sót trong phán đoán và ra quyết định khi hoạt động trong môi trường thực tế.

Bảo Lâm tổng hợp