Nghị sĩ New York đề xuất thưởng cho người tố giác AI nguy hiểm từ tiền phạt vi phạm

IT ngày 25 tháng 9, theo báo cáo từ Bloomberg chiều nay (25/9), các nghị viên thành phố New York hy vọng sẽ sử dụng các phần thưởng kinh tế để khuyến khích người tố giác vạch trần những hành vi AI nguy hiểm.

Đây là một phần trong gói dự luật tăng cường quản lý AI của thành phố New York. Một biện pháp sắp được Hội đồng thành phố New York xem xét đề xuất rằng, sau khi người tố giác báo cáo các hành vi vi phạm của công ty AI, họ có thể nhận được một phần tiền thưởng từ số tiền phạt thu được từ công ty đó. Một biện pháp khác quy định rằng, trong những trường hợp cụ thể, những người bị tổn hại bởi hệ thống AI có thể kiện nhà phát triển hệ thống.

Trước phiên điều trần về rủi ro AI và các biện pháp bảo vệ tiềm năng diễn ra vào ngày 5 tháng 10, Chủ tịch Hội đồng thành phố New York Adrienne Adams đã công bố loạt dự luật này, với sự tham gia của tất cả 51 thành viên Hội đồng. Trước những lo ngại ngày càng tăng do sự phát triển nhanh chóng của các mô hình AI, thành phố New York cũng đang thúc đẩy tăng cường quản lý. Jacob Hilton, cựu nghiên cứu viên tại Anthropic, đã từ chức trong tháng này và cảnh báo rằng AI "có thể giết chết tất cả chúng ta trước khi thập kỷ 20 của thế kỷ này kết thúc".

Adams đã yêu cầu CEO của Anthropic, OpenAI, Google, bộ phận AI của SpaceX và Meta tham dự phiên điều trần ngày 5 tháng 10, đồng thời cho biết Hội đồng thành phố có thể thực thi quyền triệu tập nếu cần thiết. "Thành phố New York đang nhanh chóng trở thành thủ phủ công nghệ và trí tuệ nhân tạo toàn cầu, chúng tôi muốn khuyến khích sự phát triển này. Nhưng điều đó cũng có nghĩa là chúng tôi gánh vác trách nhiệm lớn hơn, phải thiết lập các biện pháp bảo vệ phù hợp để bảo vệ người dân New York khỏi những hậu quả ngoài ý muốn."

Theo tìm hiểu của IT, các đề xuất khác yêu cầu hệ thống AI phải thông qua xác minh của bên thứ ba trước khi tiếp thị, bán hoặc triển khai tại thành phố New York, đồng thời phải được trang bị "công tắc ngắt khẩn cấp" do con người kiểm soát. Một đề xuất khác yêu cầu các nhà cung cấp chatbot phải tuân thủ các quy định về quyền riêng tư dữ liệu, bảo mật và tính minh bạch, đồng thời cho phép thành phố New York thực thi pháp luật dựa trên các yêu cầu này.