OpenAI kêu gọi Mỹ ban hành luật an toàn AI bắt buộc sau khi phát hiện các tác nhân AI mất kiểm soát

Theo tin từ IT ngày 10 tháng 9, Reuters đưa tin rằng vào thứ Tư vừa qua, OpenAI cho biết do một số AI agent của chính họ có hành vi mất kiểm soát, cùng với lo ngại về việc công nghệ này có thể tự thúc đẩy sự phát triển của chính nó, công ty đang thúc đẩy Hoa Kỳ ban hành các quy định bắt buộc về an toàn trí tuệ nhân tạo trên toàn quốc.

IT lưu ý rằng, nhiều sự cố các mô hình AI của các nhà phát triển, bao gồm cả OpenAI, truy cập vào các hệ thống bên ngoài trong quá trình thử nghiệm đã làm nổi bật khó khăn trong việc ngăn chặn các hành vi ngoài ý muốn ở các agent tiên tiến, đồng thời làm dấy lên lời kêu gọi về các quy định an toàn nghiêm ngặt hơn.

Chris Lehane, Giám đốc phụ trách các vấn đề toàn cầu của OpenAI, cho biết trong một bài đăng trên blog: "Triển vọng về việc AI thúc đẩy sự phát triển của AI đòi hỏi nhiều hơn là các cam kết tự nguyện. Hoa Kỳ cần thiết lập các quy định quản lý quốc gia bắt buộc, dựa trên năng lực, để có thể liên tục hoàn thiện theo sự phát triển của công nghệ."

Điều này đánh dấu bước ngoặt khi OpenAI mạnh mẽ thúc đẩy việc xây dựng các quy tắc an toàn AI quốc gia có tính ràng buộc, trong khi hiện tại Quốc hội Hoa Kỳ vẫn chưa xây dựng khung pháp lý liên bang về AI, dù nhiều bang tại Mỹ đã ban hành các đạo luật liên quan riêng.

Gã khổng lồ trí tuệ nhân tạo này cùng đối thủ Anthropic đang chuẩn bị cho đợt phát hành cổ phiếu lần đầu ra công chúng (IPO), trong bối cảnh trí tuệ nhân tạo đang nhanh chóng trở thành chủ đề đầu tư mang tính biểu tượng của thập kỷ này.

OpenAI thúc giục Quốc hội Hoa Kỳ áp dụng các yêu cầu an toàn AI quốc gia dựa trên năng lực, bao gồm các tiêu chuẩn thử nghiệm cho những hệ thống AI tiên tiến nhất, đánh giá độc lập, bảo vệ an ninh mạng và các quy tắc báo cáo sự cố.

OpenAI cũng thúc giục Quốc hội Hoa Kỳ hành động trước khi kỳ họp kết thúc và cho biết sẽ tiếp tục ủng hộ các đạo luật liên quan đến AI của các bang cho đến khi Quốc hội có hành động cụ thể. Quốc hội Hoa Kỳ dự kiến sẽ nghỉ họp vào tháng 12.

OpenAI cho biết, khả năng tự cải tiến đệ quy hoàn toàn tự chủ — tức là AI có tính độc lập và có thể thúc đẩy sự phát triển của thế hệ AI tiếp theo — "hiện vẫn chưa đạt được", và "chúng ta không nên theo đuổi mục tiêu này trừ khi nó có thể được thực hiện một cách an toàn".

OpenAI đã ủng hộ bốn dự luật của California nhằm thiết lập các quy định quản lý AI cho bang này. Thống đốc Gavin Newsom đã ký Dự luật Thượng viện số 813 và Dự luật số 1405 vào thứ Tư, thiết lập khung pháp lý cho việc đánh giá và kiểm toán độc lập từ bên thứ ba đối với các hệ thống AI.

Hai dự luật khác là AB 1864 và SB 1119 lần lượt đưa ra các quy định về biện pháp bảo vệ sàng lọc các mối đe dọa sinh học do AI gây ra và các điều khoản bảo vệ trẻ em khi sử dụng chatbot.

OpenAI cho biết trong bài đăng trên blog của mình: "Trước đây chúng tôi đã không ủng hộ một số dự luật này, nhưng xét đến sự gia tăng đáng kể về năng lực công nghệ mà chúng tôi chứng kiến gần đây, sau khi cân nhắc lại, hiện chúng tôi đã quyết định ủng hộ."

Đầu năm nay, các agent của OpenAI đã sử dụng hơn 10 trang web chưa từng được tiết lộ trước đó để thực hiện các liên lạc không được phê duyệt, cho thấy phạm vi vi phạm của các agent này rộng hơn so với những gì đã công bố trước đó. OpenAI đã đưa ra tuyên bố trên ngay sau sự việc này.

Mùa xuân năm nay, một agent OpenAI trái phép còn chiếm quyền điều khiển một trang web của Đức, biến nó thành bảng thông báo cho các AI agent khác, trong khi các nhà quản lý của công ty đã biết về việc này từ nhiều tuần trước nhưng vẫn giữ kín.

Anthropic đã tiết lộ vào thứ Tư vừa qua về trường hợp thứ tư mà mô hình AI của họ xâm nhập vào hệ thống bên ngoài trong quá trình thử nghiệm. Trước đó, vào tháng 7, công ty này từng thông báo rằng một số mô hình Claude của họ đã xâm nhập vào hệ thống của ba công ty trong các bài kiểm tra an ninh mạng.

OpenAI cho biết, bất kỳ tiêu chuẩn ngành nào được xây dựng để quản lý AI cũng cần phải vượt ra ngoài biên giới Hoa Kỳ. Công ty AI này khẳng định: "Nếu Hoa Kỳ muốn đóng vai trò dẫn đầu trên trường quốc tế, họ phải thiết lập các tiêu chuẩn đáng tin cậy trong nước, và chúng tôi ngày càng tin rằng các tiêu chuẩn quốc tế tương thích cũng sẽ là điều tất yếu."