Sam Altman: Không thể tránh khỏi sự cố AI, cần học hỏi ngành hàng không để thiết lập cơ chế báo cáo công khai

Theo tin từ IT ngày 16 tháng 9, Sam Altman cho biết một số sự cố AI là không thể tránh khỏi hoàn toàn, nhưng điều quan trọng nằm ở cách chúng ta rút ra bài học từ những sự cố đó.

Vào thứ Ba theo giờ địa phương, CEO của OpenAI đã có bài phát biểu tại hội nghị Dreamforce của Salesforce. Ông đề xuất rằng các công ty công nghệ nên xây dựng văn hóa doanh nghiệp về việc báo cáo sự cố công khai, có thể học hỏi từ cách làm của ngành hàng không.

"Tôi thực sự nghĩ rằng đối với một công nghệ mới nổi, một mức độ sự cố nhất định là khó tránh khỏi," Altman nói. "Điều tôi thực sự quan tâm là chúng ta có thể hình thành một cơ chế hoàn thiện về báo cáo sự cố và rút kinh nghiệm sau đó hay không."

Ông lấy Cục Hàng không Liên bang Mỹ (FAA) và Ủy ban An toàn Giao thông Quốc gia Mỹ (NTSB) làm ví dụ điển hình mà ngành AI nên noi theo. Hai cơ quan này rất coi trọng việc điều tra sự cố, và chính cơ chế này đã giúp việc di chuyển bằng đường hàng không trở nên an toàn hơn.

Khi nói về tư duy xử lý của FAA và NTSB, ông cho biết: "Sự cố rốt cuộc vẫn sẽ xảy ra. Chúng ta phải cố gắng hết sức để rút ra kinh nghiệm từ mỗi sự cố và đưa ra các biện pháp ứng phó dựa trên đó."

IT lưu ý rằng, phát biểu này của Altman được đưa ra trong bối cảnh dư luận một lần nữa đặt câu hỏi: liệu các phòng thí nghiệm AI hàng đầu có đang tiến quá nhanh trên con đường phát triển các hệ thống tự chủ có năng lực cao hay không.

Tuần trước, Jacob Coxon, một nhà nghiên cứu vừa rời khỏi Anthropic và từng làm việc tại OpenAI, đã gây ra một cuộc thảo luận khi cho rằng các tập đoàn lớn "đang lao đầu vào siêu trí tuệ có khả năng tự lặp lại, đặt cược vận mệnh của toàn nhân loại."

"Việc thế giới cảm thấy lo lắng là điều hợp lý"

Sau đó, nhiều nhà nghiên cứu an toàn AI khác cho biết, các hệ thống AI tiên tiến trong tương lai có khả năng thoát khỏi sự kiểm soát của con người; đồng thời hạ thấp ngưỡng thực hiện các cuộc tấn công mạng, thảm họa sinh học và các mối đe dọa thảm khốc khác, mặc dù các hệ thống này vẫn sẽ gặp nhiều rào cản nếu muốn can thiệp vào thế giới vật lý thực tế.

Altman thừa nhận rằng những lo ngại của mọi người về thuyết tận thế AI là có cơ sở. "Việc thế giới cảm thấy sợ hãi là điều đương nhiên," ông chỉ ra tại hội nghị Dreamforce. Một mặt, tồn tại khả năng xảy ra các sự cố AI mất kiểm soát; mặt khác, một số ít các tổ chức nghiên cứu AI cũng có khả năng tập trung quyền lực quá lớn trong tay.

Ông cho rằng giải pháp không phải là từ bỏ công nghệ này. Ngược lại, các công ty AI phải đảm bảo rằng "công tác căn chỉnh, an toàn và giám sát" phải vượt xa tốc độ nâng cao năng lực của chính các mô hình. Ông nói thêm, nếu không làm được điều này, các công ty nên chuẩn bị tinh thần để chủ động làm chậm hoặc thậm chí tạm dừng công việc nghiên cứu.

Và phát biểu này của ông có lẽ sẽ càng làm trầm trọng thêm những chỉ trích cốt lõi từ các nhà vận động an toàn AI: các phòng thí nghiệm tiên phong thừa nhận rủi ro là rất lớn bằng lời nói, nhưng vẫn tiếp tục phát triển các mô hình có năng lực mạnh mẽ hơn.

Altman cho rằng, một khi áp lực thương mại có khả năng cản trở các doanh nghiệp hoặc quốc gia đưa ra "lựa chọn đúng đắn", công chúng sẽ rơi vào trạng thái hoảng loạn sâu sắc.

Altman nhấn mạnh, điều này không có nghĩa là chấp nhận sự cố xảy ra; cốt lõi nằm ở việc công khai trung thực các sự kiện, nhanh chóng rút kinh nghiệm để ngăn chặn tình hình xấu đi thêm.

"Có lẽ chúng ta thậm chí có cơ hội tránh hoàn toàn những tình huống rủi ro cực đoan đó," ông nói.

Trong khi cuộc tranh luận trong ngành vẫn tiếp tục nóng lên, chính quyền Trump lại có thái độ lạnh nhạt với việc quản lý ngành AI, với trọng tâm chính sách là duy trì vị thế dẫn đầu về công nghệ của Mỹ so với Trung Quốc.

Cố vấn Khoa học và Công nghệ của Tổng thống Mỹ, cựu phụ trách các vấn đề AI tại Nhà Trắng, David Sacks, đã nhắc lại lập trường này vào Chủ nhật tuần trước theo giờ địa phương. Trước đó, CEO OpenAI Sam Altman và CEO Anthropic Dario Amodei đều đã kêu gọi kiểm soát tốc độ phát triển của AI tiên phong.

"Dario đã viết bài đề xuất rằng chúng ta cần 'kiểm soát nhịp độ phát triển tiên phong', và Sam cũng đồng tình với điều đó. Mọi người có lẽ sẽ ngạc nhiên trước câu trả lời của tôi: Cứ làm đi," Sacks viết trên nền tảng X. "Nhưng đừng giả vờ rằng các bạn vẫn cần sự cho phép của người khác nữa."