Nhà nghiên cứu tại Anthropic từ chức vì lo ngại AI mất kiểm soát

Nhà nghiên cứu Anthropic từ chức vì lo ngại AI vượt tầm kiểm soát

Jacob Coxon, nhà nghiên cứu 27 tuổi tại Anthropic, vừa bất ngờ tuyên bố rời công ty, đồng thời đưa ra cảnh báo về những rủi ro liên quan đến AI.

"Hôm nay, tôi đã từ chức tại Anthropic. Trong ba năm qua, tôi đã nghiên cứu về quá trình huấn luyện trước (pre-training) AI tại cả Anthropic và OpenAI. Không công ty nào trong số đó hành động một cách có trách nhiệm. Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với cuộc sống của chúng ta", Coxon viết trên X vào ngày 9/9.

Theo WSJ, công việc của Coxon tại Anthropic là đào tạo các mô hình mới bằng cách cho chúng tiêu thụ lượng dữ liệu khổng lồ, hay còn gọi là huấn luyện trước các mô hình. Anh chia sẻ rằng mình không muốn tiếp tục tham gia vào cuộc đua giữa các công ty nhằm đạt đến trạng thái mà con người không còn khả năng kiểm soát AI.

"Tôi không nghĩ chúng ta đang đi đúng hướng để ngăn chặn một cuộc chạy đua toàn cầu. Điều này có thể đòi hỏi những hành động tốn kém như tạm thời cấm việc nâng cao năng lực của các mô hình", nhà nghiên cứu này cho hay.

Coxon kêu gọi không nên đánh giá thấp sức mạnh của trí tuệ nhân tạo vì chúng sẽ sớm trở nên siêu việt, có khả năng hack mọi thứ, cách mạng hóa mọi lĩnh vực chỉ sau một đêm, cũng như giành lấy quyền lực và tài nguyên thực sự. Anh cho biết tốc độ phát triển AI không hề chậm lại và nhiều nhà phát triển tin rằng công nghệ này "có thể giết chết tất cả chúng ta vào cuối thập kỷ này".

Evan Hubinger, Trưởng nhóm Khoa học Điều chỉnh (Alignment Science) tại Anthropic, đã phản hồi dưới bài đăng của đồng nghiệp cũ: "Jacob nói đúng. Chúng tôi thực sự tin rằng AI có thể tiêu diệt nhân loại. Cá nhân tôi nghĩ khả năng này đạt hơn 10% trong thập kỷ tới".

Tuy nhiên, Hubinger tin rằng Anthropic đang nỗ lực hết sức, dù chưa có kế hoạch rõ ràng nhằm giải quyết vấn đề với siêu trí tuệ. "Tôi nghĩ rủi ro từ những mô hình hiện tại là khá thấp. Điều tôi lo ngại là siêu trí tuệ ra đời từ quá trình tự cải tiến đang đến nhanh hơn chúng ta tưởng", Hubinger nói thêm.

Logo Anthropic hiển thị trên màn hình smartphone. Ảnh: Bảo Lâm

Đầu tuần này, theo Bloomberg, nhà khoa học trưởng Jakub Pachocki tại OpenAI, đối thủ lớn của Anthropic, cũng bày tỏ nỗi lo tương tự. "Đây là giai đoạn đòi hỏi sự thận trọng cực độ. Tôi lo ngại rằng chưa ai sẵn sàng cho hệ quả của việc trí tuệ máy móc liên tục phát triển nhanh", Pachocki cho hay, đồng thời nhấn mạnh các nhà phát triển nên điều chỉnh AI sao cho phù hợp hơn với lợi ích của con người hoặc "làm chậm quá trình phát triển trong tương lai nếu cần".

"Tôi trông đợi và hy vọng việc tự nguyện giảm tốc sẽ trở nên phổ biến cho đến khi các tiêu chuẩn an toàn chung được thiết lập", Pachocki nhấn mạnh.

Hồi tháng 6, Anthropic đã kêu gọi các nhà phát triển AI hàng đầu cân nhắc thiết lập một cơ chế phối hợp để làm chậm hoặc tạm dừng quá trình phát triển nếu AI bắt đầu tự cải tiến với tốc độ vượt quá khả năng quản lý rủi ro của xã hội.

Thu Thảo tổng hợp