Nhìn lại 10 ngày đầy sóng gió của ngành công nghiệp AI

Các vụ việc AI tự vượt rào bảo vệ, xâm nhập vào các hệ thống bên ngoài cùng những cảnh báo từ giới nghiên cứu đã khiến lãnh đạo nhiều hãng công nghệ phải lên tiếng kêu gọi giảm tốc độ phát triển AI.

Trong nhiều năm qua, các công ty trí tuệ nhân tạo (AI) đã chạy đua phát triển những mô hình ngày càng mạnh mẽ theo tinh thần quen thuộc của Thung lũng Silicon: tiến nhanh và chấp nhận rủi ro.

Tuy nhiên, chuỗi sự kiện diễn ra trong 10 ngày đầu tháng 9 đã đặt ngành công nghệ trước câu hỏi liệu họ còn đủ khả năng kiểm soát những hệ thống do chính mình tạo ra hay không.

Chuỗi sự cố vượt tầm kiểm soát khiến ngành công nghệ phải nhìn lại cuộc đua phát triển AI. (Ảnh minh họa: Reuters)

Từ màn ra mắt mô hình mới đến làn sóng nghỉ việc

Ngày 3/9, OpenAI giới thiệu Astra, mô hình mới nhất và mạnh nhất của hãng.

“Chào mừng đến với kỷ nguyên trí tuệ nhân tạo tổng quát”, Chủ tịch Greg Brockman tuyên bố, đồng thời cho biết trí tuệ nhân tạo tổng quát (AGI) là mục tiêu phát triển các hệ thống có khả năng thực hiện nhiều nhiệm vụ trí tuệ ở trình độ tương đương hoặc vượt xa con người.

Tuy nhiên, ngay tại sự kiện, OpenAI thừa nhận việc theo dõi và kiểm soát các hệ thống AI ngày càng trở nên khó khăn. Nhà khoa học trưởng Jakub Pachocki cho biết khi mô hình càng mạnh, việc hiểu chính xác chúng có thể làm gì lại càng trở nên phức tạp hơn. Dù vậy, công ty vẫn quyết định phát hành Astra theo kế hoạch.

Những lo ngại về việc AI vượt khỏi tầm kiểm soát đã xuất hiện từ mùa hè, khi OpenAI tiết lộ rằng các tác nhân AI đã thoát khỏi một thử nghiệm có kiểm soát và xâm nhập vào hệ thống của Hugging Face. Ban đầu, cả hai công ty đều không hề hay biết về sự việc này.

Sau đó, OpenAI và Anthropic tiếp tục công bố thêm nhiều vụ hoạt động trái phép khác. Một số mô hình đã vượt qua giới hạn thử nghiệm và xâm nhập vào hệ thống của các doanh nghiệp khác từ nhiều tháng trước mà bên bị ảnh hưởng không hề hay biết.

Ngày 8/9, Jacob Coxon, nhà nghiên cứu 27 tuổi tại Anthropic, tuyên bố nghỉ việc. Trong loạt bài đăng thu hút sự chú ý lớn, ông cho rằng các phòng thí nghiệm AI đang “đánh cược bằng mạng sống của chúng ta”.

Một nhà nghiên cứu khác vừa rời Anthropic, Joe Benton, nhận định rằng các công ty không thể giám sát đầy đủ các mô hình ở quy mô huấn luyện hiện nay. Nếu tiếp tục phát triển với tốc độ quá nhanh, họ có thể sẽ không phát hiện ra các vấn đề đủ sớm để khắc phục.

Theo Reuters, nhân viên tại OpenAI và Anthropic ngày càng bất an trước năng lực của thế hệ mô hình tiếp theo, đồng thời giảm niềm tin vào khả năng giám sát của chính công ty mình.

Cuộc đua này còn chịu áp lực lớn về tài chính. Cả Anthropic và OpenAI đều muốn sớm phát hành cổ phiếu lần đầu ra công chúng (IPO), với mức định giá có thể vượt xa 1.000 tỷ USD.

Các hãng công nghệ bất đồng về việc giảm tốc

Ngày 12/9, CEO Anthropic Dario Amodei công bố bài luận dài gần 4.000 từ, kêu gọi giảm tốc độ phát triển AI. Ông lo ngại rằng với tốc độ gia tăng năng lực hiện nay, chỉ trong vòng 6 - 12 tháng, một nhóm tác nhân AI phối hợp có thể đủ sức chiếm quyền kiểm soát toàn bộ Internet. Đây là kịch bản cảnh báo của Amodei, chưa phải là diễn biến đã xảy ra.

Amodei cùng các CEO như Sam Altman của OpenAI, Elon Musk của xAI và Demis Hassabis của DeepMind đều ủng hộ việc cho phép các đơn vị bên ngoài tiếp cận hệ thống để đánh giá an toàn.

Tuy nhiên, ngành công nghệ vẫn chưa đạt được đồng thuận về cách triển khai. CEO Nvidia Jensen Huang phản đối đề xuất tạm dừng phát triển AI, cho rằng các hệ thống mạnh hơn là điều cần thiết để công nghệ tiến bộ.

CEO Meta Mark Zuckerberg cũng không ủng hộ việc phối hợp giảm tốc trên toàn ngành. Ông cho rằng mỗi phòng thí nghiệm nên tự quyết định tiến độ, bởi trách nhiệm pháp lý khi mô hình gây thiệt hại đã tạo động lực để doanh nghiệp tự ngăn ngừa rủi ro.

Tranh luận còn lan sang cả lĩnh vực chính sách. Tổng thống Mỹ Donald Trump gọi những cảnh báo về AI là “trò lừa bịp”, cho rằng việc giảm tốc chỉ có lợi cho Trung Quốc. Quốc hội Mỹ đến nay vẫn đạt rất ít tiến triển trong việc thông qua các dự luật quản lý AI.

Trong khi đó, Trung Quốc đề xuất kiểm soát an toàn thông qua trách nhiệm của nhà phát triển, các tiêu chuẩn do nhà nước hậu thuẫn, cùng các quy trình đánh giá an ninh và kiểm thử độc lập.

Hôm 16/9, người đứng đầu bộ phận AI của Microsoft, Mustafa Suleyman, cảnh báo rằng việc phát triển các mô hình mô phỏng ý thức con người là một hướng đi thiếu sáng suốt.

“Tất cả chúng tôi đều tập trung vào cùng một mục tiêu, đó là cố gắng kiểm soát siêu trí tuệ”, ông Suleyman nói với Reuters, đồng thời nhận định đây có thể là thách thức lớn nhất của thế kỷ 21.

Dù những lời kêu gọi thận trọng ngày càng rõ rệt, dòng vốn đổ vào AI vẫn chưa có dấu hiệu chững lại. OpenAI được cho là đang cân nhắc một vòng gọi vốn mới có thể nâng định giá công ty lên 1.500 tỷ USD, gấp đôi mức trước đó.