Sam Altman và cuộc tranh luận về việc 'hãm phanh' phát triển AI

CEO OpenAI, Sam Altman, gần đây cho biết đã đến lúc cần “điều tiết tốc độ phát triển AI” để xã hội có thể “thích nghi với một số cấp độ năng lực mới này.”

Trong tập mới nhất của podcast Equity trên TechCrunch, Kirsten Korosec, Sean O’Kane và tôi đã thảo luận về việc những bình luận của Altman có lẽ xuất phát từ một vụ hack gần đây, trong đó một tác nhân (agent) của OpenAI đã xâm nhập vào hệ thống của Hugging Face. Sean lưu ý rằng mặc dù một vụ hack do tác nhân AI thực hiện là điều mới mẻ, nhưng bản thân vụ hack đó “không phải là một thứ gì đó quá cao siêu.”

“Nó giống như vụ đột nhập Watergate của phe Nixon hơn là một chiến dịch mạng tinh vi thực sự, bởi vì nó không cần phải như vậy và cũng không được chỉ đạo để làm như vậy,” Sean nói. “Hy vọng rằng đây là dấu hiệu cho thấy các công ty này sẽ rút kinh nghiệm và cẩn trọng hơn với những vấn đề đó.”

Những bình luận của Altman cũng cho tôi cơ hội để suy ngẫm về tính hữu ích của toàn bộ cuộc tranh luận giữa phe tăng tốc (accelerationist) và phe giảm tốc (deceleration), bởi vì (vâng, tôi sắp trích dẫn chính mình) cách đặt vấn đề này “gợi ý rằng chỉ có một con đường duy nhất” và “tất cả những gì chúng ta có thể quyết định — trong chừng mực chúng ta có thể quyết định — chỉ là, chúng ta tăng tốc hay giảm tốc?”

Hãy tiếp tục đọc để xem trước cuộc trò chuyện của chúng tôi, đã được biên tập lại để đảm bảo độ dài và sự rõ ràng.

Sean O’Kane: Có lẽ cuối cùng chúng ta đã chạm đến một điểm bùng phát ở đây. Tôi nghĩ một động lực lớn cho việc này phải là điều chúng ta đã thảo luận vào tuần trước, khi một trong các mô hình của OpenAI đột nhập vào dữ liệu của Hugging Face và dường như cũng xâm nhập vào một vài thứ khác trên internet.

[Altman] không kêu gọi tạm dừng, giống như những gì chúng ta từng thấy một số người trong ngành công nghệ cố gắng thực hiện trước đây. Ông ấy rất cẩn trọng với lời nói của mình khi nói rằng: “Hãy điều tiết nó.” Và chúng ta sẽ xem điều này duy trì được bao lâu. Bất kỳ sự thận trọng nào mà các phòng thí nghiệm này đưa ra thường bị đảo ngược khi các động lực thúc đẩy họ tiếp tục tiến về phía trước với tốc độ tối đa. Vì vậy, tôi vẫn hoài nghi, không có gì ngạc nhiên cả.

Kirsten Korosec: Tôi phải nói thế này — [Altman] có thể đã cẩn trọng với lời nói của mình, nhưng OpenAI và Anthropic đã [ủng hộ] một bản kiến nghị phản ánh đúng những gì ông ấy đã nói.

Và tôi đồng ý với bạn, tôi nghĩ rằng phần lớn điều này thực sự được châm ngòi bởi vụ việc tại Hugging Face. Nó có lẽ đã khiến ông ấy hoảng sợ và chắc chắn là làm nhiều người trong ngành lo lắng. Điều khó khăn ở đây là: Làm thế nào để cân bằng hoặc làm thế nào để OpenAI cân bằng giữa việc tiếp tục tạo ra doanh thu, huy động vốn, hoặc thực hiện một đợt IPO thành công, với việc “điều tiết sự phát triển” như họ nói.

Tôi không biết liệu họ có thể làm được điều đó hay không. Tôi rất tò mò muốn xem liệu họ có xoay xở được cả hai hay không.

Anthony Ha: Một trong những điều tôi đang trăn trở cũng là câu hỏi: Liệu tăng tốc [so với] giảm tốc có phải là khung tư duy đúng đắn để suy nghĩ về vấn đề này không? Bởi vì nó gợi ý rằng chỉ có một con đường duy nhất và tất cả chúng ta đều bị mắc kẹt trên con đường đó. Tất cả những gì chúng ta có thể quyết định — trong chừng mực chúng ta có thể quyết định — chỉ là, chúng ta tăng tốc hay giảm tốc? Thay vì — một lần nữa, tôi sẽ làm quá lên với phép ẩn dụ này — chúng ta có nên xây dựng các rào chắn khác không? Chúng ta có nên chọn những con đường khác không?

Tôi chỉ là rất phản đối khung tư duy này. Thay vì nói: “Được rồi, nếu chúng ta không hài lòng với những gì các mô hình đang làm hiện tại, chúng ta có thể làm gì khác? Liệu giảm tốc, tạm dừng, hay dừng hẳn có phải là lựa chọn duy nhất không?” Và tôi không nghĩ là vậy.

Một điều tôi muốn nhấn mạnh lại, vì thật thú vị khi thấy mức độ báo động xung quanh vấn đề này — cảm giác như: “Điều gì sẽ xảy ra nếu chúng ta có những tác nhân và mô hình tự hành cứ chạy lung tung hack lẫn nhau, cố gắng ngăn chặn các vụ hack, mọi thứ đang vượt khỏi tầm kiểm soát của chúng ta,” dẫn đến tất cả những cuộc tranh luận rộng hơn về sự căn chỉnh (alignment) mà Rebecca Bellan đã có một bài viết rất hay.

Nhưng cần quay lại một trong những điểm mà chúng tôi cũng đã viết trên TechCrunch, rằng vụ hack cụ thể này — vâng, nó được gây ra bởi một mô hình của OpenAI, nhưng có vẻ như họ chỉ đơn giản là không bảo mật trang web thử nghiệm đúng cách. Về lý thuyết, mô hình này lẽ ra không được phép truy cập trực tuyến. Tất nhiên, nếu bạn có một AI mạnh mẽ bị lệch hướng (misaligned), rủi ro từ lỗi con người đó sẽ tăng lên đáng kể. Nhưng nó bắt nguồn từ thực tế là họ đã không bảo mật mọi thứ như lẽ ra phải làm.

Sean: Tôi nghĩ điều đó đúng. Tôi nghĩ quan điểm của bạn rất xác đáng theo nghĩa là chúng ta không nên chỉ nghĩ về điều này theo một cách tuyến tính và liệu mọi thứ đang tăng tốc hay giảm tốc. Có rất nhiều điều có thể và nên được nói về việc các công ty này đang hành xử có trách nhiệm đến mức nào. Lorenzo, một đồng nghiệp của chúng tôi, cũng đã viết một bài rất hay phân tích về việc các nhà nghiên cứu bảo mật nghiêm túc, những người chú ý đến vấn đề này, đánh giá vụ hack thực sự nghiêm trọng đến mức nào. Có vẻ như ở cả hai phía của vụ hack này, đã có những bước lẽ ra nên được thực hiện để ngăn chặn nó.

Và một trong những điều tôi thấy thú vị nhất trong câu chuyện đó là một số nhà nghiên cứu đã chỉ ra rằng những gì mô hình này làm không phải là một thứ gì đó mới mẻ hay cao siêu. Cách nó suy nghĩ về việc cố gắng đột nhập vào Hugging Face thực sự rất giống con người — không phải là nhân hóa nó, nhưng cách nó suy nghĩ về việc đột nhập, và nó cũng rất ồn ào, lộn xộn và không thực sự cố gắng che giấu dấu vết của mình. Nó giống như vụ đột nhập Watergate của phe Nixon hơn là một chiến dịch mạng tinh vi thực sự, bởi vì nó không cần phải như vậy và cũng không được chỉ đạo để làm như vậy.

Điều đó lẽ ra đã có thể dễ dàng ngăn chặn hơn. Và hy vọng rằng đây là dấu hiệu cho thấy các công ty này sẽ rút kinh nghiệm và cẩn trọng hơn với những vấn đề đó.

Tôi sẽ nói thêm một điều nữa về [cuộc tranh luận] tăng tốc so với giảm tốc. Tôi không biết đây có phải là động lực hay không, nhưng bạn đã đề cập đến IPO, Kirsten. Tôi nghĩ Altman rất khôn ngoan khi có thể tận dụng lợi thế mà họ đang có hiện nay, đó là [OpenAI] sẽ không lên sàn vào tháng tới, hay hai tháng tới. Ông ấy thậm chí còn đưa ra ý tưởng sẽ lên sàn vào năm 2027 và họ chỉ nộp hồ sơ bảo mật để sẵn sàng khi họ muốn.

Vì vậy, nếu bạn tin vào tất cả những điều đó, ông ấy có khả năng nói những điều này theo cách mà Anthropic không thể, bởi vì Anthropic đã làm việc với rất nhiều ngân hàng và đang hướng tới một đợt IPO trong tương lai gần, do đó bị hạn chế hơn về những gì có thể nói, cách nói và cách thị trường sẽ phản ứng với điều đó.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.