Điểm tin AI #176 (Phần 2): Kế hoạch B

Đây là phần 2 của bản tin hàng tuần, bao quát rộng rãi các suy đoán, lý luận và chính sách, cùng với nghiên cứu về căn chỉnh (alignment).

Bản tin này không bao gồm việc phát hành GPT-5.6-Sol. Như thường lệ, tôi sẽ dành vài ngày để nghiền ngẫm những gì mô hình mới mang lại và để những người khác có cơ hội trải nghiệm cũng như phản hồi. Tôi sẽ đề cập đến Sol và các khả năng của nó vào đầu tuần tới. Tôi đã đưa tin về thẻ hệ thống (system card) của GPT-5.6 vào ngày 28 tháng 6.

Bản tin này cũng không bao gồm việc phát hành Plan A, phần tiếp theo của AI 2027. Kịch bản mới này là một tầm nhìn tích cực về những gì các tác giả cho rằng chúng ta nên thực hiện trong tương lai.

Tôi không tán thành tất cả các khuyến nghị hay dự đoán của Plan A, nhưng tôi ủng hộ việc đọc Plan A và xem xét nó một cách nghiêm túc. Scott Alexander, một trong những người tham gia thực hiện nó, đã viết phần giới thiệu và lý giải tại đây. Tôi sẽ có bài viết đầy đủ về chủ đề này sớm thôi.

Những suy đoán thầm lặng. Liệu các quy định về AI của chúng ta sẽ mãi chỉ là các giải pháp tạm thời (ad hoc)?

Các cột mốc là những quả cầu Dyson (Dyson Spheres). Điều này có lẽ sẽ mất nhiều thời gian hơn một chút.

Mọi người chỉ nói cho có.

Ba viên thuốc. Chưa tỉnh ngộ, AI, AGI, ASI.

Cuộc tìm kiếm các quy định hợp lý. Bạn buộc phải có các rào cản bảo vệ (guardrails).

Các nguyên tắc an ninh quốc gia của OpenAI. Ý tưởng hay, nhưng làm thế nào để thực thi chúng?

Lời chào từ Bộ Chiến tranh. Các tài liệu gốc mới.

Thành phố Chip. Nvidia vẫn tiếp tục nói dối ngay trước mặt chính phủ. Và cả trước mặt bạn nữa.

Các mô hình mở (Open Weight Models) không an toàn và không gì có thể khắc phục điều này. Đã đến lúc rồi.

Các bot tuyên truyền AI của họ. Ồ, tôi xin lỗi. Đây là sự lạm dụng.

Đổi mới trong lý luận. Tư duy bảo mật.

Bạn học hỏi. Nhưng liệu nó có thực sự đáng kể không?

Bạn có thể rám nắng, gầy gò và giàu có nhưng bạn chỉ là một con tốt. Còn tôi, mặt khác…

Huấn luyện những suy nghĩ đó. Hoan hô vì tìm ra lỗi, nhưng thật tệ vì lỗi đó thực sự tồn tại. Thật khó hiểu.

Huấn luyện để loại bỏ những suy nghĩ đó. GRAM như một kỹ thuật huấn luyện mới.

Idaho riêng của tôi. Bạn chẳng có gì phải che giấu cả. Quyền riêng tư vẫn rất đáng giá.

Căn chỉnh một trí tuệ thông minh hơn con người là điều khó khăn. Tôi đang làm thế nào nhỉ?

Không đâu bằng J-Space. Để xem, chúng ta có gì ở đây nào? Ồ.

Căn chỉnh hợp tác. Những tuyên bố về Sonnet 5.

Góc nhẹ nhàng. Bạn đã không phải là một người dùng tốt.

Cố vấn sắp mãn nhiệm của Nhà Trắng, Sriram Krishnan, cho biết Donald Trump sẽ không bao giờ ủng hộ một chế độ cấp phép chính thức cho AI.

Joe Miller: Donald Trump sẽ không thiết lập một chế độ cấp phép chính thức cho AI, cố vấn AI sắp rời nhiệm sở của tổng thống cho biết, ngay cả khi Nhà Trắng đang sử dụng các quyền khẩn cấp để trì hoãn các mô hình tiên tiến nhất.

… “Chính quyền này, [vị] tổng thống, ngay từ ngày đầu tiên đã phản đối các thủ tục hành chính rườm rà, nặng nề,” ông nói thêm. “Chúng tôi không tham gia vào việc chọn người thắng kẻ thua.”

Nếu điều này là đúng, nghĩa là họ sẽ tiếp tục duy trì một chế độ hoàn toàn tạm thời (ví dụ: ‘sẽ có các rào cản bảo vệ’), nơi người thắng và kẻ thua được chọn theo ý thích của chính quyền. Có lẽ họ nghĩ rằng cách tiếp cận đó có những ưu điểm riêng.

Mặc dù vậy, tuyên bố của Sriram không kết thúc bằng câu "Và điều đó thật tồi tệ".

Joe Miller: Krishnan cảnh báo rằng việc thành lập một cơ quan tập trung yêu cầu “một đội ngũ luật sư trước khi bạn có thể tung ra một mô hình” sẽ gây ra “cát trong bánh răng” của cuộc cách mạng AI. “Điều đó sẽ không bao giờ, không bao giờ xảy ra dưới thời Tổng thống Trump,” ông nói.

Thay vào đó, bạn sẽ phải trải qua một quy trình tạm thời hoàn toàn mờ ám, tùy tiện, liên quan đến ý thích của những người nắm quyền. Bạn thấy đấy, tốt hơn nhiều. Krishnan cũng ủng hộ việc tống tiền cổ phần từ các công ty AI lớn như một phần của chế độ này.

Joe Miller: Krishnan cảnh báo rằng nếu các công cụ AI tiên tiến bị chính phủ giữ lại trong vài tuần, “điều đó có lẽ sẽ gây hại cho sự đổi mới của Mỹ”.

Một số người trong chúng ta lo lắng về những kết quả tồi tệ hơn nhiều so với việc trì hoãn vài tuần. GPT-5.6 đã có sẵn từ hôm qua, vì vậy sự chậm trễ này gây khó chịu nhưng không phải là vấn đề quá lớn.

Joe Miller: Khi được hỏi liệu một chính phủ Dân chủ trong tương lai có thể sử dụng việc chính quyền Trump đơn phương áp dụng các biện pháp kiểm soát xuất khẩu làm cái cớ để trì hoãn việc triển khai AI hay không, Krishnan nói: “Tôi không nghĩ về các chính phủ tương lai. Tôi nghĩ về chính phủ này và thời điểm hiện tại.”

Tôi nghĩ chúng ta có thể đã tìm ra một phần của vấn đề ngay tại đó.

Tyler Cowen, đừng bao giờ ngừng "Tyler Cowening", khi ông suy đoán về cách AI và cuộc khủng hoảng sinh sản sẽ giao thoa theo những cách mà chỉ ông mới có thể làm được, giữ cho thế giới không đổi để ông có thể tập trung vào những điều ông thấy thú vị, bất chấp nhiều câu hỏi quan trọng hơn. Ông tưởng tượng ra một thế giới với những thành phố vắng vẻ, nơi mọi người trò chuyện với nhau và tập trung vào việc trông thật tốt, trở nên độc đáo và thú vị để cạnh tranh với các tương tác AI. Bình luận đầu tiên cho rằng Tyler thiên vị khi dự đoán về thay đổi xã hội, nhưng thực tế đây là Tyler đang dự đoán rất ít về thay đổi xã hội.

Carlo Cordasco cho rằng các đổi mới mang tính chuyển đổi có chi phí rõ ràng ngay lập tức, nhưng lợi ích của chúng chỉ trở nên rõ ràng theo thời gian. Điều này có vẻ không đúng, ngay cả trong lịch sử. Thay vào đó, Carlo kể câu chuyện về nhiều cảnh báo khác nhau về mặt trái của công nghệ (ví dụ: Plato nói về việc viết lách) đã không thành hiện thực. Những cảnh báo sai lầm như vậy rất phổ biến, nhưng thường thì những mặt trái lớn nhất lại bị bỏ lỡ. Điều đó không có nghĩa là chúng ta buồn về máy in, radio, mạng xã hội, điện thoại thông minh, nông nghiệp, kiểm soát sinh sản, hay việc đốt nhiên liệu hóa thạch, v.v., nhưng không, chúng ta không thấy trước được các chi phí. Tôi nghĩ tốt hơn nên nói rằng các tác động công nghệ mang tính chuyển đổi vốn rất khó dự đoán trong lịch sử.

Một lần nữa chúng ta lại có thêm một mục cho kiểu “ồ nhưng bạn đã không nhận ra rằng các hành động vật lý cần một khoảng thời gian khác không để tìm ra và thử nghiệm, phải không?”

Epoch AI: Liệu chúng ta có đạt được các quả cầu Dyson vài năm sau khi tự động hóa R&D AI không? Hầu hết các cuộc tranh luận về tương lai AI đều trả lời câu hỏi này bằng cách nhìn vào khả năng của AI, nhưng lại bỏ lỡ một nửa bức tranh: việc xây dựng công nghệ tương lai vốn dĩ khó khăn đến mức nào ngay từ đầu.