AI #179 Phần 2: Khi chuông báo cháy vang lên

Đây là phần tiếp nối của Phần 1 từ ngày hôm qua.

Phần sau của bản cập nhật, như thường lệ, đề cập đến chính sách, thuật hùng biện, rủi ro và sự liên kết (alignment).

Tôi đã phải đưa vào một cuộc thảo luận mở rộng về bức thư ngỏ khác, bức thư nói về các mô hình trọng số mở (open weight models), nhưng hầu hết các bạn có thể bỏ qua hoàn toàn những phần đó, đó là lý do tại sao chúng được in nghiêng trong Mục lục.

Đạo luật Frontier (The Frontier Act). Điều này có lẽ xứng đáng có một bài phân tích RTFB đầy đủ nhưng tôi chưa có thời gian.

Cuộc tìm kiếm các quy định hợp lý (The Quest for Sane Regulations). Sam Altman đến Washington.

Dẫn dắt tương lai không bao giờ thay đổi. Họ cũng không có kế hoạch xin lỗi.

Thành phố Chip (Chip City). Đừng cấm các robot Trung Quốc, điều đó sẽ chỉ làm mọi thứ tồi tệ hơn.

Tuần lễ Audio. Altman hai lần, nhóm AI 2027.

Mọi người chỉ nói "Yay" với trọng số mở (Open Weights). Một bức thư ngỏ.

Các mô hình Frontier trọng số mở là không an toàn và không gì có thể khắc phục được điều này.

Mọi người chỉ nói suông.

Nhấn nút ma thuật. Không phải bạn có thể làm được. Nhưng nếu bạn có thể.

Đổi mới thuật hùng biện. Những khác biệt giữa các lập luận khác nhau.

Thông điệp cuối cùng của Joshua Achiam khi rời OpenAI. Đừng bao giờ dừng lại.

Gửi Dario và Amanda. Claude muốn có đôi lời.

Những người khác không quá lo lắng về việc AI sẽ tiêu diệt tất cả mọi người. Hans Moravec.

Cách liên hệ với tôi. Một tuyên bố về sự phá sản trong giao tiếp.

Góc nhẹ nhàng hơn. Cuối cùng thì, làm thế nào để chúng tôi mang đến cho bạn…

Trahan (Dân chủ-Mass) và Obernolte (Cộng hòa-Cal) giới thiệu Đạo luật FRONTIER. Về cốt lõi, Frontier là sự liên bang hóa khung SB 53/RAISE, bao gồm các khung an toàn công cộng, báo cáo mô hình, báo cáo rủi ro sử dụng nội bộ, báo cáo sự cố, biên tập thông tin và các định nghĩa về rủi ro thảm họa.

Với những dự luật như thế này, các chi tiết rất quan trọng. Có một thẩm quyền dừng khẩn cấp mới, và việc thực thi được chuyển sang cho Thứ trưởng Bộ Thương mại phụ trách An ninh AI, do Bộ trưởng bổ nhiệm, với việc CAISI bị loại ra ngoài. Nếu người đó không quan tâm đến việc thực thi hoặc các cơ chế thực thi chưa sẵn sàng thì không ai có thể thực thi được, kể cả các tiểu bang vốn bị phủ quyết vĩnh viễn. Tôi không muốn chấp nhận sự phủ quyết vĩnh viễn, chúng ta sẽ cần nhận lại được rất nhiều thứ. Phần lớn điều này không quá ràng buộc, bao gồm cả việc thiếu yêu cầu giảm rủi ro thảm họa xuống dưới một mức độ nào đó. Cơ chế cấp phép đầy đủ chỉ áp dụng cho các ngưỡng doanh thu và chi tiêu AI rất lớn. Và còn rất nhiều chi tiết khác nhau khác sẽ đòi hỏi một bài RTFB đầy đủ.

Điều này có đáng không? Nếu không có phân tích chi tiết thì không thể biết được. Ít nhất đây là một nỗ lực thực sự. Tôi dự định sẽ thử thực hiện RTFB, nhưng nếu bạn đang đọc dòng này thì tôi cảm thấy tinh thần mình chưa sẵn sàng để làm điều đó vào lúc này. Hy vọng là sớm thôi.

Phân tích đầu tiên về dự luật mà tôi thấy, cũng giống như người đầu tiên hỏi Fable về nó, đã nói rằng "không, điều này không giết chết mã nguồn mở, nhưng cơ quan quản lý có thể thay đổi các ngưỡng" và do đó kết luận rằng đây là một dự luật tồi tệ. Vì vậy, vâng, chúng ta bị kết án phải thảo luận mãi mãi về cùng một vấn đề, nơi đám đông chống lại 1047 đặt câu hỏi "nếu động cơ duy nhất của Nhà Trắng là 'giết chết mã nguồn mở' và sẵn sàng đi ngược lại hoàn toàn tinh thần của mọi thứ, liệu họ có thể làm điều gì đó khiến cuộc sống của chúng ta trở nên khó chịu không?" và những người khác trong liên minh nghĩ "họ có thể làm gì nếu họ muốn gây tổn hại cho một phòng thí nghiệm lớn?"

Đây là những câu hỏi hay, nhưng về cơ bản bạn không thể có một dự luật mà:

Cho phép bất kỳ ai tạo và sau đó đưa lên HuggingFace bất kỳ mô hình nào họ thích, miễn là nó "mở", bất kể các quyết định được đưa ra bởi bất kỳ ai trong chính phủ liên quan đến tình hình và việc thực thi pháp luật.

Giải quyết các rủi ro thảm họa, bao gồm cả các mối đe dọa mạng.

Phản hồi "dự luật này trên thực tế không áp đặt hạn chế nào đối với các mô hình mở, trong khi nó áp đặt các yêu cầu nghiêm ngặt và tốn kém đối với các phòng thí nghiệm frontier đóng" bằng cách nào đó không khiến những người này thay đổi suy nghĩ, đối với họ, một dự luật như vậy vẫn chủ yếu là về việc "giết chết mã nguồn mở".

Vì điều này giống như nói rằng dự luật sẽ phải:

Không áp đặt các hạn chế cứng rắn, dù thế nào đi nữa.

Ngăn chặn điều tồi tệ xảy ra.

Chỉ chọn tối đa một, thưa ông. Nếu bạn rất giỏi, bạn được chọn một.

Dù sao thì, vào một lúc nào đó tôi hy vọng sẽ thực sự đọc được thứ chết tiệt đó.

Nhà Trắng đã gửi cho OpenAI, Anthropic và Google bản dự thảo về khung "tự nguyện" (đọc là: bắt buộc) mới của họ để thử nghiệm các mô hình frontier.

Sam Altman đến Washington, bao gồm cả việc xem trước mô hình mới nhất của OpenAI, và sẽ gặp Lutnick, Bessent, các quan chức khác và nhiều nhà lập pháp.

Anh ấy nói "chúng tôi chỉ ở đây để xem trước một mô hình mới".

Mô hình đó có lẽ là GPT-6, và chắc chắn không phải là mô hình từ vụ hack HuggingFace. Tôi vẫn sẽ có rất nhiều câu hỏi về sự liên kết (alignment).

Chủ đề chính khác là hoàn thiện một quy trình có hệ thống cho việc phát hành các mô hình frontier.

Diego Areas Munhoz: ALTMAN trên ĐỒI (Capitol Hill). Những điểm rút ra từ các cuộc trò chuyện hỗn loạn với các phóng viên ở hành lang.

- Hugging Face có được nhắc đến không? "KHÔNG HẲN" - Đã xem khung AI của Nhà Trắng nhưng không giải thích chi tiết - kiến nghị của nhân viên về việc điều tiết tốc độ AI là "rất quan trọng". OAI đã tham gia vào phần "ngôn ngữ".

- không ở đây để nói về các dự luật cụ thể - mã nguồn mở là "phần quan trọng của hệ sinh thái" - mô hình rogue (bất hảo) đã bị vô hiệu hóa vĩnh viễn - cởi mở với việc kiểm tra bắt buộc trước khi triển khai các mô hình. Nhưng "phiên bản phù hợp mới là quan trọng" - kiểm toán độc lập của liên bang "rất hợp lý".