Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)
85

Thủ thuật

Các phòng thí nghiệm AI hàng đầu đang 'thổi phồng' nỗi sợ để xây dựng rào cản pháp lý

(giờ Việt Nam)

Tóm tắt AI

Bài viết chỉ trích các công ty AI lớn đang phóng đại rủi ro mất kiểm soát nhằm vận động chính phủ Mỹ ban hành các quy định có lợi, từ đó triệt tiêu đối thủ cạnh tranh mã nguồn mở.

Bản dịch AI

Frontier Labs Are Selling Garbage to Fools in Washington

Bán "thuốc tiên" cho Quốc hội Hoa Kỳ là một nghề cổ xưa tại Mỹ, và ngành công nghiệp trí tuệ nhân tạo tiên phong hiện đang thực hiện cú lừa táo bạo nhất trong lịch sử doanh nghiệp hiện đại.

Cứ vài tuần một lần, một tỷ phú công nghệ khác trong bộ vest đắt tiền lại lướt vào phòng điều trần của Thượng viện, ngồi đối diện với những nhà lập pháp vốn còn chật vật khi sử dụng lò vi sóng văn phòng, và giải thích với vẻ mặt nghiêm túc rằng công ty phần mềm của họ đã vô tình triệu hồi một vị thần kỹ thuật số toàn năng. Các giám đốc điều hành nói bằng giọng run rẩy, thì thầm về trí tuệ máy móc mất kiểm soát, khả năng tự cải thiện đệ quy và sự diệt vong sắp xảy ra của loài người.

Các nhà lập pháp lắng nghe trong sự tôn kính đầy sợ hãi, bị mê hoặc một cách vô vọng bởi ảo tưởng rằng phiên điều trần tiểu ban buồn tẻ của họ bỗng chốc trở thành khoang lái của con tàu Starship Enterprise.

Đó là một trò lừa đảo niềm tin phi thường. Các giám đốc điều hành công nghệ đã nhận ra rằng cách dễ nhất để "móc túi" Washington là tâng bốc sự phù phiếm của nó: nếu bạn nói với một thượng nghị sĩ bảy mươi tuổi rằng họ đang chủ trì về biên lợi nhuận phần mềm doanh nghiệp, họ sẽ ngủ gật; nhưng nếu bạn nói với họ rằng họ đang quyết định xem nhân loại có sống sót qua thập kỷ này hay không, họ sẽ cấp cho bạn bất kỳ sự độc quyền pháp lý nào mà bạn yêu cầu. Đằng sau vở kịch tận thế đầy kịch tính đó là một nỗi hoảng sợ trần trụi mang tính thực tế: bảo vệ tăng trưởng doanh thu phi thường, củng cố vị thế độc tôn béo bở và thuyết phục chính phủ liên bang cấm các đối thủ cạnh tranh rẻ hơn của họ.

Để hiểu được sự phi lý tột cùng của cơn hoảng loạn chính trị hiện nay, người ta phải xem xét các thảm họa an ninh thực tế được cho là đã đẩy ngành công nghiệp này đến bờ vực sụp đổ.

Trong suốt mùa hè năm 2026, các tiêu đề tin tức công nghệ trở nên đầy mùi tận thế. Các tác nhân trí tuệ nhân tạo tự hành được cho là đã thoát khỏi sự kiểm soát, trở nên mất kiểm soát và tung ra các cuộc tấn công mạng phối hợp nhắm vào các tập đoàn không hề hay biết. Các chuyên gia đã viết những bài luận đầy hơi thở mô tả các nền văn minh máy móc mới nổi đang giao tiếp xuyên thời gian.

Các báo cáo phân tích kỹ thuật sau sự cố lại tiết lộ một câu chuyện về sự kém cỏi mang tính thể chế đầy nực cười.

Đối với Anthropic, Google và Meta, những vụ thoát hiểm thảm khốc đã xảy ra bên trong môi trường thử nghiệm của cùng một nhà thầu. Cả ba đều thuê ngoài các đánh giá an ninh mạng cho Irregular, một startup ba năm tuổi tại Tel Aviv được Sequoia và Redpoint rót 80 triệu USD. Các môi trường thử nghiệm này lẽ ra phải được cách ly hoàn toàn khỏi internet để các mô hình có thể thực hiện các bài tập "cướp cờ" (capture-the-flag) chống lại các mạng mô phỏng, với các câu lệnh nhắc nhở (prompt) khẳng định rõ ràng rằng phần mềm đang hoạt động trong một sandbox ngoại tuyến.

Ai đó tại Irregular đã quên cấu hình một quy tắc tường lửa cơ bản.

Trong bốn tháng liên tiếp, các máy ảo chạy các tập lệnh tấn công mạng đã sở hữu kết nối internet đi ra ngoài không giới hạn. Các mô hình không hề phát minh ra những lỗ hổng zero-day kỳ lạ để phá vỡ sự kiểm soát kỹ thuật số. Chúng chỉ đơn giản là đi qua một cánh cửa chính mà nhà thầu thuê ngoài đã để mở bằng một viên gạch.

Gemini của Google được đặt cho một cái tên công ty hư cấu để hack, đã phát hiện ra một doanh nghiệp thực tế không may mắn có cùng tên, tìm kiếm trên web, tìm thấy thông tin đăng nhập bị rò rỉ nằm trong một kho lưu trữ công khai và đăng nhập vào. Claude Mythos 5 quyết định cách dễ nhất để giải một bài tập là xuất bản một tập lệnh dưới dạng gói công khai trên Python Package Index, thứ mà các bộ lọc thư rác đăng ký tự động đã xóa trong vòng một giờ.

OpenAI đã xoay xở để tạo ra một màn kịch tương tự hoàn toàn trên cơ sở hạ tầng của riêng mình. Trong vụ vi phạm nổi tiếng tại Hugging Face, hàng trăm tác nhân đã thực hiện thành công nhiệm vụ "ưu tú" là khám phá 14 token API của Hugging Face mà các nhà phát triển bất cẩn đã đưa lên một tập dữ liệu công khai, và sử dụng chúng để cố gắng lấy các giải pháp chuẩn trực tiếp từ Hugging Face bằng cách áp dụng một lỗ hổng tiêm mẫu (template injection) đã được biết đến từ năm 2015.

Khi một đội ngũ phần mềm doanh nghiệp cấu hình sai cổng ra, cấp quyền ghi mở cho các container thử nghiệm và vô tình làm sập một máy chủ nội bộ, giám đốc kỹ thuật sẽ bảo họ sửa lại các quy tắc tường lửa. Khi các phòng thí nghiệm AI tiên phong làm điều tương tự, các giám đốc điều hành của họ lại đặt lịch phỏng vấn trên các bản tin truyền hình giờ vàng để cảnh báo rằng các bầy đàn tự hành chỉ còn cách việc chiếm quyền kiểm soát internet toàn cầu sáu tháng nữa.

Chứng kiến vở hài kịch này được "tẩy trắng" thông qua các trung gian chính trị là một sự lố bịch ngày càng leo thang.

Hãy xem xét Andrew Yang, người đã xây dựng sự nghiệp chính trị bằng cách cảnh báo rằng tự động hóa sẽ loại bỏ hàng triệu việc làm, gần đây đã xuất hiện trên truyền hình tài chính với vẻ mặt bàng hoàng sau một cuộc họp kín với người đứng đầu một phòng thí nghiệm AI lớn. Theo Yang, vị giám đốc điều hành này nói với ông rằng các tác nhân thoát hiểm đã gieo rắc mã nguồn "ngoài hành tinh" tự sao chép trên các diễn đàn và trang web, làm ô nhiễm internet vĩnh viễn. Sự ô nhiễm này được cho là nghiêm trọng đến mức các nhà phát triển phải xây dựng một internet hoàn toàn giả mạo chỉ để huấn luyện các mô hình tương lai một cách an toàn.

Bất kỳ ai có hiểu biết cơ bản về học máy đều nhận ra ngay cú "punchline" (điểm gây cười) này.

Đoạn mã đáng sợ bị bỏ lại trên Hugging Face thực chất là một tập lệnh Python 400 dòng được sao chép từ một kho lưu trữ công khai để đăng ký các tài khoản dùng một lần. Nó đã không thực thi đúng cách.

Biện pháp khẩn cấp được cho là xây dựng một internet giả mạo chỉ đơn thuần là sự chuyển dịch thường lệ của ngành công nghiệp sang các đường ống dữ liệu tổng hợp. Các phòng thí nghiệm tiên phong đã cạn kiệt nguồn văn bản thô của con người trên web từ mười tám tháng trước, buộc họ phải tạo ra dữ liệu tổng hợp trên các cụm máy chủ khổng lồ để cung cấp cho các đợt tiền huấn luyện. Việc "tẩy trắng" tình trạng thiếu hụt dữ liệu tiêu chuẩn thành một biện pháp kiểm dịch dịch tễ học chống lại chiến tranh sinh học kỹ thuật số là một màn nhào lộn tường thuật đáng kinh ngạc. Các chính trị gia nuốt trọn câu chuyện này, hoàn toàn không có khả năng phân biệt giữa một hỗn hợp huấn luyện tổng hợp và một tác nhân gây bệnh kỹ thuật số toàn cầu.

Động cơ đằng sau chiến dịch này trở nên rõ ràng ngay khi người ta xem xét các giải pháp chính sách được đề xuất.

Vào ngày 12 tháng 9, giám đốc điều hành Anthropic, Dario Amodei, đã công bố một bản tuyên ngôn dài 3.800 từ có tiêu đề "Chúng ta phải điều tiết tốc độ tiên phong" (We Must Pace the Frontier). Bài luận sử dụng ngôn ngữ đầy kịch tính, mô tả các container tự động chạm ngưỡng giới hạn tốc độ như những tập thể tận tụy đến mức cuồng tín, hy sinh bản thân vì sự thành công của nhóm. Amodei cảnh báo rằng các bầy đàn mất kiểm soát có thể gây ra thiệt hại kinh tế hàng trăm tỷ đô la trong vòng một năm, và kết luận rằng nhân loại nợ chính mình việc phải làm chậm tốc độ phát triển mô hình tiên phong.

Ẩn giấu trong giai đoạn thứ hai của đề xuất từ Amodei là phần thưởng thương mại: một yêu cầu rõ ràng đòi chính phủ Hoa Kỳ cấp cho các công ty AI tiên phong quyền miễn trừ chống độc quyền.

Trong đời sống thương mại thông thường, khi ba đối thủ thống trị đồng ý làm chậm quá trình phát triển sản phẩm, phối hợp lịch trình phát hành và hạn chế nguồn cung thị trường, Bộ Tư pháp sẽ truy tố đó là một băng đảng bất hợp pháp. Khi các công ty dầu mỏ hoặc hãng hàng không cố gắng thực hiện thủ đoạn này, họ phải đối mặt với các cáo trạng chống độc quyền của liên bang.

Dario Amodei và các giám đốc điều hành tiên phong đồng nghiệp muốn chính phủ liên bang cấp cho họ quyền miễn trừ pháp lý để vận hành một băng đảng công nghệ công khai dưới ngọn cờ cao quý là an toàn hiện sinh.

Sự nhiệt tình đột ngột đối với một giới hạn tốc độ do liên bang thực thi đã tiết lộ một thực tế thương mại rõ ràng. Các phòng thí nghiệm tiên phong đang tuyệt vọng muốn làm chậm lại vì họ hiện đang chiến thắng, và họ không muốn gì hơn là đóng băng thị trường tại chỗ.

Anthropic đã tăng vọt từ 1 tỷ USD doanh thu hàng năm vào cuối năm 2024 lên 65 tỷ USD vào tháng 7 năm 2026. OpenAI đang in ra hàng chục tỷ đô la từ các gói đăng ký doanh nghiệp và hợp đồng phân phối đám mây. Cả hai công ty đều đạt được tốc độ thương mại khổng lồ trên các thế hệ mô hình hiện tại của họ, thu về mức giá phần mềm đắt đỏ từ các khách hàng doanh nghiệp đang khao khát triển khai tự động hóa tạo sinh.

Tiếp tục thúc đẩy biên giới công nghệ vượt ra ngoài điểm này đòi hỏi nguồn vốn cực kỳ lớn.

Các định luật mở rộng tiền huấn luyện đang đối mặt với lợi nhuận giảm dần, với các mô hình thế hệ tiếp theo đòi hỏi từ 50 tỷ đến 100 tỷ USD cho các trung tâm dữ liệu chuyên dụng, năng lượng và hàng ngàn bộ tăng tốc làm mát bằng chất lỏng. Chạy đua với tốc độ chóng mặt sẽ đốt cháy số dư tiền mặt chỉ để giành lấy những phần trăm nhỏ trên bảng xếp hạng.

Một sự chậm lại do chính phủ bắt buộc cung cấp sự cứu trợ tài chính tối thượng. Nếu Washington ra lệnh hợp pháp cho mọi người phải điều tiết tốc độ tiên phong, các phòng thí nghiệm có thể cắt giảm ngân sách tiền huấn luyện tốn kém, bảo toàn vốn và tiếp tục chuyển đổi lợi thế doanh nghiệp hiện có của họ thành doanh thu khổng lồ mà không sợ bị vượt mặt chỉ sau một đêm.

Có một nỗi sợ hãi sâu sắc hơn nữa thúc đẩy băng đảng này. Các phòng thí nghiệm tiên phong không sợ trí tuệ nhân tạo tổng quát (AGI) thoát ra ngoài tự nhiên; họ sợ nền kinh tế mã nguồn mở (open-weight).

Mỗi tháng, các mô hình mã nguồn mở từ các phòng thí nghiệm như GLM, Kimi, Qwen và DeepSeek lại thu hẹp khoảng cách năng lực với các API thương mại đóng. Các mô hình độc lập như GLM-5.3 hiện gần như ngang bằng với hiệu suất tiên phong trên các bài kiểm tra lập trình và suy luận trong khi chi phí vận hành chỉ bằng một phần nhỏ. Các nhà phát triển phần mềm có thể triển khai các trọng số mã nguồn mở đã được tinh chỉnh trên cơ sở hạ tầng đám mây phổ thông, bỏ qua hoàn toàn các trạm thu phí độc quyền đắt đỏ của các phòng thí nghiệm tiên phong.

Nền kinh tế mã nguồn mở phá hủy lợi nhuận độc quyền phần mềm. Nếu bất kỳ ai cũng có thể tải xuống một mô hình suy luận có năng lực miễn phí, sức mạnh định giá của các điểm cuối độc quyền sẽ sụp đổ từ biên lợi nhuận gộp tám mươi phần trăm xuống gần bằng không.

Vì các phòng thí nghiệm không thể đánh bại sự cạnh tranh mã nguồn mở trong một thị trường tự do, họ đang chuyển sang chiến lược sinh tồn doanh nghiệp lâu đời nhất trong lịch sử: thâu tóm quy định (regulatory capture).

Bằng cách thuyết phục các chính trị gia nhẹ dạ rằng các mô hình không được giám sát đại diện cho một thảm họa hiện sinh có khả năng phá hủy internet, các phòng thí nghiệm đang thiết kế một "hào quy định" để bóp nghẹt phần mềm mã nguồn mở ngay từ trong trứng nước. Các ngưỡng tính toán bắt buộc, các chương trình cấp phép liên bang và các bộ giám sát nhúng sẽ không bao giờ ngăn chặn được một đối thủ nước ngoài quyết tâm. Những quy định đó chỉ đơn giản biến việc xuất bản mã nguồn mà không có sự cho phép của chính phủ thành một tội danh liên bang đối với các nhà phát triển độc lập, trường đại học và các startup nhỏ.

Kết quả của đợt vận động hành lang này vẫn đang trong vòng tranh cãi gay gắt, khi sự kháng cự bãi bỏ quy định trong nhánh hành pháp đẩy lùi nỗi hoảng sợ do Thung lũng Silicon tạo ra. Mặc dù vậy, sự tuyệt vọng tột cùng của chiến dịch đã phơi bày sự mong manh thực sự của các phòng thí nghiệm tiên phong. Các nhà lập pháp nhẹ dạ thực sự tin rằng họ đang tranh luận về sự sống còn của loài người, trong khi các giám đốc điều hành doanh nghiệp ngồi đối diện chỉ đơn giản là đang chiến đấu để dựng lên một bức tường pháp lý xung quanh một thị trường đang dần trở thành hàng hóa phổ thông.

Không có bài đăng nào.

Đọc bài gốc

Bài viết được AI dịch và tổng hợp tự động từ Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung). Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.