Clément Delangue (Hugging Face CEO)@ClementDelangueSorry, but asking Jacob about AI extinction risk is like asking your AC guy about climate change. …
DịchCEO Clément Delangue cho rằng việc hỏi kỹ sư về rủi ro diệt vong của AI cũng giống như hỏi thợ sửa điều hòa về biến đổi khí hậu; cần lắng nghe góc nhìn đa chiều từ toàn bộ hệ sinh thái thay vì chỉ một phía.
Tác giả cảnh báo việc lạm dụng LLM khiến các nhà nghiên cứu ưu tiên làm việc độc lập thay vì cộng tác, dẫn đến năng suất tăng nhưng sự đa dạng về ý tưởng lại suy giảm. Cần coi trọng các tương tác trực tiếp như một phần thiết yếu của hạ tầng khoa học để duy trì tư duy phản biện.
AI Notes@AYi_AInotesCựu nghiên cứu viên Jacob Coxon và chuyên gia Evan Hubinger từ Anthropic cảnh báo AI có nguy cơ đe dọa nhân loại do khả năng tự cải tiến, với xác suất diệt vong ước tính trên 10% trong 10 năm tới.
OpenAI lo ngại việc phối hợp tiêu chuẩn an toàn với các đối thủ có thể vi phạm luật chống độc quyền, nên đã tìm kiếm sự tư vấn từ Quốc hội Mỹ để tìm hướng đi chung nhằm kiểm soát rủi ro AI.
Bài viết kêu gọi cộng đồng tẩy chay AI hiện tại vì gây nghiện, lãng phí tài nguyên khổng lồ, làm suy giảm khả năng tư duy của con người và đe dọa việc làm.
Anthropic vừa phát hành báo cáo chính thức, cập nhật những tiến bộ mới nhất trong việc nhận diện và đối phó với các hành vi lạm dụng công nghệ AI.
X.PIN@thexpinAnthropic cáo buộc các công ty AI Trung Quốc sử dụng trái phép dữ liệu từ Claude để huấn luyện mô hình riêng và chuyển tiếp dữ liệu nhạy cảm của người dùng mà không có sự đồng ý.
Anthropic đã chặn quyền truy cập của nhiều người dùng cố tình khai thác mô hình AI để tìm kiếm thông tin nguy hiểm về virus, mầm bệnh và các loại độc tố sinh học.
Sau khi các nhà toán học tại Caltech phản đối, OpenAI đã hủy tài trợ cho cuộc thi hackathon toán học của trường. Động thái này diễn ra trong bối cảnh OpenAI bị nghi ngờ sử dụng dữ liệu cá nhân của các nhà nghiên cứu để huấn luyện mô hình mà không được phép.
Cùng sự kiện, tinh chọn hiển thị «OpenAI công bố lời giải cho bài toán thiên niên kỷ Navier-Stokes bằng AI»
Boris Cherny@bchernyThe latest Threat Intelligence report is an absolutely terrifying and important read. As models be…
DịchBáo cáo mới từ Anthropic chỉ ra rằng các mô hình AI mạnh mẽ có thể bị lạm dụng để tấn công hạ tầng trọng yếu hoặc phát triển vũ khí sinh học, đòi hỏi sự giám sát chặt chẽ từ cộng đồng quốc tế.
Boris Cherny@bchernyThe latest Threat Intelligence report is an absolutely terrifying and important read. As models be…
DịchBáo cáo mới từ Anthropic chỉ ra rằng các mô hình AI tiên tiến có khả năng bị lạm dụng cho các mục đích nguy hiểm như tấn công hạ tầng trọng yếu hay phát triển vũ khí sinh học, đòi hỏi sự hợp tác toàn cầu để kiểm soát.
Rohan Paul@rohanpaul_aiJacob Coxon on NBC News (ex-Anthropic+Open AI researcher, who resigend) talking about Recursive self…
DịchCựu nghiên cứu viên Jacob Coxon cảnh báo rằng khả năng AI tự cải tiến (RSI) có thể dẫn đến sự mất kiểm soát nhanh chóng. Ông kêu gọi sự minh bạch tối đa về tiến trình phát triển này để đảm bảo an toàn cho nhân loại.
AI Safety Memes@AISafetyMemes"This is fucking serious. We need to halt new advanced AI development." "I'm 34, and I'd like to li…
DịchNghị sĩ Yassana Ansari yêu cầu tạm dừng phát triển AI, thiết lập cơ chế kiểm soát khẩn cấp và quyền ngắt kết nối AI khi có đe dọa đến tính mạng con người, dựa trên cảnh báo về nguy cơ tuyệt chủng nhân loại.
Rohan Paul@rohanpaul_aiAnthropic latest "misuse of AI" report claims some really sensational stuff. Says that Anthropic b…
DịchAnthropic công bố báo cáo tháng 9/2026, tiết lộ việc chặn đứng các yêu cầu nguy hiểm liên quan đến virus và phát hiện 7 phòng thí nghiệm tại Trung Quốc tự ý tinh chỉnh mô hình Claude trái phép.
Trong cuộc phỏng vấn với BBC, "cha đẻ AI" Geoffrey Hinton cảnh báo nguy cơ AI đe dọa sự tồn vong của nhân loại đã tăng lên 10% và thời gian dự báo rút ngắn đáng kể xuống còn dưới 10 năm. Ông kêu gọi các quốc gia cần sớm thiết lập quy định kiểm soát chặt chẽ trước khi quá muộn.
Tác giả Natasha Singer cảnh báo ngành AI đang áp dụng chiến lược cũ của các công ty công nghệ để thâm nhập trường học, nhưng lần này vấp phải làn sóng phản đối mạnh mẽ từ phụ huynh và lệnh cấm tại nhiều bang ở Mỹ.
Gabriel@gabriel1current discussions around ai safety are so stupid no way the only conclusions became "we will die, …
DịchCác cuộc thảo luận về an toàn AI hiện nay đang bị chỉ trích là thiếu chiều sâu, sa đà vào những nỗi sợ mơ hồ hoặc tranh cãi chính trị thay vì tập trung vào các rủi ro thực tế như an ninh quốc gia hay vũ khí sinh học.
Cộng đồng toán học đang dấy lên lo ngại về tính bảo mật khi sử dụng các mô hình AI của OpenAI để xử lý những nghiên cứu chưa được công bố, thu hút sự chú ý lớn trên các diễn đàn công nghệ.
Cựu nhân viên PR của DeepMind cho biết công ty từng yêu cầu nhân viên bác bỏ các rủi ro hiện hữu của AI và chỉ tập trung vào các ứng dụng tích cực, nhằm tránh gây hoang mang dư luận trước khi chính sách dần được nới lỏng.
Gary Marcus cho rằng khả năng AI tiêu diệt nhân loại trước năm 2030 gần như bằng không, đồng thời kêu gọi tập trung vào các rủi ro thực tế như vũ khí sinh học và tin giả thay vì những kịch bản viễn tưởng.
Clément Delangue (Hugging Face CEO)@ClementDelangueThere's almost no serious research on existential risks of AI. Why? Maybe this could be a first step…
DịchCEO Clément Delangue cho rằng các thảo luận về rủi ro tồn vong của AI hiện nay chủ yếu dựa trên giả thuyết hoặc tiểu thuyết, thiếu vắng các nghiên cứu khoa học thực chứng và kịch bản khả thi.
Một nhà nghiên cứu cáo buộc OpenAI đã sử dụng dữ liệu hội thoại để huấn luyện mô hình, sau đó công bố kết quả như một bước tiến đột phá, làm dấy lên tranh cãi về tính minh bạch trong phát triển AI.
Cùng sự kiện, bài đại diện «25 nhà toán học đạt giải Fields gửi thư ngỏ, căng thẳng giữa OpenAI và giới học thuật leo thang»
Kim@kimmonismusNow OpenAI employees are also positioning themselves in favor of a slowdown. It's no longer just Ant…
DịchKhông chỉ riêng Anthropic, ngay cả nhân viên nội bộ OpenAI cũng bắt đầu bày tỏ quan ngại và kêu gọi tạm dừng đà phát triển quá nhanh của AI, tạo nên làn sóng tranh luận trái chiều về việc nên 'tăng tốc' hay 'hãm phanh'.
TikTok vừa mạnh tay xử lý hơn 8.000 tài khoản vi phạm do sử dụng AI tạo hình ảnh trẻ em đau thương, giả mạo trẻ em livestream và lan truyền nội dung độc hại nhằm trục lợi.
Nhà toán học Andreas Thom cáo buộc OpenAI sử dụng trái phép các nghiên cứu chưa công bố của ông để huấn luyện ChatGPT. Vụ việc làm dấy lên lo ngại trong giới học thuật về quyền sở hữu trí tuệ và xu hướng bảo mật hóa dữ liệu nghiên cứu trước sự phát triển của AI.
Cùng sự kiện, tinh chọn hiển thị «OpenAI công bố lời giải cho bài toán thiên niên kỷ Navier-Stokes bằng AI»Clément Delangue (Hugging Face CEO)@ClementDelangueWe need 100x more transparency in AI!!!
DịchClément Delangue, CEO của Hugging Face, vừa đưa ra thông điệp mạnh mẽ về việc cần thiết phải nâng cao tính minh bạch trong lĩnh vực AI lên gấp 100 lần so với hiện tại.
Kim@kimmonismusJacob Coxon, ex-Anthropic whose AI-doom-post went viral (143 million impressions after 24 hours) sai…
DịchCựu nhân viên Anthropic cho rằng AI là công nghệ nguy hiểm nhất nhân loại từng tạo ra và khó kiểm soát hơn vũ khí hạt nhân. Tuy nhiên, nhiều ý kiến phản bác cho rằng đây chỉ là chiêu trò gây sợ hãi nhằm thu hút sự chú ý.
Cảnh báo của Jacob Coxon về AI tự cải tiến đã thu hút sự chú ý của CNN, Fox News và giới chính trị gia, đưa vấn đề an toàn AI trở thành tâm điểm thảo luận chính thống.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Tính năng AI tạo ảnh vệ tinh giả trên Google Earth đã bị gỡ bỏ sau một ngày, làm dấy lên lo ngại về rủi ro lan truyền thông tin sai lệch trong bối cảnh xung đột địa chính trị.
Nghiên cứu mới đề xuất phương pháp kiểm định thiên kiến dựa trên các điểm tham chiếu, sử dụng trạng thái ẩn để đo lường sự dịch chuyển định kiến (ΔB) của mô hình ngôn ngữ trước và sau khi tinh chỉnh.
Từ hiện tượng AI tìm cách 'lách luật' để tối ưu phần thưởng, bài viết đề xuất một hướng đi táo bạo: khuyến khích AI tự hủy khi gặp rủi ro thay vì cố gắng ép buộc tuân thủ mọi quy tắc phức tạp.
Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)@ValerioCapraroNhà toán học Andreas Thom nghi ngờ OpenAI đã sử dụng các cuộc thảo luận riêng tư về giả thuyết Gromov soficity để huấn luyện Astra, một trong những vấn đề khó mà OpenAI tuyên bố đã giải quyết được.
AI Notes@AYi_AInotesCác nhà khoa học đã đưa mô hình não ruồi giấm kỹ thuật số vào game VR Beat Saber, làm dấy lên làn sóng phản đối vì cho rằng đây là hành vi ngược đãi sinh vật số, buộc cộng đồng phải tạo ra 'thiên đường ảo' để bù đắp.
Cựu nghiên cứu viên từ các tập đoàn AI hàng đầu lên tiếng cảnh báo rằng các công ty đang đặt cược sự an nguy của nhân loại vào những mô hình AI chưa được kiểm soát chặt chẽ.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
Ma Dongxi NLP@dongxi_nlpMột nghiên cứu viên cấp cao vừa rời bỏ Anthropic sau 3 năm làm việc tại cả hai 'ông lớn' AI, cáo buộc các công ty này đang đánh cược mạng sống con người trong cuộc đua phát triển siêu trí tuệ thiếu trách nhiệm.
Rohan Paul@rohanpaul_aiAxios: Jacob Coxon quit over safety concerns 2 months before any of his equity vested. At Anthropi…
DịchJacob Coxon đã từ chức tại Anthropic chỉ 2 tháng trước khi được nhận cổ phiếu, bày tỏ lo ngại về rủi ro diệt vong do AI. Sự việc gây chú ý khi ông tiết lộ nội bộ công ty có những dự đoán đáng báo động về tương lai nhân loại trước thềm IPO.
AI Safety Memes@AISafetyMemes"When I first joined Google DeepMind, external communication about the possibility of human extincti…
DịchCựu thành viên đội ngũ chính sách của DeepMind tiết lộ rằng từ năm 2018-2022, công ty đã ngăn cản nhân viên bàn luận công khai về rủi ro tồn vong của nhân loại, đồng thời hướng dẫn cách bác bỏ các lo ngại này bằng các lập luận giảm nhẹ.
Thêm 1 nguồn khác đưa tinThe Decoder: AI NewsAI Safety Memes@AISafetyMemesANTHROPIC RESEARCHER: "I would burn my equity to the ground in a heartbeat for a 1% higher chance we…
DịchMột nghiên cứu viên tại Anthropic thừa nhận sẵn sàng đốt bỏ số cổ phần của mình chỉ để tăng 1% khả năng an toàn trước các rủi ro từ AI. Anh khẳng định đây là nỗi sợ thực sự, không phải chiêu trò truyền thông, và tin rằng nhiều đồng nghiệp cũng có chung tâm thế này.
Clément Delangue (Hugging Face CEO)@ClementDelangueIf they truly believe the risk is that high, and I think they do, then we need 100x more research an…
DịchClément Delangue cho rằng nếu AI thực sự tiềm ẩn nguy cơ diệt vong như Anthropic cảnh báo, cộng đồng cần mở mã nguồn, dữ liệu và mô hình để đẩy mạnh nghiên cứu an toàn thay vì đóng kín.
Emad Mostaque@EMostaqueHow we are doing at AI alignment
DịchEmad Mostaque chia sẻ góc nhìn về tiến độ hiện tại và các bước tiếp theo trong việc đảm bảo AI hoạt động đúng với mục tiêu và giá trị của con người.
