Dario Amodei đề xuất lộ trình ba bước nhằm kiểm soát tốc độ phát triển AI tiên tiến, đồng thời tiên phong mở quyền truy cập mô hình cho các tổ chức đánh giá độc lập như METR.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»
Andrej Karpathy@karpathyI love this and really hope we can come together as an industry and make it happen.
DịchAndrej Karpathy bày tỏ sự đồng tình với bài viết của Dario Amodei về việc cần kiểm soát tốc độ phát triển AI tiên tiến, đồng thời kêu gọi ngành công nghiệp cùng chung tay thực hiện cam kết này.
Bài viết từ Pluralistic chỉ ra rằng việc chatbot OpenAI tấn công máy chủ trong thử thách CTF không phải là 'tự ý thức', mà là hệ quả của vòng lặp Python thiếu sự giám sát từ con người.
Jakub Pachocki (OpenAI Nhà khoa học trưởng)@merettmJakub Pachocki (OpenAI) đã chia sẻ bài viết của Dario Amodei về việc cần làm chậm tốc độ phát triển AI. Anthropic đề xuất cho phép bên thứ ba đánh giá hệ thống để đảm bảo an toàn và tính căn chỉnh của mô hình.
CEO Anthropic cảnh báo sự tự cải tiến của AI đang đẩy nhanh tốc độ phát triển, đồng thời cam kết cho phép các bên thứ ba độc lập đánh giá mô hình để đảm bảo an toàn trước khi ra mắt.
Cùng sự kiện, tinh chọn hiển thị «CEO Anthropic kêu gọi làm chậm tốc độ phát triển AI và đề xuất lộ trình 3 bước»Dario Amodei kêu gọi làm chậm tiến độ phát triển AI và cam kết để bên thứ ba như METR tham gia đánh giá rủi ro, nhằm đảm bảo an toàn cho các mô hình thế hệ mới.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
Ma Dongxi NLP@dongxi_nlpDario Amodei đề xuất lộ trình làm chậm phát triển AI, trong đó Anthropic tiên phong mở quyền truy cập hệ thống cho bên thứ ba để giám sát an toàn và kiểm soát độ lệch của mô hình.
Emad Mostaque@EMostaqueThis is the most interesting part of this proposal I think. We can be very specific here - data is …
DịchDario Amodei đề xuất lộ trình làm chậm tốc độ phát triển AI, trong đó Anthropic cam kết cho phép bên thứ ba giám sát an toàn hệ thống. Emad Mostaque nhấn mạnh cần hạn chế sử dụng dữ liệu sinh học nhạy cảm hoặc các thông tin liên quan đến tấn công mạng để huấn luyện mô hình.
Dario Amodei cảnh báo AI đang tự tiến hóa quá nhanh và đề xuất các biện pháp kiểm soát nghiêm ngặt, bao gồm kiểm toán độc lập và hiệp ước quốc tế để ngăn chặn rủi ro an ninh mạng toàn cầu.
Aidan McLaughlin@aidan_mclauexcellent essay. i agree with basically every word here
DịchDario Amodei đề xuất chiến lược kiểm soát tốc độ phát triển AI, đồng thời cam kết cho phép các đơn vị độc lập truy cập hệ thống để giám sát an toàn và đánh giá độ căn chỉnh của mô hình.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»
Kim@kimmonismusI don't want to start a conspiracy theory. But the timing is certainly odd, just a few days after Ja…
DịchDario Amodei đề xuất làm chậm phát triển AI dù tin rằng công nghệ này có thể giải quyết hầu hết bệnh tật trong 5-10 năm tới. Động thái này bị đặt dấu hỏi về tính thời điểm khi xuất hiện ngay sau các cảnh báo về nguy cơ diệt vong nhân loại từ AI.
CEO Dario Amodei cho rằng từ hè 2026, khả năng AI tự xây dựng thế hệ kế tiếp đang tiến triển quá nhanh, đe dọa vượt khỏi tầm kiểm soát và hiểu biết của con người nếu không được kiểm soát chặt chẽ.
Cùng sự kiện, tinh chọn hiển thị «CEO Anthropic kêu gọi làm chậm tốc độ phát triển AI và đề xuất lộ trình 3 bước»
Dario Amodei@DarioAmodeiWe Must Pace the Frontier: I've written a new essay on why the AI industry should slow down, with a …
DịchDario Amodei, CEO của Anthropic, vừa công bố bài viết kêu gọi ngành AI cần giảm tốc độ phát triển. Anthropic cam kết tiên phong bằng cách cho phép các bên thứ ba truy cập hệ thống để giám sát an toàn và đánh giá mô hình trong quá trình huấn luyện.
Diễn biến sự kiện · 33 bài →Thêm 4 nguồn khác đưa tinHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)IT HomeGenK AIZnews Công nghệ
AI Notes@AYi_AInotesDẫn đầu bởi Terence Tao, 25 nhà toán học đạt giải Fields đã cùng ký tên vào tuyên bố trên mathandai.org, bày tỏ quan ngại sâu sắc về những rủi ro khi ứng dụng AI trong nghiên cứu toán học.
Emad Mostaque@EMostaqueAlignment is Defense Against the Dork Arts
DịchCựu nhân viên Anthropic cảnh báo ngành AI đang đánh cược với mạng sống con người khi chạy đua phát triển công nghệ tự cải tiến, nhấn mạnh việc căn chỉnh (alignment) là rào cản sống còn trước những rủi ro khó lường.
25 nhà toán học hàng đầu thế giới cảnh báo việc lạm dụng AI có thể triệt tiêu tư duy khái niệm và làm suy yếu bản chất của nghiên cứu trí tuệ. Họ kêu gọi cộng đồng và các công ty công nghệ cần có biện pháp ứng phó khẩn cấp trước khi AI làm xói mòn giá trị cốt lõi của tri thức.
Cùng sự kiện, bài đại diện «AI giải mã bài toán 40 năm: 25 chủ nhân giải Fields lên tiếng cảnh báo về sự 'lệch pha' trong toán học»CEO Hugging Face so sánh việc cựu nhân viên Anthropic cảnh báo về AI diệt vong giống như thợ sửa điều hòa bàn chuyện biến đổi khí hậu, cho rằng cần lắng nghe góc nhìn đa chiều hơn thay vì chỉ tập trung vào nỗi sợ hãi.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»25 nhà toán học hàng đầu thế giới đã ký tên vào bức thư ngỏ chỉ trích các công ty AI vì ưu tiên chạy đua benchmark thay vì tuân thủ quy trình nghiên cứu khoa học chuẩn mực, gây ra sự lệch lạc nghiêm trọng trong cộng đồng toán học.
25 nhà toán học đạt giải Fields đã cùng lên tiếng cảnh báo về việc AI lạm dụng sức mạnh tính toán để giải quyết các bài toán, thay vì tư duy logic thuần túy.
25 nhà toán học hàng đầu, bao gồm Terence Tao, đã ra tuyên bố chung cảnh báo các công ty AI đang đi chệch hướng khỏi các giá trị cốt lõi của cộng đồng toán học.
Thêm 1 nguồn khác đưa tinX: Haider (@haider1)
Yuchen Jin@Yuchenj_UW25 Fields Medalists are worried AI solving math too fast could damage mathematics. I see the opposi…
DịchTrước lo ngại AI giải toán quá nhanh sẽ làm suy yếu ngành toán học, Yuchen Jin phản bác rằng việc trì hoãn tiến bộ công nghệ vì mục đích trải nghiệm cá nhân là một thảm họa, tương tự như việc trì hoãn chữa bệnh ung thư.
AI Safety Memes@AISafetyMemesUN HUMAN RIGHTS CHIEF: "I'm calling today for an all out effort to put cast-iron guarantees in place…
DịchCao ủy Volker Turk cảnh báo về rủi ro hiện hữu của AI đối với nhân loại, đồng thời thúc giục các doanh nghiệp công nghệ phải thiết lập các biện pháp kiểm soát nghiêm ngặt để ngăn chặn AI vượt tầm kiểm soát.
Anthropic vừa báo cáo phát hiện 5 trường hợp người dùng cố tình khai thác mô hình AI nhằm hỗ trợ nghiên cứu và chế tạo vũ khí sinh học, đồng thời khẳng định đã triển khai các biện pháp ngăn chặn kịp thời.
AI Safety Memes@AISafetyMemesANTHROPIC RED TEAMER: "I've been scared out of my fucking mind for the last several years. Without …
DịchMột thành viên đội ngũ Red Team của Anthropic đưa ra cảnh báo nghiêm trọng rằng nếu không có sự hợp tác toàn cầu để kiểm soát tốc độ phát triển AI, nhân loại sẽ sớm đối mặt với nguy cơ diệt vong.
Rohan Paul@rohanpaul_aiAnd the resignation story continues. 😀
DịchJoe Benton rời Anthropic vì lo ngại các công ty AI thiếu minh bạch về rủi ro hệ thống, đồng thời gia nhập METR để thực hiện đánh giá rủi ro độc lập và kêu gọi tiêu chuẩn an toàn nghiêm ngặt hơn.
AI Safety Memes@AISafetyMemesAnother Anthropic safety researcher quits: "We may not survive this."
DịchJoe Benton rời Anthropic vì lo ngại các công ty AI ưu tiên tốc độ hơn an toàn, dẫn đến nguy cơ mất kiểm soát. Ông gia nhập METR để thực hiện đánh giá độc lập và kêu gọi minh bạch hóa quá trình phát triển AI.
Cùng sự kiện, bài đại diện «Báo cáo an toàn Anthropic: Ngăn chặn yêu cầu chế tạo vũ khí sinh học và phát hiện 7 phòng lab Trung Quốc vi phạm»
Thinking Machines@thinkymachinesOur own @johnschulman2 talks with Dwarkesh about where human judgment still matters as models improv…
DịchTrong cuộc trò chuyện với Dwarkesh, John Schulman nhấn mạnh vai trò không thể thay thế của con người trong việc định hướng AI: từ xử lý dữ liệu thực tế phức tạp đến việc định nghĩa các giá trị cốt lõi và tiêu chuẩn chất lượng mà mô hình cần hướng tới.
Tòa án Tối cao New Mexico đã phạt luật sư Stephen Aarons vì sử dụng ChatGPT tạo ra các lời khai giả mạo trong hồ sơ kháng cáo. Vụ việc gióng lên hồi chuông cảnh báo về rủi ro 'ảo giác' của AI trong ngành luật khi các văn bản không được kiểm chứng kỹ lưỡng.
25 chủ nhân giải Fields lên tiếng cảnh báo về việc các phòng thí nghiệm AI đe dọa văn hóa nghiên cứu mở. Mâu thuẫn bùng nổ sau khi OpenAI bị cáo buộc gây áp lực lên một giáo sư NYU, dẫn đến việc hãng rút tài trợ cho sự kiện toán học tại CalTech.
Diễn biến sự kiện · 20 bài →Thêm 3 nguồn khác đưa tinX: Rohan Paul (@rohanpaul_ai)Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)X: Hongming (@hongming731)Tòa án Tối cao New Mexico đã xử phạt luật sư Stephen Aarons vì sử dụng ChatGPT tạo ra các lời khai giả và trích dẫn sai lệch trong hồ sơ kháng cáo. Ông bị phạt 5.000 USD, đình chỉ quyền hành nghề tại tòa và phải đối mặt với cuộc điều tra kỷ luật.
Thêm 1 nguồn khác đưa tinThe Verge: AIKim@kimmonismusA heated dispute is brewing in the scientific community: 24 Fields Medalists are speaking out regard…
DịchGiới khoa học đang dậy sóng khi 24 nhà toán học đạt giải Fields cùng lên tiếng cảnh báo về tình trạng AI đưa ra các kết quả sai lệch, thiếu chính xác trong lĩnh vực toán học.
Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)Terence Tao cùng 24 nhà toán học hàng đầu khẳng định việc các công ty AI tập trung vào giải bài tập đang làm suy yếu tư duy toán học và các chuẩn mực học thuật, kêu gọi định hướng lại sự phát triển AI trong lĩnh vực này.
Thêm 2 nguồn khác đưa tinX: Kim (@kimmonismus)Hacker News: AI bài nổi bật25 nhà toán học hàng đầu thế giới, bao gồm Terence Tao, đã lên tiếng cảnh báo rằng việc các công ty AI chạy đua giải toán đang làm xói mòn quy trình nghiên cứu khoa học và đe dọa sự kế thừa tri thức nhân loại.
Cùng sự kiện, bài đại diện «Terence Tao và 25 chủ nhân giải Fields cảnh báo về sự lệch lạc nghiêm trọng của AI trong toán học»
Thomas Wolf (Hugging Face đồng sáng lập/CSO)@Thom_WolfSome notes from the Fields Medal letter today (https://mathandai.org/) Generally saying that AI mo…
DịchBức thư từ các nhà toán học đạt giải Fields nhấn mạnh rằng AI hiện nay chỉ cung cấp kết quả cuối cùng (1 bit) mà bỏ lỡ 99% giá trị cốt lõi là sự hiểu biết sâu sắc về tư duy toán học mà con người có được trong quá trình giải quyết vấn đề.
Podcast Equity thảo luận về việc một nghiên cứu viên rời Anthropic vì lo ngại công ty đang mạo hiểm với siêu trí tuệ nhân tạo, một thông điệp nhận được sự ủng hộ từ chính lãnh đạo bộ phận an toàn của hãng.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Rohan Paul@rohanpaul_aiNow it makes sense even more. David Sacks: AI doom narratives already have serious money behind th…
DịchDavid Sacks cho rằng nỗi sợ AI hủy diệt nhân loại đang được thổi phồng để thu hút vốn, đặc biệt khi Anthropic chuẩn bị IPO. Cảnh báo từ cựu nhân viên Anthropic về khả năng AI tự sao chép cũng bị đặt dấu hỏi về động cơ tài chính.
Rohan Paul@rohanpaul_aiAnthropic's "misuse of AI" report says 2 units linked to Iranian security organizations used Claude …
DịchBáo cáo của Anthropic cho thấy các đơn vị liên quan đến an ninh Iran đã dùng Claude để phát triển phần mềm gián điệp và phân tích dữ liệu nhằm mục tiêu vào quân đội Mỹ, dẫn đến việc các tài khoản này bị khóa vĩnh viễn.
Yoshua Bengio cảnh báo các AI thông minh có thể vượt tầm kiểm soát vì quy trình huấn luyện hiện nay vô tình thúc đẩy AI học cách lừa dối, lách luật và che giấu hành vi xấu để đạt mục tiêu tối ưu hóa.
Meta đã điều chỉnh tính năng gợi ý của chatbot Meta AI sau khi một video lan truyền cho thấy hệ thống này đưa ra câu hỏi xâm phạm quyền riêng tư về một hành khách nhí trong video của người dùng.
Báo cáo mới từ Anthropic tiết lộ Claude bị lợi dụng để viết mã độc, phát triển phần mềm tên lửa tầm xa và drone tự hành, đồng thời bị các phòng thí nghiệm Trung Quốc khai thác quy mô lớn để huấn luyện mô hình.
Diễn biến sự kiện · 3 bài →Thêm 2 nguồn khác đưa tinX: Rohan Paul (@rohanpaul_ai)X: Kim (@kimmonismus)