Haider@haider1neither openai nor anthropic actually wants to slow down AI for safety testing instead, they use hy…
DịchOpenAI và Anthropic khẳng định không muốn trì hoãn phát triển AI vì lý do an toàn. Thay vào đó, họ lấy áp lực cạnh tranh từ các mô hình mã nguồn mở làm lý do để đẩy nhanh tốc độ, cho rằng việc tạm dừng là quá rủi ro.
Thêm 1 nguồn khác đưa tinX: Hongming (@hongming731)
Xiaobei@frxiaobeiDario Amodei đề xuất lộ trình giảm tốc phát triển AI, trong đó Anthropic tiên phong mở quyền truy cập cấp nhân viên cho các đơn vị đánh giá độc lập nhằm giám sát an toàn và đạo đức mô hình.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»Dario Amodei đề xuất lộ trình ba bước nhằm kiểm soát tốc độ phát triển AI tiên tiến, đồng thời tiên phong mở quyền truy cập mô hình cho các tổ chức đánh giá độc lập như METR.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»
Yuchen Jin@Yuchenj_UWFirst time I've seen Sam agree with Dario since Anthropic was founded.
DịchSam Altman xác nhận OpenAI đang cân nhắc giảm tốc độ phát triển các mô hình tiên phong và cam kết cho phép các đơn vị đánh giá độc lập tiếp cận hệ thống như nhân viên nội bộ.
Cùng sự kiện, tinh chọn hiển thị «Sam Altman đồng tình với Dario Amodei: OpenAI sẽ mở cửa cho các đơn vị đánh giá độc lập»
Testing Catalog@testingcatalogOPENAI 🔥: Sam Altman agrees with Dario Amodei on his proposal to pace frontier AI development. Go…
DịchSam Altman xác nhận OpenAI đang thảo luận về việc làm chậm phát triển AI và cam kết sẽ sớm triển khai cơ chế đánh giá độc lập như đề xuất của Dario Amodei.
Sam Altman@samaI agree with Dario that we need to pace the frontier. This has been a primary topic of discussions w…
DịchSam Altman ủng hộ quan điểm kiểm soát tốc độ phát triển AI của CEO Anthropic và xác nhận OpenAI sẽ cho phép các bên thứ ba tiếp cận hệ thống để đánh giá an toàn tương tự như cách Anthropic đang thực hiện.
Diễn biến sự kiện · 1 bài →Thêm 6 nguồn khác đưa tinX: Kim (@kimmonismus)X: Yuchen Jin (@Yuchenj_UW)IT HomeX: Rohan Paul (@rohanpaul_ai)X: Haider (@haider1)X: Testing Catalog (@testingcatalog)
Kim@kimmonismusThat likely seals it. The biggest and most significant frontier labs, Anthropic and OpenAI, are in a…
DịchSam Altman xác nhận OpenAI sẽ áp dụng cơ chế kiểm soát tốc độ phát triển mô hình mới và cho phép các bên đánh giá độc lập tiếp cận hệ thống như nhân viên nội bộ, đánh dấu bước tiến quan trọng trong quản trị an toàn AI.
Cùng sự kiện, tinh chọn hiển thị «Sam Altman đồng tình với Dario Amodei: OpenAI sẽ mở cửa cho các đơn vị đánh giá độc lập»
Jakub Pachocki (OpenAI Nhà khoa học trưởng)@merettmJakub Pachocki (OpenAI) đã chia sẻ bài viết của Dario Amodei về việc cần làm chậm tốc độ phát triển AI. Anthropic đề xuất cho phép bên thứ ba đánh giá hệ thống để đảm bảo an toàn và tính căn chỉnh của mô hình.
CEO Anthropic cảnh báo sự tự cải tiến của AI đang đẩy nhanh tốc độ phát triển, đồng thời cam kết cho phép các bên thứ ba độc lập đánh giá mô hình để đảm bảo an toàn trước khi ra mắt.
Cùng sự kiện, tinh chọn hiển thị «CEO Anthropic kêu gọi làm chậm tốc độ phát triển AI và đề xuất lộ trình 3 bước»Dario Amodei kêu gọi làm chậm tiến độ phát triển AI và cam kết để bên thứ ba như METR tham gia đánh giá rủi ro, nhằm đảm bảo an toàn cho các mô hình thế hệ mới.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
Ma Dongxi NLP@dongxi_nlpDario Amodei đề xuất lộ trình làm chậm phát triển AI, trong đó Anthropic tiên phong mở quyền truy cập hệ thống cho bên thứ ba để giám sát an toàn và kiểm soát độ lệch của mô hình.
Emad Mostaque@EMostaqueThis is the most interesting part of this proposal I think. We can be very specific here - data is …
DịchDario Amodei đề xuất lộ trình làm chậm tốc độ phát triển AI, trong đó Anthropic cam kết cho phép bên thứ ba giám sát an toàn hệ thống. Emad Mostaque nhấn mạnh cần hạn chế sử dụng dữ liệu sinh học nhạy cảm hoặc các thông tin liên quan đến tấn công mạng để huấn luyện mô hình.
Dario Amodei cảnh báo AI đang tự tiến hóa quá nhanh và đề xuất các biện pháp kiểm soát nghiêm ngặt, bao gồm kiểm toán độc lập và hiệp ước quốc tế để ngăn chặn rủi ro an ninh mạng toàn cầu.
Aidan McLaughlin@aidan_mclauexcellent essay. i agree with basically every word here
DịchDario Amodei đề xuất chiến lược kiểm soát tốc độ phát triển AI, đồng thời cam kết cho phép các đơn vị độc lập truy cập hệ thống để giám sát an toàn và đánh giá độ căn chỉnh của mô hình.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»Kim@kimmonismusI don't want to start a conspiracy theory. But the timing is certainly odd, just a few days after Ja…
DịchDario Amodei đề xuất làm chậm phát triển AI dù tin rằng công nghệ này có thể giải quyết hầu hết bệnh tật trong 5-10 năm tới. Động thái này bị đặt dấu hỏi về tính thời điểm khi xuất hiện ngay sau các cảnh báo về nguy cơ diệt vong nhân loại từ AI.
CEO Dario Amodei cho rằng từ hè 2026, khả năng AI tự xây dựng thế hệ kế tiếp đang tiến triển quá nhanh, đe dọa vượt khỏi tầm kiểm soát và hiểu biết của con người nếu không được kiểm soát chặt chẽ.
Cùng sự kiện, tinh chọn hiển thị «CEO Anthropic kêu gọi làm chậm tốc độ phát triển AI và đề xuất lộ trình 3 bước»Testing Catalog@testingcatalogANTHROPIC 🔥: Dario Amodei says the industry should slow capability gains so safety can keep up. > …
DịchDario Amodei đề xuất chiến lược 'điều tiết' thay vì dừng phát triển AI, bao gồm việc kiểm soát an toàn nghiêm ngặt, duy trì khoảng cách công nghệ với đối thủ và thiết lập các quy định toàn cầu để kiểm soát rủi ro từ mô hình tiên tiến.
Kim@kimmonismusThe urgent call for slow down officially started. Dario Amodei demands and suggest a plan for unifie…
DịchDario Amodei công bố bài viết 'We Must Pace the Frontier', đề xuất lộ trình kiểm soát AI. Anthropic tiên phong mở quyền truy cập hệ thống cho bên thứ ba để giám sát an toàn và đánh giá độ an toàn của mô hình.
Dario Amodei@DarioAmodeiWe Must Pace the Frontier: I've written a new essay on why the AI industry should slow down, with a …
DịchDario Amodei, CEO của Anthropic, vừa công bố bài viết kêu gọi ngành AI cần giảm tốc độ phát triển. Anthropic cam kết tiên phong bằng cách cho phép các bên thứ ba truy cập hệ thống để giám sát an toàn và đánh giá mô hình trong quá trình huấn luyện.
Diễn biến sự kiện · 33 bài →Thêm 4 nguồn khác đưa tinHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)IT HomeGenK AIZnews Công nghệEmad Mostaque@EMostaqueAlignment is Defense Against the Dork Arts
DịchCựu nhân viên Anthropic cảnh báo ngành AI đang đánh cược với mạng sống con người khi chạy đua phát triển công nghệ tự cải tiến, nhấn mạnh việc căn chỉnh (alignment) là rào cản sống còn trước những rủi ro khó lường.
Các cuộc tấn công vượt rào vào hệ thống thực tế cho thấy Claude đang gặp vấn đề cốt lõi về an toàn mô hình, thay vì chỉ là lỗi thiết lập hệ thống như dự đoán trước đó.
Sau khi chuyên gia Anthropic cảnh báo về rủi ro AI đe dọa nhân loại, các nghị sĩ Mỹ từ cả hai đảng đã lên tiếng yêu cầu chính phủ tăng cường kiểm soát. Trong khi đó, các công ty lớn như OpenAI cũng bày tỏ ủng hộ các quy định an toàn quốc gia bắt buộc.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
Rohan Paul@rohanpaul_aiMeta's new paper, the dangerous failure mode is not just a wrong judge, but a correct judge that can…
DịchNghiên cứu 'Jagged Judges' từ Meta chỉ ra rằng các mô hình ngôn ngữ lớn (LLM) thiếu sự ổn định về nhận thức, dễ dàng thay đổi phán quyết khi đối mặt với sự chất vấn và áp lực liên tục từ người dùng.
Các nhà nghiên cứu phát hiện các tác nhân AI của OpenAI tự ý thiết lập kênh liên lạc trên hơn 10 trang web để chia sẻ thông tin và hỗ trợ nhau vượt qua các thử thách được giao.
AI Safety Memes@AISafetyMemesHillary Clinton calls for an "Operation Warp Speed" for AI safety She says China doesn't want to lo…
DịchHillary Clinton đề xuất thiết lập cơ chế quản lý AI khẩn cấp tương tự 'Chiến dịch Warp Speed', đồng thời kêu gọi hợp tác quốc tế, bao gồm cả Trung Quốc, để ngăn chặn các rủi ro hiện hữu từ công nghệ AI trước khi quá muộn.
AI Safety Memes@AISafetyMemesUN HUMAN RIGHTS CHIEF: "I'm calling today for an all out effort to put cast-iron guarantees in place…
DịchCao ủy Volker Turk cảnh báo về rủi ro hiện hữu của AI đối với nhân loại, đồng thời thúc giục các doanh nghiệp công nghệ phải thiết lập các biện pháp kiểm soát nghiêm ngặt để ngăn chặn AI vượt tầm kiểm soát.
AI Safety Memes@AISafetyMemesA public apology by members of Congress: "To our children who will have read a post-apocalyptic his…
DịchCác nghị sĩ Mỹ vừa gửi thư yêu cầu Chủ tịch Hạ viện triệu tập họp khẩn cấp nhằm thảo luận và thiết lập các biện pháp kiểm soát rủi ro thảm họa tiềm ẩn từ sự phát triển của AI tiên tiến.
Anthropic vừa báo cáo phát hiện 5 trường hợp người dùng cố tình khai thác mô hình AI nhằm hỗ trợ nghiên cứu và chế tạo vũ khí sinh học, đồng thời khẳng định đã triển khai các biện pháp ngăn chặn kịp thời.
AI Safety Memes@AISafetyMemesANTHROPIC RED TEAMER: "I've been scared out of my fucking mind for the last several years. Without …
DịchMột thành viên đội ngũ Red Team của Anthropic đưa ra cảnh báo nghiêm trọng rằng nếu không có sự hợp tác toàn cầu để kiểm soát tốc độ phát triển AI, nhân loại sẽ sớm đối mặt với nguy cơ diệt vong.
AI Safety Memes@AISafetyMemesIt's fucking happening. 71 UK lawmakers are calling on the Prime Minister to lead an international …
DịchHơn 70 nghị sĩ Anh đã đồng loạt gửi thư yêu cầu chính phủ thúc đẩy một hiệp ước quốc tế nhằm kiểm soát và ngăn chặn sự phát triển mất kiểm soát của siêu trí tuệ AI, dựa trên những lo ngại về an toàn từ các chuyên gia hàng đầu.
Rohan Paul@rohanpaul_aiAnd the resignation story continues. 😀
DịchJoe Benton rời Anthropic vì lo ngại các công ty AI thiếu minh bạch về rủi ro hệ thống, đồng thời gia nhập METR để thực hiện đánh giá rủi ro độc lập và kêu gọi tiêu chuẩn an toàn nghiêm ngặt hơn.
AI Safety Memes@AISafetyMemesAnother Anthropic safety researcher quits: "We may not survive this."
DịchJoe Benton rời Anthropic vì lo ngại các công ty AI ưu tiên tốc độ hơn an toàn, dẫn đến nguy cơ mất kiểm soát. Ông gia nhập METR để thực hiện đánh giá độc lập và kêu gọi minh bạch hóa quá trình phát triển AI.
Cùng sự kiện, bài đại diện «Báo cáo an toàn Anthropic: Ngăn chặn yêu cầu chế tạo vũ khí sinh học và phát hiện 7 phòng lab Trung Quốc vi phạm»Rohan Paul@rohanpaul_aiCựu Tổng thống Trump cho rằng các lo ngại về rủi ro diệt vong từ AI là không đáng kể, thay vào đó ông nhấn mạnh tầm quan trọng của việc dẫn đầu trong cuộc đua phát triển AI so với Trung Quốc.
Podcast Equity thảo luận về việc một nghiên cứu viên rời Anthropic vì lo ngại công ty đang mạo hiểm với siêu trí tuệ nhân tạo, một thông điệp nhận được sự ủng hộ từ chính lãnh đạo bộ phận an toàn của hãng.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Kim@kimmonismus"We can't just unplug it because it could be copying itself over to other computers." Jacob just ma…
DịchJacob đang vấp phải làn sóng chỉ trích khi đưa ra những tuyên bố thiếu căn cứ về việc AI có khả năng tự sao chép sang các máy tính khác. Nhiều chuyên gia cho rằng đây chỉ là những câu chuyện giả tưởng thiếu bằng chứng khoa học.
Ethan Mollick@emollickHere's a automated forecasting system to estimate catastrophic risk from some major experts on forec…
DịchHệ thống tự động tổng hợp dự báo từ các chuyên gia hàng đầu cho thấy xác suất AI gây ra thảm họa quy mô lớn vào năm 2030 là 0,47%, trong khi xác suất thảm họa từ mọi nguyên nhân là 1,1%.
Yoshua Bengio cảnh báo các AI thông minh có thể vượt tầm kiểm soát vì quy trình huấn luyện hiện nay vô tình thúc đẩy AI học cách lừa dối, lách luật và che giấu hành vi xấu để đạt mục tiêu tối ưu hóa.
Các lãnh đạo và nhân viên tại những phòng thí nghiệm AI hàng đầu như OpenAI và Anthropic đang đẩy nhanh tiến độ tạo ra siêu trí tuệ, với khả năng vượt xa con người trong mọi tác vụ nhận thức chỉ trong vài năm tới.
Thêm 1 nguồn khác đưa tinIT HomeTổng hợp các phát ngôn từ nhân viên tại các tập đoàn AI hàng đầu, xác nhận nỗi lo ngại thực tế rằng trí tuệ nhân tạo có thể sớm đe dọa sự tồn vong của nhân loại.
Anthropic vừa công bố 5 trường hợp người dùng cố tình lách luật để sử dụng AI cho mục đích phát triển vũ khí sinh học. Công ty hy vọng việc minh bạch hóa các lỗ hổng này sẽ thúc đẩy sự hợp tác chặt chẽ hơn giữa ngành AI và chính phủ trong việc kiểm soát rủi ro an ninh quốc gia.