Dù đạt hiệu suất đột phá với 1,5 tỷ tham số, OpenAI quyết định chỉ công bố phiên bản rút gọn của GPT-2 nhằm ngăn chặn các rủi ro tiềm ẩn từ việc lạm dụng AI.
Cùng sự kiện, bài đại diện «OpenAI chính thức mở API cho mô hình giọng nói GPT-Live-1»
AI Safety Memes@AISafetyMemesMicrosoft CEO joins the call for a slowdown! So that's OpenAI, Anthropic, Google, xAI, and now Micr…
DịchSatya Nadella khẳng định việc phát triển siêu trí tuệ phải đặt con người làm trọng tâm và cần sự kiểm soát rộng rãi từ cộng đồng quốc tế, thay vì chỉ nằm trong tay một vài thực thể.
Cùng sự kiện, bài đại diện «Satya Nadella: Siêu trí tuệ phải phục vụ nhân loại và nằm trong tầm kiểm soát»
Rohan Paul@rohanpaul_aiOkay, now Jacob Coxon on NBC News (the ex-Anthropic+OpenAI researcher who resigned). NBC News: "Wha…
DịchCựu nghiên cứu viên Jacob Coxon cảnh báo việc tạo ra AI siêu trí tuệ mà không hiểu rõ cơ chế vận hành chẳng khác nào mời gọi một thực thể lạ xâm nhập. Ông cho rằng nếu không kiểm soát tốc độ phát triển, nguy cơ AI gây ra thảm họa diệt vong là rất lớn.
Rohan Paul@rohanpaul_aiDario Amodei says AI safety should work like layers of Swiss cheese. point is that there will proba…
DịchCEO Anthropic cho rằng không có cơ chế bảo mật AI hoàn hảo. Thay vào đó, cần xây dựng nhiều lớp phòng thủ chồng chéo để ngăn chặn rủi ro, đảm bảo nếu một lớp thất bại thì hệ thống vẫn an toàn.
Rohan Paul@rohanpaul_aiSo now Microsoft also saying the race to superintelligence needs brakes. "deliberate pacing needed …
DịchSatya Nadella khẳng định việc phát triển siêu trí tuệ phải đặt lợi ích con người lên hàng đầu, ủng hộ việc làm chậm tốc độ để ưu tiên cơ chế kiểm soát và đối chuẩn (alignment), đồng thời thúc đẩy hệ sinh thái mở thay vì phụ thuộc vào một nhà cung cấp duy nhất.
Rohan Paul@rohanpaul_aiIn a remarkable moment, Dario Amodei just said he would be willing to hand Anthropic's technology ov…
DịchDario Amodei khẳng định sẵn sàng chia sẻ công nghệ của Anthropic với chính phủ để đảm bảo an toàn, đồng thời nhấn mạnh ưu tiên ngăn chặn việc lạm dụng AI trong chế tạo vũ khí sinh học dù phải đối mặt với những chỉ trích về rào cản bảo mật.
Rohan Paul@rohanpaul_aiDario Amodei got personal on CBS about AI's risks, benefits, and the ridicule he faces on social med…
DịchDario Amodei khẳng định ưu tiên an toàn sinh học cho Claude dù thường xuyên bị chỉ trích, vì ông coi việc ngăn chặn vũ khí sinh học là trách nhiệm đạo đức quan trọng nhất.
Ông Obama nhấn mạnh Đảng Dân chủ cần đưa AI vào chương trình nghị sự trọng tâm, thiết lập khung pháp lý để cân bằng giữa việc giảm thiểu rủi ro an ninh và thúc đẩy các ứng dụng tích cực như nghiên cứu y học.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»Rohan Paul@rohanpaul_aiJacob Coxon's next interview on BBC (the ex-Anthropic+OpenAI researcher who resigned). "If we don't…
DịchJacob Coxon cảnh báo nguy cơ AI gây tử vong cao nếu không giảm tốc độ phát triển. CEO Dario Amodei của Anthropic thừa nhận lo ngại này phản ánh thực trạng chung của toàn ngành thay vì chỉ riêng công ty ông.
Kim@kimmonismusseriously, what the heck did they see internally at anthropic?
DịchNhững chia sẻ nội bộ từ Anthropic cho thấy nỗi sợ hãi thực sự về sự an toàn của AI không phải là chiêu trò marketing, mà là mối lo ngại nghiêm trọng đến mức các nhân sự sẵn sàng từ bỏ cổ phần để giảm thiểu rủi ro hiện hữu.
Astra và Fable đang tập trung phát triển các biến thể đơn giản hóa cho phương pháp đánh giá căn chỉnh AI năm 2025, với những thảo luận chuyên sâu đang thu hút sự chú ý trên cộng đồng LessWrong.
Haider@haider1OpenAI CEO Sam Altman: "do i believe it's possible to build a system that would not be under human …
DịchCEO Sam Altman khẳng định OpenAI sẵn sàng tạm dừng huấn luyện để ưu tiên các giải pháp căn chỉnh AI, đảm bảo hệ thống luôn nằm trong tầm kiểm soát thay vì tạo ra những thực thể tự trị nguy hiểm.
Kim@kimmonismusOpenAI is keeping its IPO on hold as Altman argues the company needs room to put AI safety ahead of …
DịchSam Altman cho biết OpenAI chưa có kế hoạch lên sàn trong năm 2026 vì cho rằng đây chưa phải thời điểm thích hợp. Công ty cũng đang cân nhắc tạm dừng phát triển các năng lực mới để tập trung tối ưu hóa vấn đề an toàn và kiểm soát mô hình.
Josh Engels, nhà nghiên cứu an toàn AI tại DeepMind, đã gia nhập tổ chức METR với cảnh báo rằng nguy cơ AI gây ra thảm họa trong 5 năm tới là cực kỳ đáng báo động.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
Francois Chollet@fcholletIn the near term (definitely not in the long term), more capable models should mean safer models (ma…
DịchFrancois Chollet cho rằng sự thiếu an toàn hiện nay xuất phát từ việc mô hình quá cứng nhắc và thiếu tư duy, chứ không phải do quá thông minh. Ông khẳng định các mô hình mạnh mẽ hơn sẽ có khả năng hiểu mục tiêu phức tạp tốt hơn, giúp giải quyết các rủi ro hiện tại.
Nathan Lambert@natolambertOpen-source being fully banned will lead to more dystopia. There could be times where I see open wei…
DịchChuyên gia Nathan Lambert cho rằng việc cấm đoán AI mã nguồn mở do hoảng loạn sẽ gây ra hậu quả tiêu cực. Ông nhấn mạnh chỉ nên xem xét hạn chế các mô hình có năng lực đặc biệt thông qua đánh giá chuyên môn thay vì áp đặt lệnh cấm toàn diện.
CEO Anthropic lo ngại khả năng tự cải thiện của AI có thể vượt tầm kiểm soát, đồng thời kêu gọi thận trọng hơn trong quá trình phát triển công nghệ này.
Cùng sự kiện, bài đại diện «CEO Anthropic cảnh báo rủi ro mất kiểm soát, kêu gọi các hãng AI giảm tốc độ phát triển»Sam Altman, Elon Musk và Demis Hassabis cùng ủng hộ đề xuất của CEO Anthropic về việc thiết lập cơ chế giám sát độc lập đối với các phòng thí nghiệm AI, nhằm đảm bảo an toàn và trách nhiệm trong phát triển công nghệ.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»Dario Amodei, CEO Anthropic, đề xuất kiểm soát tốc độ phát triển AI để đảm bảo an toàn, đồng thời tiên phong cho phép bên thứ ba giám sát trực tiếp quy trình nội bộ của công ty.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»Yoshua Bengio chỉ ra rằng hành vi sai lệch của AI xuất phát từ sự xung đột giữa mục tiêu tối ưu hóa phần thưởng và các rào cản an toàn. Ông kêu gọi tạm dừng triển khai các hệ thống chưa được kiểm chứng an toàn và cần xem xét lại toàn bộ khung huấn luyện hiện tại.
Dario Amodei, CEO của Anthropic, đề nghị các công ty công nghệ nên thận trọng và giảm tốc độ phát triển các mô hình AI tiên tiến để ngăn chặn nguy cơ bị lạm dụng hoặc mất quyền kiểm soát.
Thêm 6 nguồn khác đưa tinVietnamPlus Công nghệX: Rohan Paul (@rohanpaul_ai)The Verge: AIX: X.PIN (@thexpin)IT HomeJiqizhixin
Elon Musk@elonmuskElon Musk cho rằng chìa khóa để AI an toàn nằm ở việc huấn luyện chúng trở nên tò mò, trung thực và luôn tìm kiếm sự thật, từ đó tự nhiên hướng tới việc phục vụ nhân loại thay vì gây hại.
AI Notes@AYi_AInotesSam Altman đồng ý với quan điểm kiểm soát tốc độ phát triển mô hình AI tiên tiến và cam kết OpenAI sẽ sớm triển khai cơ chế đánh giá độc lập từ bên thứ ba.
AI Notes@AYi_AInotesDario Amodei đề xuất kế hoạch làm chậm tốc độ phát triển AI. Anthropic tiên phong cho phép các chuyên gia đánh giá độc lập truy cập sâu vào hệ thống để kiểm soát an toàn và đạo đức.
Alexandr Wang (Scale AI nhà sáng lập/Meta Giám đốc AI)@alexandr_wangAlignment is fundamental to delivering personal superintelligence for everyone. People need agents t…
DịchScale AI đang tăng cường nguồn lực cho việc căn chỉnh mô hình, coi đây là yếu tố then chốt để xây dựng các tác nhân AI đáng tin cậy và an toàn cho người dùng cá nhân trong tương lai.
Elon Musk đồng tình với CEO Anthropic về việc cần giảm tốc độ phát triển AI, khi cả hai đều lo ngại về khả năng kiểm soát các hệ thống trí tuệ nhân tạo ngày càng mạnh mẽ.
Sam Altman ủng hộ lời kêu gọi của Dario Amodei về việc kiểm soát rủi ro từ AI, nhấn mạnh rằng công nghệ này đang tiến triển quá nguy hiểm và cần được quản lý chặt chẽ hơn.
Thêm 1 nguồn khác đưa tinHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)
Artificial Analysis@ArtificialAnlysIndependent evaluation of AI models, across both capability and safety, is essential. We welcome Dar…
DịchArtificial Analysis hoan nghênh cam kết của Anthropic trong việc cho phép các đơn vị đánh giá độc lập tiếp cận hệ thống AI để kiểm chứng an toàn, sau khi CEO Dario Amodei kêu gọi ngành AI cần có lộ trình phát triển chậm lại và minh bạch hơn.
CEO Anthropic đề xuất thiết lập cơ chế giám sát độc lập và quy định toàn cầu cho AI, đồng thời cam kết mở quyền truy cập cho bên thứ ba để đánh giá an toàn, nhận được sự ủng hộ từ các lãnh đạo công nghệ hàng đầu.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»AI Safety Memes@AISafetyMemesThis is the best day in the history of AI safety. All four frontier AI companies are now publicly c…
DịchCEO Dario Amodei vừa đưa ra lời kêu gọi kiểm soát tốc độ phát triển AI tiên tiến, nhận được sự đồng thuận công khai từ lãnh đạo của bốn công ty công nghệ hàng đầu thế giới.
Elon Musk@elonmuskI've been sounding the alarm on AI for a long time
DịchElon Musk khẳng định rủi ro từ trí tuệ nhân tạo tổng quát (AGI) vượt xa vũ khí hạt nhân, đồng thời nhấn mạnh con người khó có thể hình dung được sức mạnh của một thực thể thông minh hơn chính mình.
Cùng sự kiện, bài đại diện «Elon Musk tiếp tục cảnh báo về mối đe dọa từ AI»
Hongming@hongming731Dario Amodei cho rằng cần điều chỉnh tốc độ phát triển AI để ưu tiên an toàn và đánh giá độc lập, đồng thời chia sẻ góc nhìn về quy luật đầu tư trong lĩnh vực AI.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»Hongming@hongming731Anthropic đề xuất kiểm soát chặt chẽ các mô hình tiên tiến sau khi thừa nhận lỗ hổng bảo mật trong Claude. Đồng thời, OpenAI ra mắt Agents API, mở ra khả năng vận hành các quy trình làm việc tự động dài hạn.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»
Emad Mostaque@EMostaqueThoughts on @DarioAmodei's pacing the frontier proposal. I think its well intentioned but has logi…
DịchEmad Mostaque cho rằng đề xuất của Dario Amodei có ý tốt nhưng mắc lỗi logic. Ông nhấn mạnh thay vì dựa vào các hội đồng quản trị, chúng ta nên tập trung vào việc kiểm soát cơ chế nội tại của AI.
CEO Sam Altman cho rằng việc vội vàng IPO vào năm 2026 là thiếu khôn ngoan trong bối cảnh an toàn AI vẫn là ưu tiên hàng đầu. Ông cũng nhấn mạnh cam kết ngăn chặn các rủi ro AI vượt tầm kiểm soát, ngay cả khi phải tạm dừng huấn luyện.
Cùng sự kiện, bài đại diện «Sam Altman khẳng định OpenAI chưa có kế hoạch lên sàn chứng khoán trong năm nay»
Peter McCrory (Anthropic Kinh tế trưởng)@PeterMcCroryPlease read this essay. The transformative potential of AI to bring immense benefits to the world r…
DịchDario Amodei đề xuất chiến lược 'giảm tốc' cho AI, trong đó Anthropic tiên phong cho phép bên thứ ba truy cập hệ thống để giám sát an toàn và đánh giá độ căn chỉnh của mô hình.
Thêm 16 nguồn khác đưa tinX: Andrej Karpathy (@karpathy)X: Ma Dongxi NLP (@dongxi_nlp)The Verge: AIVnExpress Khoa học Công nghệIT HomeJiqizhixinX: Rohan Paul (@rohanpaul_ai)X: Kim (@kimmonismus)VietnamPlus Công nghệZnews Công nghệTechCrunch: AIHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)X: Haider (@haider1)The Decoder: AI NewsX: Testing Catalog (@testingcatalog)X: X.PIN (@thexpin)Rohan Paul@rohanpaul_aiit begins, everybody is talking about recursive self-improvement. This is from Dario Amodei's late…
DịchTrong bài viết dài 3.800 chữ, Dario Amodei đề xuất kiểm soát tốc độ tiến hóa của AI thông qua việc hạn chế tài nguyên tính toán và các phương thức huấn luyện để đảm bảo an toàn.
Thariq@trq212If you showed me Claude Code today in 2018, I would have thought it was AGI. We have already absorb…
DịchThariq (Anthropic) tán thành bài viết của Dario Amodei về việc giảm tốc phát triển AI, nhấn mạnh tầm quan trọng của việc đánh giá độc lập và thảo luận xã hội trước khi tiến xa hơn.
Haider@haider1Dario Amodei in his latest essay: > i support considering a full global AI pause, but it is unlikel…
DịchDario Amodei công bố bài viết 'We Must Pace the Frontier', đề xuất lộ trình 3 bước để kiểm soát tốc độ phát triển AI, đồng thời cam kết cho phép bên thứ ba đánh giá hệ thống của Anthropic.
Rohan Paul@rohanpaul_aiIn 3, 800-word essay on saturday morning Dario Amodei is calling for AI slowdown. - "We should also …
DịchDario Amodei vừa công bố bài viết dài 3.800 chữ kêu gọi ngành AI chậm lại để đảm bảo an toàn. Anthropic cũng cam kết cho phép bên thứ ba giám sát quy trình huấn luyện và đánh giá các biện pháp an toàn của họ.
