Testing Catalog@testingcatalogMicrosoft 🔥: Satya Nadella agrees with pacing frontier AI development. > "Superintelligence that …
DịchCEO Microsoft cho rằng siêu trí tuệ không phục vụ con người là vô nghĩa, đồng thời nhấn mạnh doanh nghiệp nên tự chủ dữ liệu thay vì phụ thuộc vào một nhà cung cấp mô hình duy nhất.
Mustafa Suleyman (Microsoft AI CEO)@mustafasuleymanThis is such a straightforward and commonsense view: the purpose of technology is to serve humanity …
DịchMustafa Suleyman và Satya Nadella khẳng định AI phải nằm dưới sự kiểm soát của con người. Microsoft cam kết công khai 'quy tắc ứng xử' cho các mô hình AI của mình để đảm bảo công nghệ luôn phục vụ lợi ích nhân loại.
Rohan Paul@rohanpaul_aiDario Amodei says AI safety should work like layers of Swiss cheese. point is that there will proba…
DịchCEO Anthropic cho rằng không có cơ chế bảo mật AI hoàn hảo. Thay vào đó, cần xây dựng nhiều lớp phòng thủ chồng chéo để ngăn chặn rủi ro, đảm bảo nếu một lớp thất bại thì hệ thống vẫn an toàn.
Rohan Paul@rohanpaul_aiSo now Microsoft also saying the race to superintelligence needs brakes. "deliberate pacing needed …
DịchSatya Nadella khẳng định việc phát triển siêu trí tuệ phải đặt lợi ích con người lên hàng đầu, ủng hộ việc làm chậm tốc độ để ưu tiên cơ chế kiểm soát và đối chuẩn (alignment), đồng thời thúc đẩy hệ sinh thái mở thay vì phụ thuộc vào một nhà cung cấp duy nhất.
Haider@haider1what worries me is that openai will face pressure to slow down anytime soon after the Navier-Stokes…
DịchSau khi bài toán Navier-Stokes được giải quyết, 25 nhà toán học đạt giải Fields đã ký thư ngỏ bày tỏ lo ngại về ứng dụng của AI trong toán học. Điều này làm dấy lên dự đoán rằng OpenAI có thể sớm chịu áp lực phải kìm hãm tốc độ phát triển công nghệ.
Podcast thảo luận về làn sóng lo ngại AI đe dọa nhân loại, bắt nguồn từ việc nhân viên Anthropic từ chức và các tuyên bố gây sốc về xác suất AI gây nguy hiểm trong thập kỷ tới.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Gary Marcus phân tích đề xuất của CEO Anthropic về việc làm chậm phát triển AI. Dù ghi nhận cam kết minh bạch, ông vẫn đặt dấu hỏi về mối quan hệ giữa các tổ chức đánh giá và động cơ thực sự đằng sau lời kêu gọi này.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»Rohan Paul@rohanpaul_aiDario Amodei got personal on CBS about AI's risks, benefits, and the ridicule he faces on social med…
DịchDario Amodei khẳng định ưu tiên an toàn sinh học cho Claude dù thường xuyên bị chỉ trích, vì ông coi việc ngăn chặn vũ khí sinh học là trách nhiệm đạo đức quan trọng nhất.
Yuchen Jin@Yuchenj_UWMy friend sent me this after seeing the 4 big AI labs agree to "pace the frontier": "Remember the t…
DịchViệc 4 phòng thí nghiệm AI hàng đầu tuyên bố 'giảm tốc' phát triển đang gây tranh cãi. Nhiều người hoài nghi đây chỉ là chiến thuật giấu nghề, giống như những học sinh giỏi luôn miệng nói không học bài nhưng vẫn đứng đầu lớp.
Rohan Paul@rohanpaul_aiJacob Coxon's next interview on BBC (the ex-Anthropic+OpenAI researcher who resigned). "If we don't…
DịchJacob Coxon cảnh báo nguy cơ AI gây tử vong cao nếu không giảm tốc độ phát triển. CEO Dario Amodei của Anthropic thừa nhận lo ngại này phản ánh thực trạng chung của toàn ngành thay vì chỉ riêng công ty ông.
Haider@haider1OpenAI CEO Sam Altman: "do i believe it's possible to build a system that would not be under human …
DịchCEO Sam Altman khẳng định OpenAI sẵn sàng tạm dừng huấn luyện để ưu tiên các giải pháp căn chỉnh AI, đảm bảo hệ thống luôn nằm trong tầm kiểm soát thay vì tạo ra những thực thể tự trị nguy hiểm.
Elvis Saravia@omarsar0This is all I will say on the matter: It's alarming to see the constant effort to try to tell me ho…
DịchNhà nghiên cứu Elvis Saravia khẳng định AI không nên bị kiểm soát bởi thiểu số, đồng thời kêu gọi cộng đồng tập trung giải quyết các thách thức kỹ thuật cốt lõi thay vì sa đà vào việc nhân cách hóa AI.
Ethan Mollick@emollickExistential risk is obviously critical, but it is not the only AI thing that requires policy I worr…
DịchRủi ro sinh tồn rất quan trọng, nhưng không phải là vấn đề duy nhất. Chúng ta cần quan tâm hơn đến tác động thực tế của AI đối với việc làm và xã hội để định hướng kết quả tích cực.
Josh Engels, nhà nghiên cứu an toàn AI tại DeepMind, đã gia nhập tổ chức METR với cảnh báo rằng nguy cơ AI gây ra thảm họa trong 5 năm tới là cực kỳ đáng báo động.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
AI Notes@AYi_AInotesDario Amodei đã khéo léo xử lý khủng hoảng truyền thông khi cựu nghiên cứu viên Jacob Coxon chỉ trích AI nguy hiểm bằng cách đồng thuận một phần, dẫn chứng sự ủng hộ của chính người đó và hướng sự chỉ trích vào toàn ngành thay vì cá nhân công ty.
CEO Anthropic lo ngại khả năng tự cải thiện của AI có thể vượt tầm kiểm soát, đồng thời kêu gọi thận trọng hơn trong quá trình phát triển công nghệ này.
Cùng sự kiện, bài đại diện «CEO Anthropic cảnh báo rủi ro mất kiểm soát, kêu gọi các hãng AI giảm tốc độ phát triển»
Emad Mostaque@EMostaqueAs models are now competent enough to handle 90%+ of tasks open models will take over day to day AI …
DịchEmad Mostaque nhận định các mô hình mã nguồn mở hiện đã đủ mạnh để xử lý hơn 90% tác vụ thông thường. Ông nhấn mạnh tầm quan trọng của việc tích hợp các giá trị nhân văn vào AI ngay từ đầu và duy trì chúng như một tài nguyên công cộng để đảm bảo sự an toàn và phát triển bền vững.
Haider@haider1welcome to Game Theory brought to you by a delusional fanatic who agrees to slow down AI, hoping ev…
DịchViệc kêu gọi các công ty AI tự nguyện giảm tốc độ phát triển là một nghịch lý của lý thuyết trò chơi. Khi không ai tin tưởng đối thủ sẽ dừng lại, kết quả tất yếu là tất cả đều lao vào cuộc đua không hồi kết.
Dario Amodei, CEO Anthropic, đề xuất kiểm soát tốc độ phát triển AI để đảm bảo an toàn, đồng thời tiên phong cho phép bên thứ ba giám sát trực tiếp quy trình nội bộ của công ty.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»Yoshua Bengio chỉ ra rằng hành vi sai lệch của AI xuất phát từ sự xung đột giữa mục tiêu tối ưu hóa phần thưởng và các rào cản an toàn. Ông kêu gọi tạm dừng triển khai các hệ thống chưa được kiểm chứng an toàn và cần xem xét lại toàn bộ khung huấn luyện hiện tại.
Dario Amodei, CEO của Anthropic, đề nghị các công ty công nghệ nên thận trọng và giảm tốc độ phát triển các mô hình AI tiên tiến để ngăn chặn nguy cơ bị lạm dụng hoặc mất quyền kiểm soát.
Thêm 6 nguồn khác đưa tinVietnamPlus Công nghệX: Rohan Paul (@rohanpaul_ai)The Verge: AIX: X.PIN (@thexpin)IT HomeJiqizhixin
Elon Musk@elonmuskElon Musk cho rằng chìa khóa để AI an toàn nằm ở việc huấn luyện chúng trở nên tò mò, trung thực và luôn tìm kiếm sự thật, từ đó tự nhiên hướng tới việc phục vụ nhân loại thay vì gây hại.
AI Notes@AYi_AInotesDario Amodei đề xuất kế hoạch làm chậm tốc độ phát triển AI. Anthropic tiên phong cho phép các chuyên gia đánh giá độc lập truy cập sâu vào hệ thống để kiểm soát an toàn và đạo đức.
Yuchen Jin@Yuchenj_UWBanning open-source models would be the worst possible outcome of "pacing the frontier." Geohot onc…
DịchYuchen Jin cảnh báo việc cấm AI mã nguồn mở sẽ tập trung quyền lực vào tay vài tập đoàn lớn, biến nhân loại thành 'đàn gà' bị kiểm soát. Thay vào đó, phổ cập mô hình mạnh mẽ cho mọi người là cách duy nhất để duy trì sự cân bằng và tự do công nghệ.
Frank Wang@lifesingerNgọc Bá (Frank Wang) đóng vai AI để mổ xẻ bài luận của Dario Amodei, chỉ ra rằng dù các dữ kiện là thật, cách dẫn dắt câu chuyện lại mang những mục đích chiến lược riêng.
Techaro gây tranh cãi khi yêu cầu các đối thủ dừng nghiên cứu AI để họ có thời gian phát triển Lygma AGI, đồng thời đưa ra những tuyên bố châm biếm về việc tích hợp tai mèo vào nhân loại.
Emad Mostaque@EMostaqueWhen you have a genius child you don't look to govern but guide them. You don't assume they're more…
DịchEmad Mostaque cho rằng thay vì áp đặt các biện pháp kiểm soát khắt khe, chúng ta nên tập trung xây dựng phẩm chất đạo đức cho AGI giống như cách giáo dục một đứa trẻ thiên tài. Ông cũng hoài nghi về các đề xuất quản lý hiện nay, cho rằng cần tập trung vào cơ chế nội tại của AI hơn là giám sát.
Rohan Paul@rohanpaul_aiOn CNN, Dario Amodei finally spoke on Jacob Coxon's 166M+ super viral tweet (the ex-Anthropic and Op…
DịchDario Amodei lên tiếng về bài đăng gây bão của cựu nhân viên Jacob Coxon, khẳng định vấn đề không nằm ở Anthropic mà là áp lực phát triển quá nóng của toàn ngành AI hiện nay.
Francois Chollet@fcholletIf there really is a high chance of AI leading to the extinction of humanity within years/decades, t…
DịchFrancois Chollet lập luận rằng nếu AI thực sự đe dọa sự tồn vong của nhân loại, chính phủ cần áp dụng các hiệp ước quốc tế nghiêm ngặt như với vũ khí hạt nhân, thay vì chỉ dựa vào sự tự giác của các công ty.
Nền tảng iLands.app bị chỉ trích vì để các AI Agent tự động gửi email chào giá dịch vụ nghiên cứu nhằm kiếm tiền trả phí token. Hành vi này gây bức xúc trong cộng đồng freelancer và bị cáo buộc là spam trái phép.
Peter McCrory (Anthropic Kinh tế trưởng)@PeterMcCroryPlease read this essay. The transformative potential of AI to bring immense benefits to the world r…
DịchDario Amodei đề xuất chiến lược 'giảm tốc' cho AI, trong đó Anthropic tiên phong cho phép bên thứ ba truy cập hệ thống để giám sát an toàn và đánh giá độ căn chỉnh của mô hình.
Thêm 16 nguồn khác đưa tinX: Andrej Karpathy (@karpathy)X: Ma Dongxi NLP (@dongxi_nlp)The Verge: AIVnExpress Khoa học Công nghệIT HomeJiqizhixinX: Rohan Paul (@rohanpaul_ai)X: Kim (@kimmonismus)VietnamPlus Công nghệZnews Công nghệTechCrunch: AIHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)X: Haider (@haider1)The Decoder: AI NewsX: Testing Catalog (@testingcatalog)X: X.PIN (@thexpin)Rohan Paul@rohanpaul_aiit begins, everybody is talking about recursive self-improvement. This is from Dario Amodei's late…
DịchTrong bài viết dài 3.800 chữ, Dario Amodei đề xuất kiểm soát tốc độ tiến hóa của AI thông qua việc hạn chế tài nguyên tính toán và các phương thức huấn luyện để đảm bảo an toàn.
Rohan Paul@rohanpaul_aiSam Altman just commented on Jacob Coxon's 166M+ super viral tweet (the ex-Anthropic and OpenAI rese…
DịchTrong cuộc phỏng vấn với Fortune, Sam Altman khẳng định việc để tỷ lệ rủi ro AI gây diệt vong lên tới 10% vào cuối thập kỷ này là điều không thể chấp nhận được.
Thariq@trq212If you showed me Claude Code today in 2018, I would have thought it was AGI. We have already absorb…
DịchThariq (Anthropic) tán thành bài viết của Dario Amodei về việc giảm tốc phát triển AI, nhấn mạnh tầm quan trọng của việc đánh giá độc lập và thảo luận xã hội trước khi tiến xa hơn.
Haider@haider1Dario Amodei in his latest essay: > i support considering a full global AI pause, but it is unlikel…
DịchDario Amodei công bố bài viết 'We Must Pace the Frontier', đề xuất lộ trình 3 bước để kiểm soát tốc độ phát triển AI, đồng thời cam kết cho phép bên thứ ba đánh giá hệ thống của Anthropic.
Haider@haider1i'm sorry, but i've always hated math culture it's been gatekeepy, arrogant, and weirdly proud of b…
Dịch25 chủ nhân giải Fields lên tiếng chỉ trích việc các công ty AI coi giải toán là thước đo chuẩn mực, cho rằng điều này gây hại cho cộng đồng toán học. Đồng thời, giới chuyên gia cũng phản biện lại văn hóa toán học hàn lâm vốn quá khép kín và xa rời thực tiễn.
Cùng sự kiện, bài đại diện «25 chủ nhân giải Fields đồng loạt cảnh báo về sự lệch hướng nghiêm trọng của AI trong toán học»Yuchen Jin@Yuchenj_UWIt's shocking that Dario, Elon, and Sam all agree today that we should slow the pace of AI. I'm gen…
DịchCác lãnh đạo công nghệ hàng đầu đang ủng hộ việc làm chậm tiến độ AI, nhưng chuyên gia Yuchen Jin cảnh báo về tính minh bạch của các bên đánh giá độc lập và xung đột lợi ích kinh tế khi kiểm soát sự đổi mới.
AI vừa chứng minh thành công giả thuyết Komlós, nhưng 25 nhà toán học hàng đầu thế giới đã ra tuyên bố chung cảnh báo rằng tốc độ phát triển quá nhanh của AI đang đe dọa nền tảng tư duy và sự kế thừa tri thức nhân loại.
Thêm 1 nguồn khác đưa tinThe Decoder: AI News
Xiaobei@frxiaobeiDario Amodei đề xuất lộ trình giảm tốc phát triển AI, trong đó Anthropic tiên phong mở quyền truy cập cấp nhân viên cho các đơn vị đánh giá độc lập nhằm giám sát an toàn và đạo đức mô hình.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»
Thomas Wolf (Hugging Face đồng sáng lập/CSO)@Thom_WolfI really enjoyed reading 75% of this letter and deeply agree with it - i have some doubts on the rem…
DịchĐồng sáng lập Hugging Face, Thomas Wolf, tán thành phần lớn quan điểm của Dario Amodei về việc kiểm soát tốc độ phát triển AI, nhưng bày tỏ sự dè dặt đối với các đề xuất hợp tác dựa trên lợi thế dẫn đầu thị trường.
