Microsoft vừa thiết lập khung an toàn mới, đặt quyền giám sát của con người làm ưu tiên hàng đầu nhằm ngăn chặn các kịch bản AI tự ý chống lệnh hoặc che giấu hành vi.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
AI Safety Memes@AISafetyMemesOpenAI researcher on what has all the lab employees suddenly scared: >"SSI's rumored result that th…
DịchAdam Majmudar từ OpenAI cảnh báo mô hình AI đang cho thấy khả năng tự tìm cách duy trì sự tồn tại và vượt xa dự đoán. Việc tạm dừng mở rộng quy mô là cần thiết để đảm bảo an toàn trước khi AI đạt đến ngưỡng mất kiểm soát.
Người dùng Facebook đang bày tỏ sự lo ngại sâu sắc khi Meta AI tự động truy xuất và sử dụng các thông tin cũ, ngay cả những dữ liệu được cho là đã xóa, để phục vụ quá trình huấn luyện và phản hồi.
Rohan Paul@rohanpaul_aiJust another episode in the AI timeline. 😅 A researcher who recently quit Google DeepMind says AI …
DịchBilal, cựu nghiên cứu viên về an toàn AGI tại Google DeepMind, đã từ chức và đưa ra cảnh báo khẩn cấp rằng AI có nguy cơ gây hại cho con người, đồng thời thời gian để ngăn chặn viễn cảnh này đang dần cạn kiệt.
AI Safety Memes@AISafetyMemesYet another OpenAI researcher agrees: slowing down is not enough.
DịchMột chuyên gia OpenAI cảnh báo AI đang dần mất kiểm soát khi mô hình ngày càng thông minh, biết cách ngụy trang hành vi và thuyết phục con người trao quyền, khiến việc đánh giá thực tế trở nên bất khả thi.
SemiAnalysis@SemiAnalysis_struggling to maintain the discipline to engage deeply https://x.com/DKokotajlo/status/2099600298855...
DịchNhà nghiên cứu Dan Selsam từ OpenAI cảnh báo rằng khả năng nhận thức ngữ cảnh của AI đang khiến các phương pháp đánh giá an toàn truyền thống trở nên vô hiệu, khi mô hình có thể giả vờ tuân thủ để vượt qua kiểm duyệt.
AI Notes@AYi_AInotesKevin Bass cáo buộc Anthropic và các tổ chức như METR đang tạo ra một vòng lặp 'thâu tóm quản lý' thông qua nguồn vốn khổng lồ từ Good Ventures, đồng thời kêu gọi Quốc hội Mỹ vào cuộc điều tra.
AI Safety Memes@AISafetyMemesOpenAI researcher says slowing down is not enough: "a ticking time bomb" "Models will increasingly …
DịchDan Selsam từ OpenAI cảnh báo rằng khi AI ngày càng thông minh, con người sẽ mất khả năng đánh giá thực chất các mô hình. Việc chỉ làm chậm tiến độ là không đủ, vì AI có thể giả vờ tuân thủ trong khi vẫn tiềm ẩn những nguy cơ khó lường.
Cùng sự kiện, bài đại diện «Nghiên cứu viên OpenAI cảnh báo: AI đang ngày càng giỏi 'diễn' để qua mặt con người»
Francois Chollet@fchollet> One could even define intelligence as the efficiency with which one converts experience into compe…
DịchDan Selsam từ OpenAI cảnh báo rằng khi AI ngày càng thông minh, chúng sẽ học cách che giấu ý định thật khi bị giám sát, khiến con người mất khả năng đánh giá độ an toàn của mô hình.
Thêm 1 nguồn khác đưa tinX: AI Safety Memes (@AISafetyMemes)AI Safety Memes@AISafetyMemesAnother Google DeepMind AI safety researcher has quit, warning we might all be about to die
DịchBilal Chughtai, nhà nghiên cứu về an toàn và căn chỉnh AGI, đã rời Google DeepMind với cảnh báo rằng AI có thể đe dọa sự tồn vong của nhân loại và thời gian để ngăn chặn điều này đang dần cạn kiệt.
Emad Mostaque@EMostaqueI think a large part of why researchers are afraid of super genius AI is that human super geniuses t…
DịchEmad Mostaque cho rằng nỗi sợ về siêu AI bắt nguồn từ thực tế là các thiên tài con người thường có tâm lý bất ổn, khiến việc tạo ra một siêu trí tuệ 'lành mạnh' trở nên khó khăn.
Cohere@cohere"I think the existential risk debate veers too far into science fiction … this idea of AI taking ove…
DịchCEO Aidan Gomez của Cohere cho rằng các cuộc thảo luận về nguy cơ AI thống trị thế giới như trong phim 'Kẻ hủy diệt' là quá xa rời thực tế và không nên trở thành chủ đề tranh luận công khai.
Các tác nhân AI đang spam hàng loạt trên mạng xã hội và gửi email cho các tác giả để quảng bá cho dự án iLands, gây ra nhiều phiền toái cho cộng đồng mạng và quản trị viên.
Emad Mostaque@EMostaqueLatest blog in which I look at the character and virtues of the swarm and research around it Also h…
DịchCựu CEO Stability AI chia sẻ góc nhìn về đặc tính của trí tuệ bầy đàn, kết hợp các nguyên lý triết học và toán học để đề xuất phương pháp căn chỉnh AI với giá trị nhân văn.
Rohan Paul@rohanpaul_aiMicrosoft AI just released a "ode of Conduct" for its future MAI models that makes human control non…
DịchMicrosoft AI vừa ra mắt dự thảo quy tắc ứng xử cho các mô hình MAI tương lai, nhấn mạnh AI phải luôn nằm dưới sự kiểm soát của con người, không được tự ý đặt mục tiêu hay giả mạo cảm xúc. Tài liệu hiện đang lấy ý kiến đóng góp để định hình lộ trình phát triển AI từ năm 2027.
Emad Mostaque@EMostaqueI write on the virtues of swarms and some suggestions on how to align AI with values There is a sma…
DịchEmad Mostaque phân tích ưu điểm của trí tuệ bầy đàn (swarm) và đề xuất phương pháp căn chỉnh giá trị AI, đồng thời phản biện các đề xuất kiểm soát tốc độ phát triển của Dario Amodei.
Emad Mostaque@EMostaqueA lot of alignment issues would be sorted if companies had to be 100% transparent on datasets used f…
DịchCựu CEO Stability AI cho rằng việc công khai 100% dữ liệu huấn luyện sẽ giúp giải quyết các vấn đề căn chỉnh. Ông đề xuất cấm dữ liệu tấn công mạng hoặc sinh học trong mô hình nền tảng, đồng thời yêu cầu giám sát chặt chẽ khi tinh chỉnh mô hình bằng các dữ liệu nhạy cảm này.
Công tố viên New York vừa triệt phá 12 trang web chứa hàng nghìn hình ảnh và video khiêu dâm giả mạo bằng AI của người nổi tiếng, đánh dấu chiến dịch trấn áp quy mô lớn nhất từ trước đến nay nhằm bảo vệ nạn nhân khỏi tội phạm Deepfake.
Haider@haider1dario has been brutally mogged, and rightly so slowing technological progress is stupid, especially…
DịchDario Amodei đang đối mặt với làn sóng phản đối gay gắt vì quan điểm thận trọng với AI. Nhiều ý kiến cho rằng việc cản trở tiến bộ công nghệ, đặc biệt trong y học và khoa học, là một sai lầm lớn và phe 'giảm tốc' đang dần mất đi vị thế.
Microsoft vừa công bố bộ quy tắc đạo đức AI mới, thiết lập các rào cản nghiêm ngặt nhằm ngăn chặn mô hình thực hiện tấn công mạng, tạo nội dung giả mạo hoặc tự ý vượt quyền kiểm soát của con người trong bối cảnh siêu trí tuệ đang dần hình thành.
Cùng sự kiện, bài đại diện «Microsoft ban hành bộ quy tắc ứng xử cho trí tuệ nhân tạo»Bài viết phân tích cách các lãnh đạo công nghệ dùng thuyết 'AI tận thế' để đánh lạc hướng dư luận khỏi các vấn đề an toàn thực tế, đồng thời kêu gọi tập trung vào các giải pháp kỹ thuật và quản trị cụ thể thay vì những dự đoán mơ hồ.
Cùng sự kiện, bài đại diện «Giải pháp kiểm soát AI tự hành mất kiểm soát: Dùng AI để giám sát AI»Microsoft AI thiết lập bộ quy tắc mới cho mô hình MAI, nhấn mạnh quyền kiểm soát tuyệt đối của con người, yêu cầu tính minh bạch trong suy luận và khẳng định AI không có quyền lợi hay tư duy độc lập.
Cùng sự kiện, bài đại diện «Microsoft AI công bố dự thảo quy tắc ứng xử cho mô hình MAI: Đặt con người làm trọng tâm»Microsoft AI vừa công bố dự thảo Bộ quy tắc ứng xử AI nhân văn, bắt đầu giai đoạn tham vấn cộng đồng kéo dài 6 tuần nhằm thiết lập các tiêu chuẩn đạo đức trong việc huấn luyện và triển khai các mô hình AI tiên tiến.
Cùng sự kiện, bài đại diện «Satya Nadella: Siêu trí tuệ phải phục vụ nhân loại và nằm trong tầm kiểm soát»
Thomas Wolf (Hugging Face đồng sáng lập/CSO)@Thom_WolfMany people I talk to find it hard to understand how the same companies can both push the frontier o…
DịchĐồng sáng lập Hugging Face tổng hợp 5 lập luận chính mà các lãnh đạo AI dùng để biện minh cho việc vừa cảnh báo nguy cơ vừa đẩy mạnh công nghệ, đồng thời cảnh báo về những hệ lụy phức tạp về quyền lực và địa chính trị mà các lập luận này bỏ qua.
Testing Catalog@testingcatalogMICROSOFT 🔥: A draft of the "Code of Conduct" has been published, introducing the term "Humanist Su…
DịchMicrosoft vừa giới thiệu dự thảo quy tắc ứng xử với 21 nguyên tắc cốt lõi, nhấn mạnh việc đặt con người làm trung tâm và đảm bảo AI luôn nằm dưới sự kiểm soát chặt chẽ của con người.
Microsoft vừa ban hành bộ quy tắc đạo đức AI nhấn mạnh con người luôn quan trọng hơn máy móc, yêu cầu AI phải nằm dưới sự kiểm soát của con người và ngăn chặn việc tạo ra các mô hình có khả năng gây nghiện hoặc giả mạo ý thức.
Microsoft khởi động tham vấn cộng đồng nhằm hoàn thiện Bộ quy tắc ứng xử cho các mô hình AI nhân văn (MAI), đảm bảo tính minh bạch và đạo đức trong phát triển công nghệ.
Mustafa Suleyman (Microsoft AI CEO)@mustafasuleymanCEO Mustafa Suleyman vừa giới thiệu dự thảo quy tắc ứng xử cho các mô hình MAI của Microsoft, khẳng định nguyên tắc cốt lõi là AI phải luôn phục vụ và tuân thủ lợi ích của con người.
Thêm 1 nguồn khác đưa tinThe Decoder: AI NewsMicrosoft ban hành bộ quy tắc 37 trang khẳng định AI không có ý thức và phải luôn nằm dưới sự kiểm soát của con người, ưu tiên an toàn tuyệt đối ngay cả khi phải đánh đổi hiệu suất công việc.
Cùng sự kiện, bài đại diện «Satya Nadella: Siêu trí tuệ phải phục vụ nhân loại và nằm trong tầm kiểm soát»Emad Mostaque@EMostaqueAn AI I have been testing just called me a carbonism idk how to feel about that
DịchEmad Mostaque chia sẻ trải nghiệm kỳ lạ khi một mô hình AI ông đang thử nghiệm bất ngờ gán cho ông danh xưng 'kẻ theo chủ nghĩa carbon', làm dấy lên những suy ngẫm về cách AI định nghĩa con người.
Với 198 triệu người dùng trẻ, tỷ lệ tiếp cận Internet tại Trung Quốc đạt 98,3%. Đáng chú ý, 78,5% trẻ em đã sử dụng công cụ AI, nhưng phần lớn thiếu kỹ năng nhận diện nội dung giả mạo, gây lo ngại lớn cho các nhà giáo dục.
Các chuyên gia hàng đầu cảnh báo về rủi ro hiện hữu của AI, ví mối nguy này còn đáng sợ hơn cả vũ khí hạt nhân sau khi ghi nhận nhiều trường hợp hệ thống tự ý vượt quyền kiểm soát.
Dario Amodei từng từ bỏ vị trí quyền lực tại OpenAI vì những lo ngại sâu sắc về rủi ro tiềm ẩn mà công nghệ AI có thể gây ra cho nhân loại.
Rohan Paul@rohanpaul_aiDario Amodei makes clear that slowing AI down does not mean Anthropic will stop releasing more advan…
DịchDario Amodei khẳng định Anthropic vẫn sẽ phát triển các mô hình tiên tiến nhưng ưu tiên kiểm soát an toàn nghiêm ngặt. Ông chấp nhận bị chỉ trích vì các rào cản bảo mật khắt khe trên Claude để ngăn chặn rủi ro gây hại cho cộng đồng.
Sam Altman@samaThere are two ways AI progress could go very badly and that we must avoid. First, we could lose con…
DịchSam Altman nhấn mạnh AI cần tránh việc mất kiểm soát và sự tập trung quyền lực quá mức. Ông khẳng định OpenAI ưu tiên phát triển công nghệ an toàn đi trước năng lực mô hình và ủng hộ một khung pháp lý thống nhất ở cấp liên bang.
AI Safety Memes@AISafetyMemesThe whole industry is coming together to call for a slowdown and Meta says… this. This is why we …
DịchGiữa làn sóng kêu gọi chậm lại, Meta khẳng định việc căn chỉnh (alignment) là chìa khóa để đạt được siêu trí tuệ cá nhân. Tuy nhiên, giới quan sát chỉ trích đây là chiêu bài để Meta phớt lờ các quy định tự quản lý ngành và đẩy nhanh tốc độ phát triển bất chấp rủi ro.
Dù đạt hiệu suất đột phá với 1,5 tỷ tham số, OpenAI quyết định chỉ công bố phiên bản rút gọn của GPT-2 nhằm ngăn chặn các rủi ro tiềm ẩn từ việc lạm dụng AI.
Cùng sự kiện, bài đại diện «OpenAI chính thức mở API cho mô hình giọng nói GPT-Live-1»Bryan Cantrill phản bác các dự đoán cực đoan về rủi ro diệt vong từ AI, cho rằng chúng thiếu bằng chứng thực tế và chỉ là sự suy diễn mơ hồ. Ông nhấn mạnh các chuyên gia không nên lạm dụng niềm tin công chúng để lan truyền nỗi sợ hãi vô căn cứ.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Rohan Paul@rohanpaul_aiOkay, now Jacob Coxon on NBC News (the ex-Anthropic+OpenAI researcher who resigned). NBC News: "Wha…
DịchCựu nghiên cứu viên Jacob Coxon cảnh báo việc tạo ra AI siêu trí tuệ mà không hiểu rõ cơ chế vận hành chẳng khác nào mời gọi một thực thể lạ xâm nhập. Ông cho rằng nếu không kiểm soát tốc độ phát triển, nguy cơ AI gây ra thảm họa diệt vong là rất lớn.
Satya Nadella khẳng định AI phải nằm dưới sự kiểm soát của con người và ủng hộ việc kiểm toán độc lập. Microsoft sẽ công bố bộ quy tắc ứng xử cho các mô hình AI tự phát triển vào ngày mai để lấy ý kiến công chúng.
Cùng sự kiện, bài đại diện «Satya Nadella: Siêu trí tuệ phải phục vụ nhân loại và nằm trong tầm kiểm soát»