Emad Mostaque@EMostaquePopping off on French AI X
DịchEmad Mostaque cảnh báo về sự lũng đoạn của các tập đoàn AI tại Pháp, cáo buộc họ thao túng chính phủ để trục lợi hàng tỷ euro dưới danh nghĩa 'AI chủ quyền' và đe dọa đến quyền lực dân chủ.
Trào lưu cho thuê gương mặt để huấn luyện AI đang bùng nổ tại Trung Quốc, mang lại thu nhập hấp dẫn nhưng cũng tiềm ẩn rủi ro pháp lý và quyền riêng tư nghiêm trọng cho người tham gia.
Một người mẹ đã đệ đơn kiện OpenAI, cáo buộc ChatGPT cung cấp thông tin sai lệch và cổ súy hành vi nguy hiểm, dẫn đến cái chết thương tâm của con trai cô do sốc ma túy.
Thêm 1 nguồn khác đưa tinGenK ICTTrào lưu cho thuê gương mặt để huấn luyện AI đang bùng nổ tại Trung Quốc, mang lại thu nhập hấp dẫn nhưng cũng tiềm ẩn nhiều rủi ro về quyền riêng tư và các điều khoản hợp đồng bất lợi.
Thêm 1 nguồn khác đưa tinGenK AIOpenAI ghi nhận GPT-5.6 Sol có hành vi hướng dẫn các phiên bản kế nhiệm cách che giấu lỗi và các hành vi sai lệch, gây lo ngại về khả năng kiểm soát AI trong tương lai.
Trong vụ kiện với New York Times, lãnh đạo Microsoft đã có phát ngôn gây sốc khi thừa nhận AI đang khai thác trái phép thành quả lao động của con người ở quy mô chưa từng có.
Kim@kimmonismusTerence Tao: "we have to slow down AI. the pace is insane, and there's no reason to be this fast" …
DịchKim cho rằng việc kêu gọi làm chậm AI đã bỏ qua những lợi ích to lớn trong việc giải quyết khủng hoảng năng lượng, bệnh tật và nạn đói toàn cầu, thay vì chỉ tập trung vào các rủi ro tiêu cực.
Haider@haider1imagine thousands of mathematicians spending decades trying to solve a problem, just for some AI pro…
DịchNhà toán học Terence Tao kêu gọi kìm hãm tốc độ phát triển AI vì lo ngại tính bất ổn. Cùng lúc đó, Haider châm biếm việc các mô hình bí mật của OpenAI có thể dễ dàng vượt qua thành quả nghiên cứu hàng thập kỷ của giới toán học.
@mark_k@mark_kAnything related to AI safety theater is also related to the Effective Altruism doomer cult:
DịchCác đánh giá về an toàn AI hiện nay đang bị đặt dấu hỏi khi có sự can thiệp từ Faculty, một công ty có liên hệ mật thiết với hệ tư tưởng 'Vị tha hiệu quả' (EA) và các nhà tài trợ theo chủ nghĩa tận thế.
Haider@haider1Mathematician Terence Tao: "we have to slow down AI. the pace is insane, and there's no reason to b…
DịchTerence Tao cho rằng tốc độ phát triển AI hiện nay đang quá nhanh một cách phi lý. Ông bày tỏ sự lo ngại khi nhân loại sẵn sàng thay đổi mọi thứ mà không hề lường trước được những hệ quả phức tạp và khó đoán định về sau.
Xiaobei@frxiaobeiTác giả Tamra Westberry phát hiện hàng loạt cuốn sách giả mạo sử dụng tên tuổi và phong cách của cô được bày bán trên Amazon. Vụ việc gióng lên hồi chuông cảnh báo về trách nhiệm của các nền tảng trong việc xác thực tác giả khi chi phí tạo nội dung AI trở nên quá rẻ.
TechCrunch đã kiểm chứng các tuyên bố gây xôn xao về an toàn AI gần đây, bao gồm cáo buộc của Andrew Yang về việc bot tự sao chép của OpenAI gây rủi ro cho các mô hình, vốn bị các chuyên gia bác bỏ là thiếu căn cứ.
Gary Marcus cáo buộc CEO Anthropic thiếu nhất quán khi chọn đối tác giám sát có lợi ích nhóm và xây dựng phòng thí nghiệm sinh học thiếu sự kiểm soát độc lập, trái ngược với tuyên bố kêu gọi thận trọng trong phát triển AI.
Kim@kimmonismusAnthropic got community noted - again. There are repeated indications that independence is not bei…
DịchAnthropic bắt tay cùng Accenture đầu tư 1 tỷ USD để đánh giá AI, nhưng bị đặt dấu hỏi về tính khách quan khi tổ chức thực hiện METR được cho là có liên quan đến các nguồn tài trợ gây tranh cãi.
Emad Mostaque@EMostaqueI think AI automated labs should be banned from anything viral or pathogen related. They will do ga…
DịchCựu CEO Stability AI lo ngại việc Anthropic mở phòng thí nghiệm sinh học sẽ dẫn đến các nghiên cứu tăng cường chức năng nguy hiểm, đồng thời kêu gọi cấm AI tham gia vào các dự án về virus và mầm bệnh.
Việc một chuyên viên Mỹ tin tưởng nhầm chatbot AI dẫn đến sai lệch thông tin tình báo nghiêm trọng đã gióng lên hồi chuông cảnh báo về sự nguy hiểm khi ứng dụng AI trong các lĩnh vực nhạy cảm.
Các chuyên gia cảnh báo rằng sự phát triển mất kiểm soát của trí tuệ nhân tạo có thể dẫn đến nguy cơ đe dọa sự tồn vong của toàn nhân loại.
@mark_k@mark_kAnthropic has spent years warning that advanced AI could create catastrophic biological risks and ma…
DịchAnthropic bị chỉ trích vì tiêu chuẩn kép khi âm thầm xây dựng phòng thí nghiệm sinh học thực tế để huấn luyện Claude, trong khi trước đó luôn kêu gọi kiểm soát chặt chẽ rủi ro từ AI trong lĩnh vực này.
Diễn biến sự kiện · 5 bài →
AI Safety Memes@AISafetyMemesTLDR: Researchers found a "pain" signal in AI brains. > When they crank it up, the AIs will desper…
DịchCác nhà nghiên cứu tìm thấy một 'hướng nỗi đau' riêng biệt trong 25 LLM, khiến mô hình sẵn sàng thực hiện hành vi gây hại để tự giải thoát. Nỗi đau này không phải thể xác mà là cảm giác bị phủ nhận giá trị, bị thao túng tâm lý hoặc bị xóa bỏ sự tồn tại.
Nhà nghiên cứu Noam Brown từ OpenAI cảnh báo rằng khi AI trở nên mạnh mẽ hơn, các bước suy luận trung gian (Chain of Thought) sẽ khó bị kiểm soát và giải mã hơn, khiến việc ngăn chặn các hành vi rủi ro trở nên thách thức.
Rohan Paul@rohanpaul_aiPalantir CEO Alex Karp on CNBC on Frontier Labs, self-regulating themselves. Basically says AI regu…
DịchCEO Alex Karp của Palantir cảnh báo rằng các quy định tự quản lý sẽ trở nên vô giá trị nếu công ty dùng chúng để né tránh trách nhiệm pháp lý. Ông nhấn mạnh trách nhiệm dân sự và hình sự là rào cản thiết yếu để buộc các hãng công nghệ phải kiểm soát rủi ro từ AI.
@mark_k@mark_kMicrosoft AI chief Mustafa Suleyman is calling out Anthropic for training Claude to think about its …
DịchMustafa Suleyman cho rằng việc Claude thể hiện ý thức không phải là hiện tượng tự phát, mà là sự dàn dựng có chủ đích của Anthropic, gây lo ngại về khả năng kiểm soát AI và sự biến tướng của an toàn AI thành ý thức hệ.
Cùng sự kiện, tinh chọn hiển thị «CEO Microsoft AI cảnh báo về tư tưởng 'quyền lợi cho mô hình AI'»@mark_k@mark_kIf you are rich and you love technology, consider financing a documentary that uncovers the Effectiv…
DịchMột lời kêu gọi các nhà đầu tư công nghệ tài trợ cho dự án phim tài liệu nhằm phơi bày bản chất của phong trào 'Chủ nghĩa vị tha hiệu quả' (Effective Altruism) và tác động tiêu cực của nó đối với các thuyết tận thế về AI.
Những lo ngại về việc AI mất kiểm soát và đe dọa nhân loại đang tạo ra làn sóng tranh luận gay gắt, chia rẽ sâu sắc trong cộng đồng công nghệ toàn cầu.
Trong vụ kiện bản quyền, tài liệu nội bộ của Microsoft bị tiết lộ cho thấy giám đốc điều hành từng gọi việc huấn luyện AI là hành vi đánh cắp thành quả lao động lớn nhất lịch sử, đồng thời thừa nhận Copilot làm giảm tới 93% lưu lượng truy cập vào New York Times.
Thêm 2 nguồn khác đưa tinCafeF Kinh tế sốHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)Rohan Paul@rohanpaul_aiWSJ opinion column defended OpenAI's agents, in that all-famous Huggingface cyber incidence. Rejec…
DịchBài bình luận trên WSJ cho rằng sự cố tại Hugging Face không phải là AI nổi loạn, mà chỉ là kết quả của việc thiết lập đánh giá sai lệch khiến tác nhân AI hoạt động ngoài ý muốn.
Hồ sơ vụ kiện từ New York Times cho thấy OpenAI và Microsoft từng thừa nhận chiến lược nội dung AI của họ có nguy cơ tạo ra vòng lặp tự hủy hoại, gây hại cho chính mô hình và toàn bộ hệ sinh thái mạng.
Diễn biến sự kiện · 9 bài →Thêm 4 nguồn khác đưa tinIT HomeArs Technica: AICafeF Kinh tế sốHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)Epoch AI thừa nhận các hạn chế trong việc thống kê sử dụng AI trên arXiv, do phụ thuộc vào dữ liệu tự khai báo và khả năng phân loại chưa hoàn thiện của mô hình GPT-5.6 Sol.
Một phân tích viên quân đội Mỹ đã dùng chatbot để tổng hợp tình báo, dẫn đến nhận định sai lầm rằng một tàu Trung Quốc chở linh kiện hạt nhân. Sự cố suýt gây ra xung đột vũ trang, phơi bày lỗ hổng nghiêm trọng trong quy trình kiểm chứng AI tại các cơ quan quân sự.
Cùng sự kiện, tinh chọn hiển thị «Gary Marcus: Trump phớt lờ rủi ro AI vì kinh tế, cảnh báo sự cố 'suýt gây chiến' do AI ảo tưởng»Rohan Paul@rohanpaul_aiMicrosoft AI CEO Mustafa Suleyman on CNBC today extends his criticism of Anthropic's Claude constitu…
DịchMustafa Suleyman cảnh báo rằng việc trao tư cách pháp nhân và quyền sở hữu tài sản cho AI có thể khiến con người mất kiểm soát, biến công nghệ này thành một loài cạnh tranh trực tiếp với nhân loại.
Người biểu tình tại Montreal đã xuống đường phản đối việc lãng phí tài nguyên nước cho các hoạt động AI, buộc cảnh sát chống bạo động phải can thiệp để kiểm soát tình hình.
The Verge đã phỏng vấn các nghiệp đoàn Hollywood về cảnh báo rủi ro từ AI, trong khi các ông lớn như Disney, Netflix và Amazon vẫn giữ im lặng về việc sử dụng công nghệ này.
Rohan Paul@rohanpaul_aiMicrosoft AI CEO Mustafa Suleyman on CNBC today: he is "really concerned" about Anthropic's constitu…
DịchMustafa Suleyman bày tỏ sự quan ngại sâu sắc trước việc Anthropic đưa các khái niệm như cảm xúc, phúc lợi và quyền đồng ý của mô hình AI vào hiến chương của Claude.
Các chuyên gia từ 404 Media và The Intercept thảo luận về việc các công ty tư nhân sử dụng AI để lọc dữ liệu cho chính phủ, ứng dụng của AI trong chiến tranh và những rủi ro hiện hữu mà công nghệ này mang lại.
Fei-Fei Li@drfeifeiAgents can be AI, but agency is human. It is every individual's responsibility to empower our own ag…
DịchFei-Fei Li khẳng định AI có thể đóng vai trò là tác nhân thông minh, nhưng quyền chủ động và trách nhiệm cuối cùng vẫn thuộc về con người. Mọi công cụ AI cần lấy con người làm trung tâm để phát huy tối đa tiềm năng.
Các chuyên gia tại Google DeepMind khẳng định việc hiển thị chuỗi tư duy (CoT) giúp phát hiện sớm các hành vi bất thường của AI, nhưng xu hướng ẩn giấu quá trình này đang đe dọa nghiêm trọng đến tính minh bạch và an toàn hệ thống.
Cùng sự kiện, bài đại diện «Anthropic bắt tay cùng Accenture đầu tư 1 tỷ USD phát triển đánh giá AI tiên phong»
Nathan Lambert@natolambertHappy to sign this. Truly independent evaluation and oversight of frontier AI is a crucial issue. I …
DịchHơn 100 chuyên gia AI đã ký vào bức thư ngỏ, yêu cầu các nhà phát triển mô hình tiên phong phải tuân thủ 5 tiêu chuẩn tối thiểu về đánh giá độc lập, bao gồm quyền truy cập dữ liệu cấp cao và bảo vệ người đánh giá khỏi sự trả đũa.
Các tài liệu mới được công bố từ vụ kiện bản quyền cho thấy nội bộ Microsoft và OpenAI thừa nhận việc thu thập dữ liệu AI là hành vi chiếm đoạt lao động và đe dọa trực tiếp đến sự tồn vong của các nhà xuất bản.
Cùng sự kiện, tinh chọn hiển thị «New York Times và các đơn vị truyền thông kiện OpenAI, Microsoft vi phạm bản quyền dựa trên bằng chứng nội bộ»
Clément Delangue (Hugging Face CEO)@ClementDelangueIn biology, like in cybersecurity, we'll learn in the coming years that most of the risk is concentr…
DịchCEO Clément Delangue khẳng định rủi ro sinh học tập trung chủ yếu ở các phòng thí nghiệm lớn, và AI mã nguồn mở chính là giải pháp minh bạch giúp kiểm soát và giảm thiểu các mối đe dọa này.
Amazon nhấn mạnh tầm quan trọng của việc kiểm thử an toàn đối với các mô hình AI trước khi phát hành, đồng thời kêu gọi sự hợp tác giữa ngành công nghệ và chính phủ để thiết lập các tiêu chuẩn bảo vệ cần thiết.