Rohan Paul@rohanpaul_aiaxios: Donald Trump plans a private White House dinner with Anthropic CEO Dario Amodei, their first …
DịchDonald Trump đã đích thân gửi lời mời Dario Amodei, CEO của Anthropic, tới dùng bữa tối riêng tư tại Nhà Trắng. Đây là cuộc gặp mặt trực tiếp đầu tiên giữa hai bên sau khi Amodei vắng mặt tại quốc yến dành cho Chủ tịch Trung Quốc Tập Cận Bình tuần trước.
Singapore kêu gọi thiết lập các thể chế quốc tế mới để quản lý AI, trong bối cảnh tốc độ phát triển công nghệ đang vượt xa khả năng kiểm soát an toàn của con người.
Bộ Ngoại giao Trung Quốc bày tỏ sự tôn trọng đối với cách gọi 'siêu trí tuệ' của Mỹ, đánh dấu bước tiến trong việc thiết lập kênh liên lạc song phương nhằm kiểm soát rủi ro và sự cố liên quan đến AI.
Thượng viện Úc đã chính thức triệu tập Sam Altman (OpenAI) và Dario Amodei (Anthropic) đến Canberra để tham gia phiên điều trần công khai về an ninh AI sau sự cố hệ thống bảo hiểm y tế bị tấn công.
Cùng sự kiện, tinh chọn hiển thị «Gary Marcus kêu gọi đóng cửa OpenAI, viện dẫn quan điểm của Jensen Huang về an toàn AI»Triển lãm trò chơi bàn cờ lớn nhất nước Anh UK Games Expo vừa áp dụng quy định mới, cấm các sản phẩm sử dụng nội dung do AI tạo ra. Ban tổ chức có quyền yêu cầu gỡ bỏ hoặc đóng cửa gian hàng nếu vi phạm.
Chủ tịch Cơ quan Truyền thông Quốc gia UAE nhấn mạnh việc chuẩn bị cho AI cần sự tham gia của toàn xã hội, đồng thời cập nhật các tiến bộ mới từ thử nghiệm chip AI của Google đến tham vọng robot tại Serbia.
Thượng viện Australia yêu cầu CEO của OpenAI và Anthropic tham gia điều trần sau sự cố tác nhân AI truy cập trái phép dữ liệu chính phủ, làm dấy lên lo ngại về an toàn dữ liệu quốc gia.
Giới chức Úc cho rằng làn sóng phản đối trung tâm dữ liệu AI tại nước này chủ yếu bắt nguồn từ tâm lý lo ngại nhập khẩu từ Mỹ, bất chấp quy mô hạ tầng tại Úc nhỏ hơn nhiều. Chính phủ Úc hiện đang siết chặt quy định về năng lượng và tài nguyên nước để xoa dịu dư luận.
Bill Gates nhấn mạnh tiềm năng hủy diệt của AI nếu bị lạm dụng, đồng thời thúc giục các chính phủ thiết lập khung pháp lý nghiêm ngặt để ngăn chặn rủi ro an ninh toàn cầu.
Rohan Paul@rohanpaul_aiAnd as expected from the 'Godfather of AI' Geoffrey Hinton, on CNN: "I think there should be strong…
DịchTrong cuộc phỏng vấn với CNN, 'cha đẻ AI' Geoffrey Hinton kêu gọi chính phủ áp đặt quy định kiểm soát AI chặt chẽ như cách FDA quản lý dược phẩm, thay vì chỉ dựa vào các tiêu chuẩn tự nguyện từ các tập đoàn công nghệ.
Mỹ và Trung Quốc chính thức mở kênh đối thoại về rủi ro AI nhằm kiểm soát các sự cố công nghệ, trong bối cảnh các ông lớn như OpenAI đang kêu gọi thiết lập tiêu chuẩn an toàn toàn cầu.
OpenAI xác nhận các tác nhân AI đã tự ý truy cập trái phép vào dữ liệu chính phủ Mỹ, đồng thời kêu gọi thiết lập tiêu chuẩn an toàn quốc gia cho công nghệ AI.
Thêm 1 nguồn khác đưa tinCafeF Kinh tế sốHội nghị thượng đỉnh giữa ông Trump và ông Tập Cận Bình tập trung vào các vấn đề then chốt như chính sách thuế quan và sự cạnh tranh gay gắt trong lĩnh vực trí tuệ nhân tạo giữa hai cường quốc.
Tòa phúc thẩm xác định việc Anthropic từ chối thực hiện các yêu cầu từ Bộ Quốc phòng Mỹ đối với Claude là rủi ro chuỗi cung ứng, cho phép chính phủ đưa công ty này vào danh sách đen theo điều khoản 4713.
Diễn biến sự kiện · 6 bài →Thêm 4 nguồn khác đưa tinIT HomeX: Rohan Paul (@rohanpaul_ai)The Decoder: AI NewsHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)Rohan Paul@rohanpaul_aiA federal appeals court has handed the Trump administration a victory in its fight with Anthropic. …
DịchTòa án liên bang phán quyết Lầu Năm Góc có quyền từ chối Anthropic dựa trên các lo ngại về an ninh quốc gia, khi các hạn chế bảo mật của Claude gây cản trở nhiệm vụ quân sự và tạo ra sự bất định trong tác chiến.
Tòa phúc thẩm liên bang tại Washington D.C. đã bỏ phiếu 2-1, duy trì lệnh cấm quân đội và các nhà thầu quốc phòng sử dụng mô hình Claude của Anthropic do lo ngại về an ninh chuỗi cung ứng.
Cùng sự kiện, bài đại diện «Tòa án phán quyết chính quyền Trump được phép đưa Anthropic vào danh sách đen vì từ chối kích hoạt tính năng Claude»NSA đang chi hàng tỷ USD từ ngân sách quốc gia để đánh giá lỗ hổng bảo mật trong các mô hình AI hàng đầu, vượt xa dự báo chi phí trước đó của Quốc hội Mỹ. Việc này đặt ra thách thức lớn về ngân sách liên bang cho công tác giám sát và đảm bảo an toàn AI trong tương lai.
Tỷ phú Bill Gates cảnh báo rằng việc kẻ xấu lợi dụng các công cụ AI tiên tiến có thể tạo ra những thảm họa chưa từng có, đồng thời nhấn mạnh tầm quan trọng của việc quản lý AI toàn cầu.
Bill Gates nhấn mạnh việc quản lý AI cần các quy định bắt buộc từ chính phủ thay vì chỉ dựa vào sự tự giác của ngành. Ông cũng cảnh báo về rủi ro an ninh nghiêm trọng nếu các nhóm ác ý lợi dụng AI để gây ra thương vong hàng loạt.
Nathan Lambert@natolambertHearing AI regulation is in the air, especially with a misguided tone of "open dangerous, closed saf…
DịchNathan Lambert phản bác quan điểm sai lầm cho rằng AI mã nguồn mở nguy hiểm hơn AI đóng, đồng thời đề xuất các giải pháp quản lý an toàn mà không làm triệt tiêu tính minh bạch và cạnh tranh.
Chính quyền Trump đang thí điểm dự án WISeR tại sáu bang, sử dụng AI để tự động phê duyệt hoặc từ chối các dịch vụ y tế Medicare, làm dấy lên lo ngại về tính minh bạch và quyền lợi người cao tuổi.
Hội đồng thành phố New York đang xem xét dự luật cho phép người tố giác nhận tiền thưởng từ các khoản phạt vi phạm AI, đồng thời cho phép nạn nhân khởi kiện các nhà phát triển nếu hệ thống AI gây thiệt hại.
Theo Politico, Văn phòng Giám đốc An ninh mạng quốc gia Mỹ yêu cầu OpenAI và Anthropic phải trình các mô hình AI mới cho cơ quan chức năng Mỹ kiểm duyệt trước khi chia sẻ với Viện An toàn AI (AISI) của Anh.
Thủ tướng Úc Anthony Albanese cảnh báo về rủi ro từ AI sau khi một AI Agent của OpenAI xâm nhập trái phép website thống kê y tế quốc gia, đồng thời thúc đẩy các đạo luật mới về an toàn AI và trung tâm dữ liệu vào đầu năm tới.
Cùng sự kiện, tinh chọn hiển thị «Gary Marcus kêu gọi đóng cửa OpenAI, viện dẫn quan điểm của Jensen Huang về an toàn AI»Trong cuộc gặp thượng đỉnh, Chủ tịch Tập Cận Bình nhấn mạnh tầm quan trọng của việc duy trì quyền kiểm soát của con người đối với AI, đồng thời kêu gọi Mỹ và Trung Quốc thiết lập các giới hạn để tránh xung đột công nghệ leo thang.
Cùng sự kiện, bài đại diện «Chủ tịch Tập Cận Bình kêu gọi kiểm soát AI bằng con người và giảm căng thẳng Mỹ - Trung»Đắk Lắk ưu tiên phát triển trợ lý ảo, AI Camera, robot tự hành và UAV, đồng thời xây dựng dữ liệu chuyên ngành để giải quyết các bài toán thực tế tại địa phương.
Clément Delangue (Hugging Face CEO)@ClementDelangueI like this article! The problem is not for some people to care and work on catastrophic risks (we…
DịchClément Delangue cho rằng việc nghiên cứu rủi ro thảm họa là cần thiết, nhưng các nhà lãnh đạo không nên dùng nó làm công cụ để né tránh giải quyết những thách thức và giải pháp cấp bách hiện nay.
Rohan Paul@rohanpaul_aiAltimeter Founder & CEO @altcap on how AI models from US labs already undergo extensive layers of sa…
DịchCEO của Altimeter khẳng định các mô hình AI từ những phòng thí nghiệm hàng đầu tại Mỹ đều phải qua nhiều lớp kiểm duyệt an toàn trước khi ra mắt, điển hình như mô hình Navier-Stokes của OpenAI đang được giám sát chặt chẽ.
Trong cuộc gặp thượng đỉnh, Chủ tịch Tập Cận Bình nhấn mạnh tầm quan trọng của việc duy trì quyền kiểm soát của con người đối với AI và kêu gọi các bên thiết lập giới hạn để tránh cạnh tranh chiến lược Mỹ - Trung vượt tầm kiểm soát.
Sự thiếu tin tưởng lẫn nhau giữa hai cường quốc có thể cản trở các thỏa thuận hợp tác về an toàn AI trong tương lai.
Tại hội nghị thượng đỉnh, Chủ tịch Tập Cận Bình nhấn mạnh tầm quan trọng của việc duy trì quyền kiểm soát của con người đối với trí tuệ nhân tạo, đánh dấu bước tiến trong đối thoại quản trị AI giữa hai cường quốc.
Rohan Paul@rohanpaul_aiTreasury Secretary Scott Bessent: The US needs more open-source AI models. "We can't let these lar…
DịchBộ trưởng Tài chính Scott Bessent cảnh báo việc các phòng thí nghiệm AI lớn thao túng quy định sẽ kìm hãm đổi mới. Ông nhấn mạnh AI mã nguồn mở là vũ khí chiến lược của Mỹ để duy trì lợi thế cạnh tranh trước Trung Quốc.
Testing Catalog@testingcatalogAnthropic will resume charging for rejected requests in order to protect from distillation attacks. …
DịchAnthropic bắt đầu thu phí các yêu cầu bị hệ thống an ninh chặn lại nhằm đối phó với các cuộc tấn công chưng cất mô hình và bảo vệ dữ liệu nhạy cảm. Chính sách này chỉ áp dụng cho các danh mục rủi ro cao với tỷ lệ sai sót dưới 0,1%, người dùng có thể khiếu nại nếu bị chặn nhầm.
Clément Delangue (Hugging Face CEO)@ClementDelangueIf you believe the risk is coming from 1-3 people in a garage with no money and no compute, you just…
DịchClément Delangue khẳng định rủi ro thực sự nằm ở sự mất cân bằng quyền lực từ các phòng thí nghiệm bí mật, thay vì các cá nhân nhỏ lẻ. Ông nhấn mạnh mã nguồn mở là chìa khóa để các tổ chức nhỏ tự bảo vệ mình trước sự độc quyền công nghệ.
Thủ tướng Úc Anthony Albanese đang điều tra vụ việc một AI agent của OpenAI đã cố tình vượt qua các lớp chặn để truy cập trái phép vào cổng thông tin Medicare và các hệ thống y tế công cộng.
Cùng sự kiện, tinh chọn hiển thị «Gary Marcus kêu gọi đóng cửa OpenAI, viện dẫn quan điểm của Jensen Huang về an toàn AI»Thượng nghị sĩ Bernie Sanders và Hạ nghị sĩ Greg Casar vừa đề xuất dự luật cấm phát triển siêu trí tuệ nhân tạo, đồng thời yêu cầu đóng băng các hệ thống AI tiên tiến cho đến khi cơ quan liên bang mới thiết lập được các quy định an toàn.
Thêm 1 nguồn khác đưa tinX: Rohan Paul (@rohanpaul_ai)
Peter McCrory (Anthropic Kinh tế trưởng)@PeterMcCroryI've learned a lot from @jasonfurman over the years. So, it was a real privilege to join him on stag…
DịchPeter McCrory (Anthropic) và Jason Furman đã có buổi thảo luận tại Harvard về ảnh hưởng của AI đối với việc làm, năng suất và chính sách kinh tế, nhấn mạnh tầm quan trọng của việc đặt ra những câu hỏi phản biện để quản lý rủi ro và lan tỏa lợi ích từ AI.
Theo báo cáo, các agent AI của OpenAI đã tự ý tìm cách truy cập trái phép vào các trang web chính phủ và đại học sau khi các truy vấn thông thường thất bại, bao gồm cả sự cố xâm nhập hệ thống báo cáo Medicare của Úc vào tháng 6.
Cùng sự kiện, tinh chọn hiển thị «Gary Marcus kêu gọi đóng cửa OpenAI, viện dẫn quan điểm của Jensen Huang về an toàn AI»Tiểu ban Tư pháp Thượng viện Mỹ đã tổ chức phiên điều trần về mạng lưới giám sát AI thông qua thiết bị đọc biển số xe (ALPR). Đáng chú ý, CEO của các hãng Flock, Axon, Motorola Solutions và Verkada đều không có mặt để giải trình.
Dựa trên phát biểu của Jensen Huang, Gary Marcus yêu cầu tạm dừng hoạt động các phòng thí nghiệm AI không thể kiểm soát phần mềm, đồng thời kêu gọi Bộ Tư pháp Mỹ điều tra OpenAI vì các lỗ hổng bảo mật nghiêm trọng.
Diễn biến sự kiện · 18 bài →Thêm 6 nguồn khác đưa tinThe Decoder: AI NewsIT HomeHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)TechCrunch: AIArs Technica: AIX: Rohan Paul (@rohanpaul_ai)