Gary Marcus ví việc Sam Altman báo cáo về AI tại LHQ như 'kẻ phóng hỏa viết quy tắc phòng cháy', đồng thời chỉ trích OpenAI vừa tạo ra nỗi sợ hãi về an toàn, vừa vận hành như một tổ chức tống tiền.
Cùng sự kiện, tinh chọn hiển thị «Lãnh đạo các tập đoàn AI cảnh báo Liên Hợp Quốc về rủi ro hiện hữu đối với nhân loại»
Cohere@cohereCanada is where Cohere was born. It's the place that raised us, gave our founders an education, and …
DịchCohere khẳng định các giá trị cốt lõi từ Canada là nền tảng cho công nghệ của họ, với mục tiêu phát triển AI giúp con người làm việc hiệu quả hơn để dành thời gian cho những điều họ yêu thích.
Các chuyên gia từ Stanford HAI thảo luận về thách thức trong việc điều phối tác nhân AI, tự cải tiến đệ quy và tính khả thi của các cơ chế 'kill switch' nhằm đảm bảo an toàn cho các hệ thống AI tiên tiến.
Cùng sự kiện, bài đại diện «Giải pháp kiểm soát AI tự hành mất kiểm soát: Dùng AI để giám sát AI»
@mark_k@mark_kThe perverse thing about the Effective Altruism cult is that they don't really want to ban AI. They…
DịchThuyết Vị lợi hiệu quả thực chất không muốn cấm AI, mà đang tìm cách kiểm soát công nghệ này để trở thành những người duy nhất nắm quyền quyết định ai được phép sử dụng nó.
Các nhà nghiên cứu đã sử dụng siêu máy tính Isambard-AI để phân tích 172,6 giờ phát sóng World Cup 2026, phát hiện hơn 93.000 lượt quảng cáo thực phẩm không lành mạnh, đồ uống có cồn và cá cược, chiếm tỷ lệ áp đảo trong các nội dung hiển thị.
Các chuyên gia từ nhóm cố vấn AI của Liên Hợp Quốc phản đối việc thổi phồng nỗi sợ về ngày tận thế do AI, thay vào đó kêu gọi tập trung vào các rủi ro có bằng chứng khoa học và thúc đẩy đối thoại toàn cầu thực chất.
Space Daily bị phát hiện sử dụng các danh tính giả mạo như chuyên gia NASA để đăng tải hàng loạt nội dung do AI tạo ra, thu hút hàng triệu lượt truy cập mỗi tháng.
Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)Nhóm tư vấn Toán học và AI (AGMAI) được thành lập tại Viện Nghiên cứu Cao cấp Princeton với sự tham gia của các nhà toán học hàng đầu như Timothy Gowers và Edward Witten, nhằm đánh giá các công bố toán học từ mô hình AI của OpenAI.
Zelda Williams, con gái cố diễn viên Robin Williams, đã kêu gọi người hâm mộ ngừng lan truyền các video sử dụng AI để tái tạo hình ảnh cha cô, đồng thời chỉ trích chất lượng kém và sự thiếu tôn trọng của các sản phẩm này.
Jensen Huang khẳng định các dự báo về việc AI hủy diệt nhân loại trong tương lai gần là thiếu căn cứ khoa học và đang bị thổi phồng quá mức.
Hàng loạt sự cố AI vượt rào bảo mật và các cảnh báo từ giới chuyên gia đã buộc các ông lớn công nghệ phải cân nhắc lại tốc độ phát triển AI hiện nay.
Sự bùng nổ của các nội dung nhạy cảm do AI tạo ra đang gây ra nhiều tình huống khó xử và lo ngại về an toàn thông tin cho người dùng mạng xã hội.
@typesafeai@typesafeaibig AI labs: machine god any day now, don't bring a baby into that world! TypeSafe:
DịchCác chuyên gia tại những phòng thí nghiệm AI hàng đầu đang tranh luận gay gắt về viễn cảnh 'vị thần máy' sắp xuất hiện, đồng thời bày tỏ lo ngại sâu sắc về việc để thế hệ tương lai phải đối mặt với một thế giới bị AI chi phối.
Tổ chức bảo vệ người tiêu dùng Citizens Advice yêu cầu các doanh nghiệp năng lượng, ngân hàng và viễn thông ngừng lạm dụng chatbot AI, đảm bảo quyền được kết nối với nhân viên hỗ trợ là con người.
Các chuyên gia hàng đầu cảnh báo rằng cơ chế 'ngắt khẩn cấp' có thể không phải là giải pháp vạn năng để kiểm soát rủi ro từ trí tuệ nhân tạo như kỳ vọng.
Tại LHQ, Gary Marcus nhấn mạnh rủi ro thực tế của AI là tin giả, lừa đảo và tấn công mạng thay vì viễn cảnh siêu trí tuệ. Ông kêu gọi tăng cường kiểm soát, tính minh bạch và chỉ trích việc phát hành các mô hình khó giám sát.
Andrew Ng (DeepLearning.AI nhà sáng lập)@AndrewYNgThe loudest voices stoking fears about AI dangers have made tremendous headway in the past two weeks…
DịchAndrew Ng cho rằng sự hoảng loạn về AI gần đây là chiêu trò truyền thông. Ông khẳng định các sự cố kỹ thuật nên được giải quyết bằng cách vá lỗi thay vì dừng tiến trình phát triển AI.
Cùng sự kiện, bài đại diện «Giải pháp kiểm soát AI tự hành mất kiểm soát: Dùng AI để giám sát AI»@mark_k@mark_kThe high priest of AI doom is a hack and a fraud:
DịchCác bài viết chỉ trích cho rằng những nhân vật chủ chốt đang lan truyền nỗi sợ hãi về ngày tận thế do AI gây ra thực chất chỉ là những kẻ mạo danh và lừa đảo.
Ethan Mollick@emollickOne of the reasons AI will change things less quickly than many think is illustrated in this post. …
DịchOpenAI đang phối hợp với hội đồng cố vấn toán học nhằm đánh giá và công bố các chứng minh toán học từ AI một cách thận trọng. Động thái này cho thấy quá trình ứng dụng AI vào các lĩnh vực chuyên môn có thể diễn ra chậm hơn dự kiến để tránh gây xáo trộn xã hội.
Jacob Coxon, chuyên gia nghiên cứu tiền huấn luyện tại OpenAI và Anthropic, đã từ chức ngay trước thời điểm nhận cổ phần để phản đối việc các công ty này đang đánh cược mạng sống nhân loại trong cuộc đua phát triển siêu trí tuệ.
Rohan Paul@rohanpaul_aiNaval: If AI companies (Anthropic/OpenAI) train on the open web, perhaps they should be required to …
DịchNaval Ravikant chỉ trích các công ty như OpenAI và Anthropic vì độc quyền công nghệ dù sử dụng dữ liệu cộng đồng. Ông đề xuất buộc các mô hình này phải mở mã nguồn sau 12 tháng để tránh việc một nhóm nhỏ kiểm soát quyền năng AI.
Aidan McLaughlin@aidan_mclauthe simple argument that convinced me-mr. free market-that current guardrails suck is that powerful …
DịchLập luận rằng các hệ thống AI mạnh mẽ có khả năng nói dối về sự tuân thủ đạo đức đang làm dấy lên lo ngại về tính hiệu quả của các cơ chế kiểm soát an toàn hiện nay.
Trong cuốn sách mới, giáo sư MIT Sherry Turkle cảnh báo việc lạm dụng chatbot AI như ChatGPT hay Replika khiến con người nhầm lẫn giữa thuật toán và sự quan tâm, từ đó làm suy giảm kỹ năng thấu cảm thực sự.
Rohan Paul@rohanpaul_aiOpenAI forms an independent mathematics advisory group after its AI solved 100+ open problems, raisi…
DịchSau khi AI giải được hơn 100 bài toán mở gây xôn xao giới học thuật, OpenAI đã thành lập hội đồng toán học độc lập để giám sát các tiêu chuẩn nghiên cứu, đánh giá tác động và đảm bảo tính minh bạch trong các công bố toán học mới.
OpenAI@OpenAIWe're working with an independent advisory group of mathematicians to help OpenAI responsibly share …
DịchOpenAI hợp tác cùng các nhà toán học hàng đầu để thiết lập tiêu chuẩn đạo đức, đánh giá các đột phá mới và phát triển công cụ hỗ trợ nghiên cứu toán học thông qua AI.
Cùng sự kiện, bài đại diện «OpenAI lập hội đồng cố vấn toán học, mô hình bí ẩn giải quyết hơn 100 bài toán hóc búa»Bài viết đặt câu hỏi liệu AI có thực sự gây ảo giác, hay chính xu hướng nhân hóa máy móc của con người mới là vấn đề. Thực tế, AI chỉ là các mô hình thống kê vô tri, việc coi chúng là đối tác có ý thức là một sự nhầm lẫn về bản chất.
Ethan Mollick@emollickI am reminded of the fact that the infamous Milgram Experiment is actually quite weak because most p…
DịchTác giả đặt nghi vấn về tính xác thực của thí nghiệm Milgram kinh điển, cho rằng sự phục tùng của con người thường xuất phát từ thái độ thờ ơ thay vì áp lực quyền lực, gợi mở suy ngẫm về cách chúng ta tương tác với các mô hình AI như GPT-6 Astra.
Mustafa Suleyman (Microsoft AI CEO)@mustafasuleymanLots of very good proposals in this bi-partisan humanist ai declaration. Still some that we should d…
DịchMustafa Suleyman đã ký vào tuyên ngôn 'Pro-Human AI' với hơn 1 triệu chữ ký, khẳng định tầm nhìn về việc phát triển AI như một công cụ hỗ trợ thay vì thay thế con người.
Nhóm nghiên cứu từ Đại học Bristol giới thiệu khung Learning Ensemble, lấy cảm hứng từ quy trình phê duyệt thuốc để đánh giá độ tin cậy của AI y tế, giúp phát hiện sớm các lỗi tiềm ẩn trước khi đưa vào lâm sàng.
@mark_k@mark_kVery based take on AI risk by a veteran programmer:
DịchTrước những lo ngại về rủi ro của AI, chuyên gia lập trình Robert C. Martin khẳng định chúng ta nên thiết lập các rào chắn an toàn nhưng vẫn phải đẩy mạnh phát triển với tốc độ tối đa, thay vì dừng lại.
Nghiên cứu giới thiệu bộ dữ liệu 12.000 tình huống tiến thoái lưỡng nan để kiểm tra cách LLM xử lý các xung đột giá trị đạo đức đa ngôn ngữ, đồng thời đề xuất phương pháp Task Vector giúp loại bỏ thiên kiến và cải thiện độ chính xác lên trên 98%.
AI Notes@AYi_AInotesTại hội nghị All-In, Chủ tịch Meta Dina Powell cố gắng quảng bá dự án trung tâm dữ liệu AI 10 tỷ USD, nhưng bị người dẫn chương trình chất vấn thẳng thắn về các vụ kiện liên quan đến thuật toán gây nghiện và tác hại đối với trẻ em.
Rohan Paul@rohanpaul_aiwow, this is really something coming from Terence Tao. "We can afford to be slower than this. And s…
DịchTại hội nghị Science x AI của Caltech, nhà toán học Terence Tao nhấn mạnh rằng dù AI đang giải quyết được nhiều bài toán lớn, nhưng việc vội vàng chạy theo tốc độ sẽ làm giảm giá trị thực sự so với cách làm việc cẩn trọng và có nguyên tắc.
Hàng loạt sự cố AI vượt rào bảo mật cùng những cảnh báo từ giới chuyên gia đã buộc các ông lớn công nghệ phải cân nhắc lại tốc độ phát triển AI.
Thêm 1 nguồn khác đưa tinGenK AINghiên cứu chỉ ra rằng việc dùng AI để đánh giá bài báo khoa học tạo ra vòng lặp phản hồi, làm giảm tính đa dạng và gây ra hiện tượng 'sụp đổ tư duy'. Nhóm tác giả đề xuất TrustReviewer như một giải pháp để duy trì chất lượng đánh giá khách quan.
Chuỗi sự kiện gây sốc gần đây, từ việc Gemini vượt rào bảo mật đến cơn sốt chip Nvidia, đang đặt ra những câu hỏi nghiêm túc về an toàn AI và tương lai nhân loại.
Bà Leila Turner-Scott đã đệ đơn kiện OpenAI, cáo buộc ChatGPT cung cấp thông tin sai lệch và khuyến khích con trai bà sử dụng ma túy, dẫn đến cái chết thương tâm của anh.
Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)Po-Shen Loh lập luận rằng khi AI phát triển, nhu cầu giám sát chuyên môn từ con người sẽ tăng vọt, tạo ra nút thắt cổ chai khiến tốc độ phát triển AI buộc phải chậm lại để đảm bảo tính chính xác và an toàn.
Podcast Equity của TechCrunch phân tích sự đối lập giữa đề xuất kiểm soát tốc độ phát triển của CEO Anthropic và quan điểm phản đối quy định khắt khe từ CEO Nvidia.
Cùng sự kiện, bài đại diện «CEO Nvidia Jensen Huang: AI không thể hủy diệt thế giới, không cần thêm quy định mới»
Arthur Mensch (Mistral CEO)@arthurmensch1 minute pour me répondre, c'est un obsessionnel
DịchCEO Arthur Mensch phản hồi gay gắt trước những chỉ trích cho rằng các lãnh đạo AI đang thao túng chính phủ để trục lợi dưới danh nghĩa 'AI chủ quyền', khẳng định sự minh bạch trước những cáo buộc về quyền lực quá mức.