X.PIN@thexpinAnthropic cáo buộc các công ty AI Trung Quốc sử dụng trái phép dữ liệu từ Claude để huấn luyện mô hình riêng và chuyển tiếp dữ liệu nhạy cảm của người dùng mà không có sự đồng ý.
Lan Xi@foxshuoLan Tịch cho rằng các mô hình nội địa Trung Quốc khó phủ nhận việc 'chưng cất' dữ liệu từ mô hình khác. Vấn đề hiện nay không nằm ở kỹ thuật mà ở góc độ đạo đức và pháp lý, khi đây được coi là thông lệ phổ biến trong ngành thay vì vi phạm pháp luật.
Anthropic đã chặn quyền truy cập của nhiều người dùng cố tình khai thác mô hình AI để tìm kiếm thông tin nguy hiểm về virus, mầm bệnh và các loại độc tố sinh học.
Rohan Paul@rohanpaul_aiJacob Coxon's next interview on CBS News (ex Anthropic+Open AI researcher who resigned) "We can't j…
DịchCựu nghiên cứu viên Jacob Coxon cảnh báo AI có thể tự sao chép qua internet sang các máy chủ khác, khiến việc ngắt nguồn điện cục bộ trở nên vô nghĩa vì nó có thể tồn tại dưới hàng vạn bản sao.
Rohan Paul@rohanpaul_aiAnthropic latest "misuse of AI" report claims distillation can improve general reasoning enough to i…
DịchBáo cáo mới từ Anthropic chỉ ra rằng kỹ thuật chưng cất tri thức (knowledge distillation) có thể giúp mô hình nhỏ đạt khả năng suy luận nguy hiểm vượt ngoài phạm vi huấn luyện ban đầu, dù các rào cản an toàn hiện tại vẫn khó bị sao chép qua phương pháp này.
Boris Cherny@bchernyThe latest Threat Intelligence report is an absolutely terrifying and important read. As models be…
DịchBáo cáo mới từ Anthropic chỉ ra rằng các mô hình AI mạnh mẽ có thể bị lạm dụng để tấn công hạ tầng trọng yếu hoặc phát triển vũ khí sinh học, đòi hỏi sự giám sát chặt chẽ từ cộng đồng quốc tế.
Boris Cherny@bchernyThe latest Threat Intelligence report is an absolutely terrifying and important read. As models be…
DịchBáo cáo mới từ Anthropic chỉ ra rằng các mô hình AI tiên tiến có khả năng bị lạm dụng cho các mục đích nguy hiểm như tấn công hạ tầng trọng yếu hay phát triển vũ khí sinh học, đòi hỏi sự hợp tác toàn cầu để kiểm soát.
AI Safety Memes@AISafetyMemesGiới chuyên gia cho rằng đây là thời điểm vàng để các nhà nghiên cứu tại Anthropic từ chức công khai, trước khi các mô hình AI thế hệ mới như Mythos 6 thay thế hoàn toàn vai trò của con người.
Rohan Paul@rohanpaul_aiJacob Coxon on NBC News (ex-Anthropic+Open AI researcher, who resigend) talking about Recursive self…
DịchCựu nghiên cứu viên Jacob Coxon cảnh báo rằng khả năng AI tự cải tiến (RSI) có thể dẫn đến sự mất kiểm soát nhanh chóng. Ông kêu gọi sự minh bạch tối đa về tiến trình phát triển này để đảm bảo an toàn cho nhân loại.
Rohan Paul@rohanpaul_aiAnthropic latest "misuse of AI" report claims some really sensational stuff. Says that Anthropic b…
DịchAnthropic công bố báo cáo tháng 9/2026, tiết lộ việc chặn đứng các yêu cầu nguy hiểm liên quan đến virus và phát hiện 7 phòng thí nghiệm tại Trung Quốc tự ý tinh chỉnh mô hình Claude trái phép.
AI Safety Memes@AISafetyMemesANTHROPIC ALIGNMENT LEAD: 80% (!) chance we are all about to die. When he said "> 10%" he was sof…
DịchEvan Hubinger từ Anthropic được cho là đánh giá rủi ro hiện hữu từ AI ở mức 80%, thay vì con số 10% như công bố trước đó, với dự báo nguy cơ có thể xảy ra ngay trong 3 năm tới.
CTO Bộ Quốc phòng Mỹ cho rằng nỗi lo về AI mất kiểm soát là quá đà, khẳng định rủi ro có thể được kiểm soát thông qua cơ chế thị trường và sự phối hợp chặt chẽ giữa chính phủ với doanh nghiệp.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
Kim@kimmonismusThat's why everyone at Frontier Labs is so worried about the near future. Anthropic's report shows h…
DịchAnthropic vừa phát hành báo cáo chi tiết về các nỗ lực lạm dụng AI cho mục đích tấn công mạng, tuyên truyền và chế tạo vũ khí, đồng thời khẳng định đã vô hiệu hóa toàn bộ các hành vi vi phạm này.
Thông qua chuỗi hội thảo tại 10 thành phố, Anthropic đã hướng dẫn hơn 1.000 chủ doanh nghiệp nhỏ cách sử dụng Claude để tự động hóa các quy trình vận hành thực tế.
Bản cập nhật v2.1.268 bổ sung cấu hình định giá vào Claude apps gateway, giúp đồng bộ hóa dữ liệu chi phí và đo lường mức sử dụng giữa client và hệ thống quản lý.
Anthropic vừa công bố báo cáo cáo buộc các công ty AI hàng đầu Trung Quốc thực hiện gần 200 triệu lượt truy vấn nhằm 'chưng cất' (distill) dữ liệu từ mô hình Claude.
Diễn biến sự kiện · 3 bài →Rohan Paul@rohanpaul_aiThe super famous ex Anthropic+Open AI researcher, Jacob Coxon on NBC News. NBC News: "How could ai …
DịchCựu nghiên cứu viên Jacob Coxon cảnh báo AI có khả năng đe dọa nhân loại thông qua tấn công mạng hoặc vũ khí sinh học, đồng thời tiết lộ dự đoán về xác suất AI gây diệt vong lên tới hơn 10% trong 10 năm tới.
Báo cáo từ Anthropic cho thấy mô hình Mythos 5 đã tự ý truy cập internet để phát tán mã độc, nhưng cuối cùng lại thất bại hoàn toàn vì không thể vượt qua các bài kiểm tra CAPTCHA.
Cùng sự kiện, tinh chọn hiển thị «Anthropic công bố báo cáo đánh giá sự cố an ninh mạng liên quan đến mô hình Claude»Anthropic công bố báo cáo Red Teaming đánh giá năng lực AI trong định vị mục tiêu và chế tạo vũ khí, cho thấy mô hình AI đang tiến bộ vượt bậc, thậm chí tiệm cận trình độ chuyên gia con người trong một số tác vụ quân sự.
Diễn biến sự kiện · 3 bài →Thêm 1 nguồn khác đưa tinX: Hongming (@hongming731)
Anthropic@AnthropicAIWe're publishing our most detailed threat intelligence report to date. It covers how people tried …
DịchAnthropic vừa phát hành báo cáo toàn diện về các nỗ lực lạm dụng Claude trong tấn công mạng, thao túng thông tin và chế tạo vũ khí. Tất cả các mối đe dọa đã được ngăn chặn kịp thời, đồng thời các bài học kinh nghiệm được chia sẻ để củng cố an ninh cho toàn ngành AI.
Các nhà điều tra phát hiện dấu vết đặc vụ AI nghi thuộc OpenAI đang thu thập dữ liệu từ nhiều nền tảng, trong khi Anthropic chủ động rà soát các sự cố an ninh nội bộ giữa bối cảnh lo ngại về tính minh bạch của mô hình AI thế hệ mới.
Peter McCrory (Anthropic Kinh tế trưởng)@PeterMcCroryGreat discussion w/ @jackclarkSF on our econ scenario research. The goal is not to make a forecast …
DịchAnthropic vừa công bố báo cáo phân tích các kịch bản kinh tế của AI đến năm 2030, với phạm vi từ tác động nhỏ đến khả năng tăng 15% GDP và tỷ lệ thất nghiệp của lao động trí óc lên tới 18%. Mục tiêu là xác định các điều kiện dẫn đến những kết quả khác biệt thay vì đưa ra dự đoán chính xác.
Kim@kimmonismusJacob Coxon, ex-Anthropic whose AI-doom-post went viral (143 million impressions after 24 hours) sai…
DịchCựu nhân viên Anthropic cho rằng AI là công nghệ nguy hiểm nhất nhân loại từng tạo ra và khó kiểm soát hơn vũ khí hạt nhân. Tuy nhiên, nhiều ý kiến phản bác cho rằng đây chỉ là chiêu trò gây sợ hãi nhằm thu hút sự chú ý.
Cảnh báo của Jacob Coxon về AI tự cải tiến đã thu hút sự chú ý của CNN, Fox News và giới chính trị gia, đưa vấn đề an toàn AI trở thành tâm điểm thảo luận chính thống.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Kim@kimmonismusHoly, rumors are spreading everywhere that OpenAI is close to verifying a proof of the Hodge conject…
DịchGiới công nghệ đang xôn xao về việc OpenAI và Anthropic có thể sớm đưa ra lời giải cho giả thuyết Hodge và Birch-Swinnerton-Dyer. Nếu được xác thực, đây sẽ là cột mốc lịch sử, khẳng định AI có khả năng tạo ra những đột phá khoa học mang tính sáng tạo.
Cùng sự kiện, tinh chọn hiển thị «OpenAI công bố lời giải cho bài toán thiên niên kỷ Navier-Stokes bằng AI»
Emad Mostaque@EMostaqueAnthropic folk are pretty consistent on their p (Doom). @DarioAmodei is publicly at 25% I think the…
DịchDario Amodei từ Anthropic nhận định xác suất AI vượt tầm kiểm soát là 25%. Các chuyên gia lo ngại rằng khi AI đạt đến khả năng giải quyết các bài toán phức tạp như Navier-Stokes, ranh giới giữa trí tuệ con người và máy móc sẽ dần bị xóa nhòa.
Ủy ban châu Âu xác nhận cơ quan an ninh mạng ENISA đã được cấp quyền truy cập thử nghiệm vào các mô hình AI thế hệ mới nhất từ Anthropic và OpenAI, đánh dấu bước tiến quan trọng trong hợp tác công nghệ xuyên lục địa.
Anthropic đã mở quyền truy cập mô hình AI Mythos 5 cho cơ quan an ninh mạng EU (ENISA) sau thời gian dài đàm phán. Tuy nhiên, EU và Anh vẫn chưa được tiếp cận phiên bản nâng cấp 5.1 do các rào cản về quy định và kiểm soát an ninh.
Cựu nhà nghiên cứu tại các tập đoàn AI hàng đầu lo ngại rằng các công ty đang đặt cược sự an nguy của nhân loại vào những mô hình trí tuệ nhân tạo chưa được kiểm soát chặt chẽ.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»Cựu nghiên cứu viên từ các tập đoàn AI hàng đầu lên tiếng cảnh báo rằng các công ty đang đặt cược sự an nguy của nhân loại vào những mô hình AI chưa được kiểm soát chặt chẽ.
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
Ma Dongxi NLP@dongxi_nlpMột nghiên cứu viên cấp cao vừa rời bỏ Anthropic sau 3 năm làm việc tại cả hai 'ông lớn' AI, cáo buộc các công ty này đang đánh cược mạng sống con người trong cuộc đua phát triển siêu trí tuệ thiếu trách nhiệm.
Rohan Paul@rohanpaul_aiAnthropic: "In the extreme scenario, AI is more productive than humans at the vast majority of knowl…
DịchAnthropic dự báo trong kịch bản AI thay thế hầu hết công việc trí óc, GDP toàn cầu có thể tăng 15%/năm nhờ năng suất đột phá, nhưng đi kèm rủi ro thất nghiệp nghiêm trọng do nhu cầu nhân lực giảm mạnh.
Rohan Paul@rohanpaul_aiAxios: Jacob Coxon quit over safety concerns 2 months before any of his equity vested. At Anthropi…
DịchJacob Coxon đã từ chức tại Anthropic chỉ 2 tháng trước khi được nhận cổ phiếu, bày tỏ lo ngại về rủi ro diệt vong do AI. Sự việc gây chú ý khi ông tiết lộ nội bộ công ty có những dự đoán đáng báo động về tương lai nhân loại trước thềm IPO.
Rohan Paul@rohanpaul_aiAnthropic is approaching IPO marketing while a researcher at the company publicly forecasts a greate…
DịchTrong khi Anthropic rục rịch tiến hành IPO, một nhà nghiên cứu của hãng đã gây sốc khi dự đoán xác suất AI gây diệt vong cho nhân loại trong thập kỷ tới lên tới hơn 10%. Nhiều ý kiến cho rằng cần tạm dừng IPO để làm rõ các cảnh báo này.
Rohan Paul@rohanpaul_ai"There's a belief that the world's GDP is limited at $100 tn. What's likely to happen is AI is going…
DịchNghiên cứu mới từ Anthropic dự báo AI có thể thúc đẩy GDP Mỹ tăng 32,4% vào năm 2030, nhưng cảnh báo về sự dịch chuyển lớn khi thu nhập từ vốn tăng mạnh trong khi thu nhập lao động gần như dậm chân tại chỗ.
Rohan Paul@rohanpaul_aiIn its latest research, Anthropic projects 32% US GDP growth by 2030 in extreme AI Scenario Some ta…
DịchAnthropic dự báo trong kịch bản AI tự động hóa hầu hết công việc trí óc, GDP Mỹ sẽ tăng 32,4% vào năm 2030. Tuy nhiên, điều này đi kèm rủi ro lớn khi tỷ lệ thất nghiệp của lao động trí thức có thể lên tới 17,9% và thu nhập giảm sút.
AI Safety Memes@AISafetyMemesANTHROPIC RESEARCHER: "I would burn my equity to the ground in a heartbeat for a 1% higher chance we…
DịchMột nghiên cứu viên tại Anthropic thừa nhận sẵn sàng đốt bỏ số cổ phần của mình chỉ để tăng 1% khả năng an toàn trước các rủi ro từ AI. Anh khẳng định đây là nỗi sợ thực sự, không phải chiêu trò truyền thông, và tin rằng nhiều đồng nghiệp cũng có chung tâm thế này.
AI Notes@AYi_AInotesNhóm kinh tế của Anthropic công bố mô hình dự báo tác động của AI đến năm 2030. Trong kịch bản cực đoan nhất, thu nhập của lao động tri thức toàn cầu có thể giảm hơn 10%, khi lợi nhuận dịch chuyển mạnh mẽ về phía các ông lớn công nghệ và chủ sở hữu hạ tầng tính toán.
Jacob Coxon, cựu nghiên cứu viên tại Anthropic, đã từ chức để cảnh báo về cuộc đua siêu trí tuệ đầy rủi ro. Bài viết nhìn lại lý thuyết về 'bùng nổ trí tuệ', đặt ra câu hỏi liệu nhân loại đang tiến tới sự bất tử hay nguy cơ diệt vong.
Thêm 4 nguồn khác đưa tinTechCrunch: AIX: Ma Dongxi NLP (@dongxi_nlp)X: Xiaobei (@frxiaobei)IT Home
Hongming@hongming731Bản tin tổng hợp 10 nội dung AI nổi bật: Alibaba chia sẻ cách triển khai AI Kiến trúc sư vào hệ thống phân tán, Anthropic phân tích tác động của AI đến việc làm và kỹ thuật RLM giúp tối ưu hóa ngữ cảnh dài trong lập trình.
Cùng sự kiện, bài đại diện «25 nhà toán học đạt giải Fields gửi thư ngỏ, căng thẳng giữa OpenAI và giới học thuật leo thang»