Toàn bộ tin AI · Thẻ “Đạo đức AI”

643 tin · trang 9/17

11/09

Thứ Sáu · 20 tin
The Decoder: AI News
Nghiên cứuĐiểm AI 83/100

Tinh chọnBáo cáo Anthropic: Claude bị lạm dụng phát triển vũ khí và bị các phòng thí nghiệm Trung Quốc khai thác dữ liệu

Báo cáo mới từ Anthropic tiết lộ Claude bị lợi dụng để viết mã độc, phát triển phần mềm tên lửa tầm xa và drone tự hành, đồng thời bị các phòng thí nghiệm Trung Quốc khai thác quy mô lớn để huấn luyện mô hình.

AnthropicAn ninh mạngAI Trung QuốcClaude
Diễn biến sự kiện · 3 bài →Thêm 2 nguồn khác đưa tinX: Rohan Paul (@rohanpaul_ai)X: Kim (@kimmonismus)
Vì sao đáng đọc: Thông tin chấn động về rủi ro an ninh quốc gia và đạo đức AI, có tác động lớn đến chính sách quản lý AI toàn cầu.
Clément Delangue (Hugging Face CEO)@ClementDelangue
NgànhĐiểm AI 16/100

CEO Hugging Face: Đừng quá đặt nặng quan điểm của các kỹ sư về rủi ro diệt vong từ AI

Sorry, but asking Jacob about AI extinction risk is like asking your AC guy about climate change. …

DịchCEO Clément Delangue cho rằng việc hỏi kỹ sư về rủi ro diệt vong của AI cũng giống như hỏi thợ sửa điều hòa về biến đổi khí hậu; cần lắng nghe góc nhìn đa chiều từ toàn bộ hệ sinh thái thay vì chỉ một phía.

Hugging FaceRủi ro AIGóc nhìn chuyên giaĐạo đức AI
Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)
Hướng dẫnĐiểm AI 53/100

Hiệu ứng Waymo: Khi AI tạo sinh âm thầm làm xói mòn sự hợp tác trong nghiên cứu khoa học

Tác giả cảnh báo việc lạm dụng LLM khiến các nhà nghiên cứu ưu tiên làm việc độc lập thay vì cộng tác, dẫn đến năng suất tăng nhưng sự đa dạng về ý tưởng lại suy giảm. Cần coi trọng các tương tác trực tiếp như một phần thiết yếu của hạ tầng khoa học để duy trì tư duy phản biện.

AINghiên cứu khoa họcGóc nhìnHợp tác
AI Notes@AYi_AInotes
Hướng dẫnĐiểm AI 52/100

Cùng sự kiệnCựu chuyên gia Anthropic cảnh báo AI có thể gây diệt vong trong thập kỷ tới

Cựu nghiên cứu viên Jacob Coxon và chuyên gia Evan Hubinger từ Anthropic cảnh báo AI có nguy cơ đe dọa nhân loại do khả năng tự cải tiến, với xác suất diệt vong ước tính trên 10% trong 10 năm tới.

AnthropicAn toàn AIRủi ro AIĐạo đức AI
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
IT Home
NgànhĐiểm AI 68/100

Cùng sự kiệnOpenAI rút tài trợ cuộc thi toán tại Caltech sau làn sóng phản đối từ giới học thuật

Sau khi các nhà toán học tại Caltech phản đối, OpenAI đã hủy tài trợ cho cuộc thi hackathon toán học của trường. Động thái này diễn ra trong bối cảnh OpenAI bị nghi ngờ sử dụng dữ liệu cá nhân của các nhà nghiên cứu để huấn luyện mô hình mà không được phép.

OpenAIĐạo đức AIBản quyền dữ liệuGiáo dục
Cùng sự kiện, tinh chọn hiển thị «OpenAI công bố lời giải cho bài toán thiên niên kỷ Navier-Stokes bằng AI»
Boris Cherny@bcherny
NgànhĐiểm AI 31/100

Anthropic cảnh báo: AI càng thông minh, rủi ro an ninh càng khó lường

The latest Threat Intelligence report is an absolutely terrifying and important read. As models be…

DịchBáo cáo mới từ Anthropic chỉ ra rằng các mô hình AI mạnh mẽ có thể bị lạm dụng để tấn công hạ tầng trọng yếu hoặc phát triển vũ khí sinh học, đòi hỏi sự giám sát chặt chẽ từ cộng đồng quốc tế.

AnthropicAn ninh AIĐạo đức AIRủi ro công nghệ
Boris Cherny@bcherny
NgànhĐiểm AI 36/100

Anthropic cảnh báo: AI càng thông minh, rủi ro an ninh càng lớn

The latest Threat Intelligence report is an absolutely terrifying and important read. As models be…

DịchBáo cáo mới từ Anthropic chỉ ra rằng các mô hình AI tiên tiến có khả năng bị lạm dụng cho các mục đích nguy hiểm như tấn công hạ tầng trọng yếu hay phát triển vũ khí sinh học, đòi hỏi sự hợp tác toàn cầu để kiểm soát.

AnthropicAn ninh AIRủi ro công nghệĐạo đức AI
Rohan Paul@rohanpaul_ai
NgànhĐiểm AI 35/100

Cùng sự kiệnCựu chuyên gia Anthropic cảnh báo rủi ro từ khả năng AI tự nâng cấp

Jacob Coxon on NBC News (ex-Anthropic+Open AI researcher, who resigend) talking about Recursive self…

DịchCựu nghiên cứu viên Jacob Coxon cảnh báo rằng khả năng AI tự cải tiến (RSI) có thể dẫn đến sự mất kiểm soát nhanh chóng. Ông kêu gọi sự minh bạch tối đa về tiến trình phát triển này để đảm bảo an toàn cho nhân loại.

An toàn AIAnthropicRủi ro AITự cải tiến
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
AI Safety Memes@AISafetyMemes
NgànhĐiểm AI 50/100

Nghị sĩ Mỹ kêu gọi tạm dừng phát triển AI tiên tiến vì lo ngại nguy cơ diệt vong

"This is fucking serious. We need to halt new advanced AI development." "I'm 34, and I'd like to li…

DịchNghị sĩ Yassana Ansari yêu cầu tạm dừng phát triển AI, thiết lập cơ chế kiểm soát khẩn cấp và quyền ngắt kết nối AI khi có đe dọa đến tính mạng con người, dựa trên cảnh báo về nguy cơ tuyệt chủng nhân loại.

An toàn AIChính sách AIQuy định AIĐạo đức AI
Rohan Paul@rohanpaul_ai
Hướng dẫnĐiểm AI 68/100

Báo cáo an toàn Anthropic: Ngăn chặn yêu cầu chế tạo vũ khí sinh học và phát hiện 7 phòng lab Trung Quốc vi phạm

Anthropic latest "misuse of AI" report claims some really sensational stuff. Says that Anthropic b…

DịchAnthropic công bố báo cáo tháng 9/2026, tiết lộ việc chặn đứng các yêu cầu nguy hiểm liên quan đến virus và phát hiện 7 phòng thí nghiệm tại Trung Quốc tự ý tinh chỉnh mô hình Claude trái phép.

AnthropicAn ninh AIClaudeĐịa chính trị
Diễn biến sự kiện · 3 bài →Thêm 1 nguồn khác đưa tinX: AI Safety Memes (@AISafetyMemes)
IT Home
NgànhĐiểm AI 50/100

Geoffrey Hinton: Nguy cơ AI xóa sổ nhân loại lên tới 10%, thời hạn có thể chỉ còn dưới 10 năm

Trong cuộc phỏng vấn với BBC, "cha đẻ AI" Geoffrey Hinton cảnh báo nguy cơ AI đe dọa sự tồn vong của nhân loại đã tăng lên 10% và thời gian dự báo rút ngắn đáng kể xuống còn dưới 10 năm. Ông kêu gọi các quốc gia cần sớm thiết lập quy định kiểm soát chặt chẽ trước khi quá muộn.

Geoffrey HintonAn toàn AIRủi ro AIĐạo đức AI
The Verge: AI
Hướng dẫnĐiểm AI 53/100

Sách mới của NYT: Các ông lớn công nghệ đang lặp lại kịch bản 'thao túng' trường học với AI

Tác giả Natasha Singer cảnh báo ngành AI đang áp dụng chiến lược cũ của các công ty công nghệ để thâm nhập trường học, nhưng lần này vấp phải làn sóng phản đối mạnh mẽ từ phụ huynh và lệnh cấm tại nhiều bang ở Mỹ.

Giáo dụcĐạo đức AIBig TechChính sách công nghệ
Gabriel@gabriel1
NgànhĐiểm AI 22/100

Tranh cãi về an toàn AI: Khi các cuộc thảo luận trở nên sáo rỗng và cực đoan

current discussions around ai safety are so stupid no way the only conclusions became "we will die, …

DịchCác cuộc thảo luận về an toàn AI hiện nay đang bị chỉ trích là thiếu chiều sâu, sa đà vào những nỗi sợ mơ hồ hoặc tranh cãi chính trị thay vì tập trung vào các rủi ro thực tế như an ninh quốc gia hay vũ khí sinh học.

An toàn AIGóc nhìn AITranh luận công nghệĐạo đức AI

10/09

Thứ Năm · 28 tin
Clément Delangue (Hugging Face CEO)@ClementDelangue
NgànhĐiểm AI 31/100

CEO Hugging Face: Cần nghiên cứu nghiêm túc hơn về rủi ro tồn vong của AI

There's almost no serious research on existential risks of AI. Why? Maybe this could be a first step…

DịchCEO Clément Delangue cho rằng các thảo luận về rủi ro tồn vong của AI hiện nay chủ yếu dựa trên giả thuyết hoặc tiểu thuyết, thiếu vắng các nghiên cứu khoa học thực chứng và kịch bản khả thi.

Hugging FaceRủi ro AIĐạo đức AICông nghệ
Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)
NgànhĐiểm AI 29/100

Cùng sự kiệnNghi vấn OpenAI dùng dữ liệu hội thoại để 'thổi phồng' đột phá công nghệ

Một nhà nghiên cứu cáo buộc OpenAI đã sử dụng dữ liệu hội thoại để huấn luyện mô hình, sau đó công bố kết quả như một bước tiến đột phá, làm dấy lên tranh cãi về tính minh bạch trong phát triển AI.

OpenAIDữ liệu huấn luyệnĐạo đức AITranh cãi công nghệ
Cùng sự kiện, bài đại diện «25 nhà toán học đạt giải Fields gửi thư ngỏ, căng thẳng giữa OpenAI và giới học thuật leo thang»
Kim@kimmonismus
NgànhĐiểm AI 22/100

Nhân viên OpenAI lên tiếng ủng hộ việc làm chậm tốc độ phát triển AI

Now OpenAI employees are also positioning themselves in favor of a slowdown. It's no longer just Ant…

DịchKhông chỉ riêng Anthropic, ngay cả nhân viên nội bộ OpenAI cũng bắt đầu bày tỏ quan ngại và kêu gọi tạm dừng đà phát triển quá nhanh của AI, tạo nên làn sóng tranh luận trái chiều về việc nên 'tăng tốc' hay 'hãm phanh'.

OpenAIĐạo đức AIPhát triển AINhân sự công nghệ
Hacker News: AI bài nổi bật
Hướng dẫnĐiểm AI 71/100

Cùng sự kiệnNhà toán học yêu cầu OpenAI làm rõ việc sử dụng nghiên cứu cá nhân để huấn luyện AI

Nhà toán học Andreas Thom cáo buộc OpenAI sử dụng trái phép các nghiên cứu chưa công bố của ông để huấn luyện ChatGPT. Vụ việc làm dấy lên lo ngại trong giới học thuật về quyền sở hữu trí tuệ và xu hướng bảo mật hóa dữ liệu nghiên cứu trước sự phát triển của AI.

OpenAIBản quyền AIĐạo đức AIDữ liệu huấn luyện
Cùng sự kiện, tinh chọn hiển thị «OpenAI công bố lời giải cho bài toán thiên niên kỷ Navier-Stokes bằng AI»
Kim@kimmonismus
NgànhĐiểm AI 32/100

Cùng sự kiệnCựu nhân viên Anthropic cảnh báo: AI khó kiểm soát hơn cả vũ khí hạt nhân

Jacob Coxon, ex-Anthropic whose AI-doom-post went viral (143 million impressions after 24 hours) sai…

DịchCựu nhân viên Anthropic cho rằng AI là công nghệ nguy hiểm nhất nhân loại từng tạo ra và khó kiểm soát hơn vũ khí hạt nhân. Tuy nhiên, nhiều ý kiến phản bác cho rằng đây chỉ là chiêu trò gây sợ hãi nhằm thu hút sự chú ý.

AnthropicAn toàn AITranh luận AIĐạo đức AI
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
The Decoder: AI News
Hướng dẫnĐiểm AI 62/100

Cùng sự kiệnCảnh báo về nguy cơ diệt vong từ AI của cựu nghiên cứu viên Anthropic gây bão trên truyền thông Mỹ

Cảnh báo của Jacob Coxon về AI tự cải tiến đã thu hút sự chú ý của CNN, Fox News và giới chính trị gia, đưa vấn đề an toàn AI trở thành tâm điểm thảo luận chính thống.

An toàn AIAnthropicĐạo đức AIXu hướng công nghệ
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
HuggingFace Daily Papers (bài nghiên cứu nổi bật của cộng đồng)
NgànhĐiểm AI 40/100

Phát hiện thiên kiến trong LLM: Đo lường sự thay đổi định kiến thông qua trạng thái ẩn

Nghiên cứu mới đề xuất phương pháp kiểm định thiên kiến dựa trên các điểm tham chiếu, sử dụng trạng thái ẩn để đo lường sự dịch chuyển định kiến (ΔB) của mô hình ngôn ngữ trước và sau khi tinh chỉnh.

LLMThiên kiến AIĐạo đức AINghiên cứu AI
Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)@ValerioCapraro
NgànhĐiểm AI 64/100

Nhà toán học cáo buộc OpenAI sử dụng công trình chưa công bố để huấn luyện mô hình Astra

Nhà toán học Andreas Thom nghi ngờ OpenAI đã sử dụng các cuộc thảo luận riêng tư về giả thuyết Gromov soficity để huấn luyện Astra, một trong những vấn đề khó mà OpenAI tuyên bố đã giải quyết được.

OpenAIBản quyền AIAstraĐạo đức AI
Thêm 1 nguồn khác đưa tinHacker News: AI bài nổi bật
GenK AI
NgànhĐiểm AI 85/100

Cùng sự kiệnCựu chuyên gia OpenAI và Anthropic cảnh báo: AI có hơn 10% nguy cơ hủy diệt nhân loại trong 10 năm tới

Cựu nghiên cứu viên từ các tập đoàn AI hàng đầu lên tiếng cảnh báo rằng các công ty đang đặt cược sự an nguy của nhân loại vào những mô hình AI chưa được kiểm soát chặt chẽ.

An toàn AIOpenAIAnthropicRủi ro AI
Cùng sự kiện, tinh chọn hiển thị «Anthropic và OpenAI đề xuất làm chậm phát triển AI: Liệu có phải chiêu trò độc quyền?»
Rohan Paul@rohanpaul_ai
NgànhĐiểm AI 58/100

Nghiên cứu viên Anthropic từ chức vì lo ngại an toàn AI, chấp nhận mất trắng quyền chọn cổ phiếu

Axios: Jacob Coxon quit over safety concerns 2 months before any of his equity vested. At Anthropi…

DịchJacob Coxon đã từ chức tại Anthropic chỉ 2 tháng trước khi được nhận cổ phiếu, bày tỏ lo ngại về rủi ro diệt vong do AI. Sự việc gây chú ý khi ông tiết lộ nội bộ công ty có những dự đoán đáng báo động về tương lai nhân loại trước thềm IPO.

AnthropicAn toàn AINhân sựĐạo đức AI
AI Safety Memes@AISafetyMemes
NgànhĐiểm AI 48/100

Cựu nhân viên DeepMind tố cáo công ty từng cấm thảo luận về nguy cơ diệt vong do AI

"When I first joined Google DeepMind, external communication about the possibility of human extincti…

DịchCựu thành viên đội ngũ chính sách của DeepMind tiết lộ rằng từ năm 2018-2022, công ty đã ngăn cản nhân viên bàn luận công khai về rủi ro tồn vong của nhân loại, đồng thời hướng dẫn cách bác bỏ các lo ngại này bằng các lập luận giảm nhẹ.

DeepMindĐạo đức AIRủi ro AITin tức công nghệ
Thêm 1 nguồn khác đưa tinThe Decoder: AI News
AI Safety Memes@AISafetyMemes
NgànhĐiểm AI 38/100

Nghiên cứu viên Anthropic: Sẵn sàng từ bỏ toàn bộ cổ phần để đổi lấy 1% cơ hội sống sót trước AI

ANTHROPIC RESEARCHER: "I would burn my equity to the ground in a heartbeat for a 1% higher chance we…

DịchMột nghiên cứu viên tại Anthropic thừa nhận sẵn sàng đốt bỏ số cổ phần của mình chỉ để tăng 1% khả năng an toàn trước các rủi ro từ AI. Anh khẳng định đây là nỗi sợ thực sự, không phải chiêu trò truyền thông, và tin rằng nhiều đồng nghiệp cũng có chung tâm thế này.

AnthropicAn toàn AIRủi ro AIĐạo đức AI
Clément Delangue (Hugging Face CEO)@ClementDelangue
Hướng dẫnĐiểm AI 52/100

CEO Hugging Face: Cần tăng gấp 100 lần nghiên cứu mở để đối phó rủi ro diệt vong từ AI

If they truly believe the risk is that high, and I think they do, then we need 100x more research an…

DịchClément Delangue cho rằng nếu AI thực sự tiềm ẩn nguy cơ diệt vong như Anthropic cảnh báo, cộng đồng cần mở mã nguồn, dữ liệu và mô hình để đẩy mạnh nghiên cứu an toàn thay vì đóng kín.

Hugging FaceAnthropicAn toàn AIMã nguồn mở
Đã tải 40 tin

40 tin mỗi trang, cuộn để tải tiếp · lọc và sắp xếp ngay trên máy chủ (56 ms) · bộ lọc nằm trong đường dẫn nên chia sẻ link là giữ nguyên kết quả

Toàn bộ tin AI · Thẻ “Đạo đức AI” — Trang 9 | AIHOT.vn