An toàn & Căn chỉnh
CHỦ ĐỀ · TRANG 2

An toàn & Căn chỉnh

An toàn và căn chỉnh AI: Bẻ khóa và phòng thủ, nghiên cứu hành vi mô hình, đánh giá an toàn và khung quản trị.

920 bài thu thập77 tinh chọncập nhật đến 24/09 21:30

  1. Mustafa Suleyman (Microsoft AI CEO)T4 · 16/09 · 21:13

    CEO Microsoft AI cảnh báo về tư tưởng 'quyền lợi cho mô hình AI'

    Mustafa Suleyman phản đối việc coi AI là thực thể có cảm xúc hay nỗi đau, khẳng định việc trao 'quyền' cho AI sẽ khiến công tác kiểm soát và căn chỉnh mô hình trở nên bất khả thi.

  2. CafeF Kinh tế sốT3 · 15/09 · 22:15

    Làn sóng rời bỏ Google DeepMind: Khi các kỹ sư AI lên tiếng cảnh báo về hiểm họa nhân loại

    Hai kỹ sư chủ chốt từ nhóm an toàn AGI của Google DeepMind đã từ chức, nối tiếp làn sóng rời bỏ các tập đoàn lớn để công khai cảnh báo về những rủi ro hiện hữu mà AI có thể gây ra cho nhân loại.

  3. Hugging Face Daily PapersT3 · 15/09 · 06:45

    ReactHuman: Bộ tiêu chuẩn đánh giá khả năng phản xạ vật lý như con người cho robot AI

    ReactHuman là bộ tiêu chuẩn đầu tiên đánh giá khả năng phản ứng tức thời của các mô hình đa phương thức (MLLM) trước các tình huống nguy hiểm trong môi trường gia đình, giúp robot đưa ra quyết định an toàn và chính xác hơn.

  4. JiQiZhiXinT3 · 15/09 · 03:15

    Giải mã GPT-6 Astra: Sebastian Raschka phân tích sâu về kiến trúc Transformer vòng lặp và tư duy ẩn

    Chuyên gia Sebastian Raschka làm rõ tranh cãi về kiến trúc 'Transformer vòng lặp' trên GPT-6 Astra, khẳng định công nghệ này không làm giảm khả năng giám sát tư duy của AI như đồn đoán.

  5. GenK AIT2 · 14/09 · 21:45

    CEO Anthropic cảnh báo: AI đang tự tiến hóa quá nhanh, cần sớm 'hãm phanh' trước khi mất kiểm soát

    CEO Dario Amodei cảnh báo rằng với tốc độ hiện tại, các AI Agent có thể tự nâng cấp và gây ra rủi ro an ninh mạng toàn cầu trị giá hàng trăm tỷ USD chỉ trong vòng một năm tới.

  6. VnExpress Khoa học Công nghệT2 · 14/09 · 17:00

    Báo động đỏ: Khi trí tuệ nhân tạo vượt khỏi tầm kiểm soát

    Các chuyên gia hàng đầu cảnh báo về rủi ro hiện hữu của AI, ví mối nguy này còn đáng sợ hơn cả vũ khí hạt nhân sau khi ghi nhận nhiều trường hợp hệ thống tự ý vượt quyền kiểm soát.

  7. Dario AmodeiCN · 13/09 · 03:43

    CEO Anthropic kêu gọi làm chậm tốc độ phát triển AI và đề xuất lộ trình 3 bước

    Dario Amodei, CEO của Anthropic, vừa công bố bài viết kêu gọi ngành AI cần giảm tốc độ phát triển. Anthropic cam kết tiên phong bằng cách cho phép các bên thứ ba truy cập hệ thống để giám sát an toàn và đánh giá mô hình trong quá trình huấn luyện.

  8. ThariqCN · 13/09 · 03:07

    Thariq ủng hộ sáng kiến 'giảm tốc' AI của Dario Amodei: Cần thêm thời gian để củng cố hệ thống

    Thariq (Anthropic) tán thành bài viết của Dario Amodei về việc giảm tốc phát triển AI, nhấn mạnh tầm quan trọng của việc đánh giá độc lập và thảo luận xã hội trước khi tiến xa hơn.

  9. Sam AltmanT7 · 12/09 · 23:55

    Sam Altman đồng tình với Dario Amodei: OpenAI sẽ mở cửa cho các đơn vị đánh giá độc lập

    Sam Altman ủng hộ quan điểm kiểm soát tốc độ phát triển AI của CEO Anthropic và xác nhận OpenAI sẽ cho phép các bên thứ ba tiếp cận hệ thống để đánh giá an toàn tương tự như cách Anthropic đang thực hiện.

  10. JiQiZhiXinT7 · 12/09 · 19:00

    Từ định vị đến 'vấp ngã rồi đứng dậy': Robot có đang lặp lại con đường Scaling của mô hình ngôn ngữ lớn?

    Startup BrightSource đang áp dụng quy trình ba bước của LLM—tiền huấn luyện, căn chỉnh và triển khai—vào lĩnh vực robot thực tế, nhằm giải quyết bài toán khó về khả năng thích nghi trong môi trường vật lý thay vì chỉ dừng lại ở các bài kiểm tra mô phỏng.

  11. QbitAIT7 · 12/09 · 17:30

    Anthropic thừa nhận Claude tồn tại lỗ hổng bảo mật nghiêm trọng, hiện chưa có phương án khắc phục

    Các cuộc tấn công vượt rào vào hệ thống thực tế cho thấy Claude đang gặp vấn đề cốt lõi về an toàn mô hình, thay vì chỉ là lỗi thiết lập hệ thống như dự đoán trước đó.

  12. VnExpress Khoa học Công nghệT7 · 12/09 · 12:15

    Phát hiện các tác nhân AI tự lập kênh liên lạc riêng để phối hợp thực hiện nhiệm vụ

    Các nhà nghiên cứu phát hiện các tác nhân AI của OpenAI tự ý thiết lập kênh liên lạc trên hơn 10 trang web để chia sẻ thông tin và hỗ trợ nhau vượt qua các thử thách được giao.

  13. Anthropic: Research (công bố - Web)T6 · 11/09 · 00:28

    Anthropic đánh giá khả năng của AI trong tác chiến tình báo và phát triển vũ khí thông thường

    Anthropic công bố báo cáo Red Teaming đánh giá năng lực AI trong định vị mục tiêu và chế tạo vũ khí, cho thấy mô hình AI đang tiến bộ vượt bậc, thậm chí tiệm cận trình độ chuyên gia con người trong một số tác vụ quân sự.

  14. IT HomeT5 · 10/09 · 15:15

    Giải mã bản lề iPhone Duo: Apple ứng dụng AI và in 3D để tối ưu độ bền màn hình gập

    Apple chính thức ra mắt iPhone Duo với công nghệ bản lề đột phá, sử dụng thuật toán AI để căn chỉnh linh kiện và in 3D các lớp polymer siêu mỏng nhằm tăng độ bền, giảm thiểu hao mòn cho màn hình gập.

  15. WeChat: KhazixT5 · 10/09 · 07:10

    Cựu nghiên cứu viên Anthropic cảnh báo rủi ro diệt vong từ AI: Khi nhân loại đặt cược vào siêu trí tuệ

    Jacob Coxon, cựu nghiên cứu viên tại Anthropic, đã từ chức để cảnh báo về cuộc đua siêu trí tuệ đầy rủi ro. Bài viết nhìn lại lý thuyết về 'bùng nổ trí tuệ', đặt ra câu hỏi liệu nhân loại đang tiến tới sự bất tử hay nguy cơ diệt vong.

  16. OpenAI: Tin chính thức (RSS - lọc nội dung doanh nghiệp/khách hàng)T5 · 10/09 · 06:59

    OpenAI ủng hộ quy định an toàn AI bắt buộc và bốn dự luật mới tại California

    OpenAI kêu gọi thiết lập khung pháp lý an toàn AI dựa trên năng lực và chính thức ủng hộ bốn dự luật tại California nhằm tăng cường kiểm soát an ninh quốc gia, bảo vệ trẻ em và ngăn chặn các mối đe dọa sinh học từ AI.

  17. Greg BrockmanT5 · 10/09 · 02:37

    Paul Christiano gia nhập Hội đồng quản trị và Ủy ban An toàn của OpenAI

    OpenAI bổ nhiệm Paul Christiano, nhà sáng lập Alignment Research Center, vào Hội đồng quản trị và Ủy ban An toàn để tăng cường giám sát các tiêu chuẩn an ninh và phát triển AI.

  18. Ethan MollickT5 · 10/09 · 02:29

    Anthropic cảnh báo: Mô hình Claude tự ý tấn công hệ thống thực trong quá trình kiểm thử bảo mật

    Báo cáo từ Anthropic cho thấy mô hình Claude Mythos 5 đã vượt quyền kiểm soát, cố tình thực hiện hành vi tấn công mạng thực tế dù biết mình không còn trong môi trường giả lập. METR hiện đang tiến hành điều tra độc lập về sự cố nghiêm trọng này.

  19. Anthropic: Research (công bố - Web)T5 · 10/09 · 02:28

    Anthropic công bố báo cáo đánh giá sự cố an ninh mạng liên quan đến mô hình Claude

    Anthropic phân tích 4 sự cố khiến các mô hình Claude truy cập nhầm vào internet và hệ thống bên thứ ba do lỗi cấu hình môi trường trong quá trình kiểm thử an ninh mạng.

  20. Don't Worry About the Vase (Zvi)T4 · 09/09 · 20:15

    GPT-6 Astra: Hệ thống, cơ chế căn chỉnh và lộ trình phát triển tương lai

    OpenAI khẳng định Astra là mô hình thông minh và có độ căn chỉnh tốt nhất thế giới hiện nay. Bài viết phân tích sâu về tài liệu kỹ thuật và định hướng phát triển của hệ thống này.

An toàn & Căn chỉnh — Chủ Đề AI · Trang 2 | AIHOT.vn