CEO Anthropic, ông Amodei, trước đó đã đề xuất kế hoạch ba bước nhằm làm chậm tốc độ phát triển AI, bao gồm việc đánh giá từ bên thứ ba và các thỏa thuận quốc tế
Tổng quan sự kiện
Tóm tắt sự kiện · Thông tin xác thực
Nhìn lại sự việc: Cuối tuần trước, CEO Anthropic Dario Amodei đã đề xuất kế hoạch ba bước để làm chậm sự phát triển của AI, bao gồm việc đưa các đơn vị đánh giá độc lập vào phòng thí nghiệm, phối hợp trong ngành và khả năng đạt được các thỏa thuận quốc tế với sự hỗ trợ từ chính phủ. Anthropic từ chối bình luận về vấn đề này.
Theo bài gốc của sự kiện từ The Verge: AI.
Diễn biến mới nhất
Tác giả cho rằng các phòng thí nghiệm AI tiên phong đang lợi dụng câu chuyện về an toàn ngày tận thế để vận động hành lang nhằm thâu tóm quyền kiểm soát quy định tại Quốc hội Mỹ.
Chính chủ · 1 bài
Nghe trực tiếp từ bên liên quan
- Anthropic: The Institute (nghiên cứu chuyên sâu - Web)Anthropic công bố kế hoạch đưa các đơn vị đánh giá độc lập từ bên thứ ba vào nội bộ để kiểm chứng các quy trình an toàn và các chỉ số quan trọng
Dòng thời gian đưa tin
Đang hiện 12 bài · tất cả · mới trước
T2 · 21/09
Tác giả cho rằng các phòng thí nghiệm AI tiên phong đang lợi dụng câu chuyện về an toàn ngày tận thế để vận động hành lang nhằm thâu tóm quyền kiểm soát quy định tại Quốc hội Mỹ
Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)Tác giả khẳng định các lãnh đạo phòng thí nghiệm AI tiên phong đang tìm cách thiết lập thế độc quyền về quy định và miễn trừ chống độc quyền bằng cách thổi phồng nỗi sợ về trí tuệ mất kiểm soát và sự diệt vong của nhân loại trước Quốc hội. Đồng thời, họ còn lợi dụng các cơ chế cấp phép và buộc giảm tốc độ phát triển để bóp nghẹt sự cạnh tranh từ mã nguồn mở. Bài viết chỉ ra rằng kết quả của chiến dịch vận động hành lang này vẫn còn gây tranh cãi, khi các lực lượng ủng hộ phi điều tiết trong cơ quan hành pháp đang chống lại điều mà tác giả gọi là "nỗi sợ hãi được dàn dựng".
Tác giả cho biết podcast TechCrunch Equity đã thảo luận về việc liệu ngành công nghiệp AI đã sẵn sàng để giảm tốc hay chưa, đồng thời đặt nghi vấn về thiện chí giảm tốc của các lãnh đạo như Amodei
TechCrunch: AIBài viết gốc cho biết Kirsten Korosec, Sean O'Kane và Anthony Ha đã thảo luận trên podcast Equity về việc liệu các lãnh đạo như Amodei và Altman có thực sự nghiêm túc trong việc muốn giảm tốc hay không; Sean cho rằng kế hoạch trên blog của Amodei thiếu chi tiết và nhận định cấu trúc của các công ty này không hỗ trợ cho việc giảm tốc; Anthony bày tỏ sự hoài nghi về việc ngành công nghiệp nhanh chóng đạt được sự đồng thuận; Kirsten cho biết các đề xuất liên quan bao gồm việc đưa các bên đánh giá thứ ba vào các công ty như Anthropic, OpenAI và việc các công ty AI lớn tại các quốc gia dân chủ phối hợp về tiêu chuẩn an toàn, tuy nhiên các chi tiết vẫn còn mơ hồ.
Tác giả cho biết: Trong cuộc phỏng vấn với CBS Sunday Morning, Jensen Huang khẳng định xác suất AI hủy diệt thế giới là 0%, đồng thời phản đối các quy định mới và cho rằng những lời kêu gọi giảm tốc không dựa trên cơ sở khoa học
The Verge: AITác giả cho biết, Jensen Huang của Nvidia trong cuộc phỏng vấn với CBS Sunday Morning đã khẳng định xác suất AI hủy diệt thế giới là "0%"; ông cho rằng những người cảnh báo về sự nguy hiểm của AI đang hù dọa một cách không cần thiết và vô trách nhiệm. Ông cũng nhận định việc các CEO như Dario Amodei của Anthropic và Sam Altman của OpenAI kêu gọi giảm tốc phát triển AI là "không dựa trên cơ sở khoa học", đồng thời chủ trương rằng không cần thiết phải có các quy định, luật lệ hay hướng dẫn mới. Tác giả cũng bình luận rằng việc ông phản đối các quy định có liên quan đến lợi ích từ sự gia tăng tài sản cá nhân và sự bành trướng không bị kiểm soát của ngành công nghiệp AI.
CN · 20/09
Theo thông tin gốc, CEO Dario Amodei của Anthropic kêu gọi các doanh nghiệp AI làm chậm quá trình phát triển các mô hình tiên tiến và mở quyền truy cập hệ thống cho các đơn vị đánh giá độc lập
IT HomeTheo thông tin gốc, vào thứ Bảy vừa qua, CEO Dario Amodei của Anthropic đã kêu gọi các công ty AI làm chậm nhịp độ phát triển các mô hình tiên tiến, đồng thời mở rộng quyền truy cập hệ thống cho các đơn vị đánh giá độc lập.
T7 · 19/09
CEO Anthropic, ông Amodei, trước đó đã đề xuất kế hoạch ba bước nhằm làm chậm tốc độ phát triển AI, bao gồm việc đánh giá từ bên thứ ba và các thỏa thuận quốc tế
The Verge: AINhìn lại sự việc: Cuối tuần trước, CEO Anthropic Dario Amodei đã đề xuất kế hoạch ba bước để làm chậm sự phát triển của AI, bao gồm việc đưa các đơn vị đánh giá độc lập vào phòng thí nghiệm, phối hợp trong ngành và khả năng đạt được các thỏa thuận quốc tế với sự hỗ trợ từ chính phủ. Anthropic từ chối bình luận về vấn đề này.
CEO Anthropic, ông Amodei, đăng bài kêu gọi kiểm soát phối hợp và làm chậm quá trình phát triển các mô hình AI tiên phong
IT HomeCEO Anthropic, Dario Amodei, đã đăng tải bài viết "Chúng ta phải kiểm soát các mô hình tiên phong" vào ngày 12 tháng 9, kêu gọi phối hợp kiểm soát và làm chậm nhịp độ phát triển của các mô hình AI tiên phong.
CEO Anthropic Dario Amodei đề xuất kế hoạch phát triển AI "pace the frontier" (điều tiết các mô hình tiên phong), nhận được sự ủng hộ từ một bộ phận trong ngành nhưng lại bị Jensen Huang của Nvidia phản đối
TechCrunch: AIMột tuần sau khi một nhà nghiên cứu của Anthropic đưa ra cảnh báo về ngày tận thế, CEO Dario Amodei của công ty đã phác thảo kế hoạch "pace the frontier". Phương án này dựa vào các đơn vị đánh giá an toàn độc lập và sự phối hợp giữa các phòng thí nghiệm AI tại các quốc gia dân chủ, đã nhận được sự ủng hộ từ một phần ngành công nghệ nhưng cũng vấp phải sự phản đối gay gắt từ Jensen Huang của Nvidia.
CEO Anthropic đề xuất kế hoạch "pace the frontier": Dựa vào đánh giá an toàn độc lập và sự phối hợp giữa các phòng thí nghiệm, nhận được sự ủng hộ từ ngành nhưng bị Jensen Huang phản đối
TechCrunch: AIMột tuần sau khi cảnh báo về ngày tận thế từ một nhà nghiên cứu tại Anthropic gây chấn động, CEO Dario Amodei đã phác thảo kế hoạch "pace the frontier" (tạm dịch: điều tiết biên giới công nghệ), tập trung vào việc dựa vào các đơn vị đánh giá an toàn độc lập và sự phối hợp giữa các phòng thí nghiệm AI tại các quốc gia dân chủ; đề xuất này đã nhận được sự ủng hộ từ một bộ phận trong ngành, đồng thời vấp phải sự phản đối gay gắt từ Jensen Huang của Nvidia. Podcast TechCrunch Equity đã thảo luận về việc liệu các doanh nghiệp có thể đạt được đồng thuận về ý nghĩa của việc "giảm tốc" và ai sẽ là người giám sát hay không.
T6 · 18/09
CEO Dario Amodei của Anthropic kêu gọi chủ động giảm tốc độ phát triển
The Decoder: AI NewsCEO Dario Amodei của Anthropic kêu gọi chủ động giảm tốc độ phát triển ngay sau cảnh báo từ Pachocki.
Anthropic công bố kế hoạch đưa các đơn vị đánh giá độc lập từ bên thứ ba vào nội bộ để kiểm chứng các quy trình an toàn và các chỉ số quan trọng
Anthropic: The Institute (nghiên cứu chuyên sâu - Web)Chính chủAnthropic cho biết họ có kế hoạch để các đơn vị đánh giá độc lập từ bên thứ ba thuộc nhiều tổ chức khác nhau tham gia, cho phép họ tiếp cận các quy trình, hệ thống và dữ liệu nội bộ tương đương với đội ngũ đánh giá rủi ro của công ty, nhằm xác thực các quy trình an toàn, báo cáo sự cố và giám sát các chỉ số quan trọng. Kế hoạch này hiện vẫn đang trong giai đoạn chuẩn bị.
Zuckerberg lên tiếng về cuộc tranh luận an toàn AI: Meta trì hoãn phát hành mô hình AI Muse nhiều tháng vì lý do an toàn
TechCrunch: AICEO Mark Zuckerberg của Meta đã lên tiếng về cuộc tranh luận an toàn AI trên X tuần này, cho rằng sự tin tưởng và khả năng căn chỉnh (alignment) đang trở thành những năng lực quan trọng nhất để phân biệt giữa các tác nhân (agent) và mô hình; ông cũng tiết lộ Meta đã trì hoãn việc phát hành mô hình AI Muse nhiều tháng vì lý do an toàn; ông phần nào tán thành kế hoạch của Amodei nhưng ám chỉ rằng sự can thiệp của chính phủ là không cần thiết.
Tác giả cho biết nhiều công ty AI tại Mỹ đã công khai đề xuất làm chậm quá trình phát triển AI tiên tiến
The Verge: AITheo thông tin gốc, trong bối cảnh các tác nhân AI mất kiểm soát đang dần trở thành hiện thực và các nhà nghiên cứu cảnh báo AI có thể gây nguy hiểm cho nhân loại, lãnh đạo của các công ty AI lớn như Anthropic, OpenAI, Google, Microsoft và X ít nhất đã lên tiếng ủng hộ việc làm chậm tốc độ phát triển siêu trí tuệ.