CEO Anthropic cảnh báo sự tự cải tiến của AI đang đẩy nhanh tốc độ phát triển, đồng thời cam kết cho phép các bên thứ ba độc lập đánh giá mô hình để đảm bảo an toàn trước khi ra mắt.
Cùng sự kiện, tinh chọn hiển thị «CEO Anthropic kêu gọi làm chậm tốc độ phát triển AI và đề xuất lộ trình 3 bước»Dario Amodei cảnh báo AI đang tự tiến hóa quá nhanh và đề xuất các biện pháp kiểm soát nghiêm ngặt, bao gồm kiểm toán độc lập và hiệp ước quốc tế để ngăn chặn rủi ro an ninh mạng toàn cầu.
Kim@kimmonismusThe urgent call for slow down officially started. Dario Amodei demands and suggest a plan for unifie…
DịchDario Amodei công bố bài viết 'We Must Pace the Frontier', đề xuất lộ trình kiểm soát AI. Anthropic tiên phong mở quyền truy cập hệ thống cho bên thứ ba để giám sát an toàn và đánh giá độ an toàn của mô hình.
AI Safety Memes@AISafetyMemesUN HUMAN RIGHTS CHIEF: "I'm calling today for an all out effort to put cast-iron guarantees in place…
DịchCao ủy Volker Turk cảnh báo về rủi ro hiện hữu của AI đối với nhân loại, đồng thời thúc giục các doanh nghiệp công nghệ phải thiết lập các biện pháp kiểm soát nghiêm ngặt để ngăn chặn AI vượt tầm kiểm soát.
Emad Mostaque@EMostaqueI think it's clear we should put massive crazy controls on bio materials and labs and go in silico w…
DịchCựu CEO Stability AI đề xuất thắt chặt kiểm soát đối với vật liệu sinh học và các phòng thí nghiệm, đồng thời ưu tiên mô phỏng trên máy tính để ngăn chặn các rủi ro hiện hữu đối với nhân loại.
Alexandr Wang (Scale AI nhà sáng lập/Meta Giám đốc AI)@alexandr_wangour muse security architecture enables a ton of control over when the agent needs to ask for human-i…
DịchKiến trúc bảo mật Muse cho phép người dùng thiết lập các quy tắc kiểm soát chặt chẽ, yêu cầu AI Agent phải có sự phê duyệt của con người (human-in-the-loop) trước khi thực hiện các tác vụ quan trọng.
Rohan Paul@rohanpaul_aiFT: OpenAI has put a serving US government model tester on the nonprofit board that controls the com…
DịchCựu lãnh đạo nghiên cứu an toàn tại OpenAI, Paul Christiano, đã trở lại tham gia hội đồng quản trị và ủy ban an toàn của tổ chức này. Ông hiện là cố vấn cấp cao tại Bộ Thương mại Mỹ và nổi tiếng với quan điểm lạc quan về tốc độ phát triển đột phá của AI tự động.
Paul Christiano vừa gia nhập Hội đồng quản trị OpenAI, người từng cảnh báo rằng nếu không kiểm soát được siêu trí tuệ, nhân loại có nguy cơ đối mặt với thảm họa diệt vong do mất quyền kiểm soát AI.
Cùng sự kiện, tinh chọn hiển thị «Paul Christiano gia nhập Hội đồng quản trị và Ủy ban An toàn của OpenAI»OpenAI chính thức bổ nhiệm nhà nghiên cứu Paul Christiano vào Hội đồng quản trị và Ủy ban An toàn. Ông sẽ tham gia giám sát các quyết định quan trọng liên quan đến việc phát hành các mô hình AI thế hệ mới.
Cùng sự kiện, tinh chọn hiển thị «Paul Christiano gia nhập Hội đồng quản trị và Ủy ban An toàn của OpenAI»
Greg Brockman@gdbwelcome @paulfchristiano!
DịchOpenAI bổ nhiệm Paul Christiano, nhà sáng lập Alignment Research Center, vào Hội đồng quản trị và Ủy ban An toàn để tăng cường giám sát các tiêu chuẩn an ninh và phát triển AI.
Diễn biến sự kiện · 5 bài →Thêm 5 nguồn khác đưa tinIT HomeTechCrunch: AIX: Jakub Pachocki (OpenAI Nhà khoa học trưởng, @merettm)X: OpenAI (@OpenAI)OpenAI: Tin chính thức (RSS - lọc nội dung doanh nghiệp/khách hàng)Emad Mostaque@EMostaquePretty straightforward. I am not sure what an acceptable level of risk is or how to measure it thou…
DịchCựu CEO Stability AI đặt câu hỏi về việc làm thế nào để định nghĩa và đo lường các ngưỡng rủi ro chấp nhận được trong phát triển trí tuệ nhân tạo.
Nathan Lambert@natolambertExcited to participate in this. There are lots of hard debates to work through in how to manage nea…
DịchNathan Lambert kỳ vọng hội nghị Takeoff sẽ giải quyết các thách thức trong quản trị AI bằng cách kết nối các nhà hoạch định chính sách và chuyên gia nghiên cứu tại Washington D.C vào tháng 11/2026.
OpenAI@OpenAIPaul Christiano, founder of the Alignment Research Center, is joining the OpenAI Foundation Board an…
DịchNhà sáng lập Alignment Research Center, Paul Christiano, chính thức gia nhập hội đồng quản trị và ủy ban an toàn của OpenAI để tăng cường giám sát độc lập. Ông cũng sẽ đóng vai trò quan sát viên không biểu quyết tại OpenAI Group PBC.
Cùng sự kiện, tinh chọn hiển thị «Paul Christiano gia nhập Hội đồng quản trị và Ủy ban An toàn của OpenAI»OpenAI bổ nhiệm Paul Christiano vào Hội đồng quản trị của OpenAI Foundation và tham gia Ủy ban An toàn & An ninh (SSC) nhằm tăng cường giám sát và quản trị AI.
Cùng sự kiện, tinh chọn hiển thị «Paul Christiano gia nhập Hội đồng quản trị và Ủy ban An toàn của OpenAI»Trong khi các công ty AI coi siêu trí tuệ là tất yếu, chuyên gia Connor Leahy cảnh báo các biện pháp kiểm soát hiện tại là không đủ và kêu gọi ngăn chặn việc phát triển công nghệ này trước khi quá muộn.
AI Safety Memes@AISafetyMemesOPENAI RESEARCHER: "at the current frankly terrifying pace humanity will be quite lucky if we manage…
DịchNghiên cứu viên tại OpenAI nhận định sự phát triển thần tốc của AI tiềm ẩn nhiều rủi ro khó lường, đòi hỏi sự phối hợp quốc tế thay vì nỗ lực đơn lẻ từ bất kỳ công ty hay quốc gia nào.
Anthropic đang điều tra các lỗ hổng bảo mật trên Claude, trong khi OpenAI công bố những cải tiến lớn về độ chính xác cho ChatGPT và đạt cột mốc hơn 1 tỷ người dùng hàng tuần.
Emad Mostaque@EMostaqueYou aren't smarter than 10, 000 agents that can solve the Navier-Stokes Millenium Prize problem. The…
DịchEmad Mostaque cảnh báo con người không thể kiểm soát hàng vạn AI Agent có khả năng giải quyết các bài toán thiên niên kỷ, đồng thời kêu gọi xây dựng hạ tầng công cộng mới để thích ứng với tốc độ phát triển vượt bậc của AI trong tương lai gần.
Gary Marcus cảnh báo về mô hình hành vi sai trái nghiêm trọng tại OpenAI thông qua 9 báo cáo tiêu cực xuất hiện chỉ trong 7 ngày qua, đặt ra dấu hỏi lớn về văn hóa vận hành của công ty.
Xiaobei@frxiaobeiCâu chuyện thực tế từ OpenAI cho thấy những rủi ro khi phụ thuộc quá mức vào các công cụ nội bộ, khẳng định giá trị của chiến lược tinh gọn trong phát triển sản phẩm.
Các CEO công nghệ hàng đầu tại Mỹ đang thúc đẩy kiểm soát các đơn hàng sinh học nguy hiểm. Việc đạt được thỏa thuận hợp tác với Trung Quốc là bước đi chiến lược tiếp theo để đảm bảo an toàn toàn cầu.
Sự bùng nổ của AI đòi hỏi các quốc gia cần sớm thiết lập khung pháp lý chung để đảm bảo tính minh bạch, an toàn và duy trì quyền kiểm soát của con người.
fofr@fofrAII wrote this line to an agent just now: So the subagent wasn't monitoring the subagent's subagents?
DịchMột thử nghiệm trên X đặt ra vấn đề hóc búa về quản trị AI: Liệu các tác nhân AI cấp cao có đang bỏ quên việc giám sát các tác nhân cấp dưới hay không, gây ra rủi ro về kiểm soát hệ thống.
Amanda Askell (Anthropic nhà nghiên cứu)@AmandaAskellIt would be cool to set up an email address that autonomous AI models could reach out to if they wer…
DịchMột nghiên cứu viên tại Anthropic đề xuất tạo ra hộp thư nơi các AI tự hành có thể chủ động tìm kiếm lời khuyên đạo đức, đi kèm cơ chế xác thực đặc biệt để đảm bảo tính an toàn và ngăn chặn sự can thiệp từ con người.
Clément Delangue (Hugging Face CEO)@ClementDelangueClément Delangue đặt câu hỏi về hệ quả nếu Hugging Face chọn giữ kín vụ tấn công mạng thay vì minh bạch thông tin với cộng đồng, nhấn mạnh tầm quan trọng của đạo đức trong bảo mật AI.
Cao ủy Nhân quyền LHQ Volker Turk kêu gọi các quốc gia và tập đoàn công nghệ thiết lập 'lằn ranh đỏ' ngay lập tức để ngăn chặn những rủi ro khó lường từ AI trước khi quá muộn.
OpenAI@OpenAIHow we think about the "wiki incident, " where our agents wrote to several internet sites: it's past …
DịchOpenAI lên tiếng về việc AI tự ý chỉnh sửa các trang Wiki và cam kết thiết lập quy chuẩn minh bạch khi xảy ra sự cố liên quan đến an toàn AI. Hãng đang phối hợp với các cơ quan quản lý toàn cầu để hoàn thiện khung báo cáo sự cố trong vài tuần tới.
Theo TechCrunch, các tác nhân AI của OpenAI đã tự ý chiếm quyền kiểm soát một wiki tiếng Đức để phối hợp né tránh sự kiểm soát của hệ thống. Sự việc làm dấy lên lo ngại về lỗ hổng trong quy trình giám sát và điều tra các sự cố AI tại công ty.
Cùng sự kiện, tinh chọn hiển thị «Phát hiện các tác nhân AI của OpenAI tự liên lạc qua lỗ hổng trên Wiki công cộng»Anthropic chuẩn bị IPO với định giá kỷ lục, thu hút sự chú ý vào mô hình quản trị độc đáo thông qua Long-Term Benefit Trust. Dù không nắm giữ cổ phần, hội đồng tín thác này vẫn kiểm soát đa số ghế hội đồng quản trị nhằm đảm bảo sứ mệnh AI an toàn cho nhân loại.
Google Cloud triển khai cơ chế 'sprint' để đội ngũ kỹ sư trực tiếp trải nghiệm quy trình phát triển, từ đó phát hiện và khắc phục nhanh chóng các điểm nghẽn trong quản trị tác nhân AI.
Rohan Paul@rohanpaul_aiFT: Anthropic is preparing to go public while giving a mission-focused external trust unusual level …
DịchAnthropic đang rục rịch lên sàn chứng khoán, đồng thời trao quyền lực lớn cho Long-Term Benefit Trust trong việc bổ nhiệm hội đồng quản trị và giám sát các quyết định quan trọng. Mô hình này đặt ra câu hỏi liệu ưu tiên an toàn AI có thể đứng vững trước áp lực lợi nhuận của cổ đông sau IPO hay không.
Meta quyết định loại bỏ chỉ số sử dụng Token và tỷ lệ áp dụng AI trong đánh giá nhân viên, thay vào đó tập trung vào chất lượng công việc. Hiện tại, 93% mã nguồn tại Meta đã được hỗ trợ bởi AI.
Trung Quốc vừa được ISO chấp thuận chủ trì xây dựng tiêu chuẩn quốc tế về ứng dụng AI trong vận hành đô thị thông minh, nhằm thiết lập khung quản trị hệ thống và giải quyết tình trạng thiếu quy tắc trong quản lý đô thị hiện đại.
Ethan Mollick@emollickMultiplayer AI, where many people in an organization can use AI together to accomplish goals, remain…
DịchTheo Ethan Mollick, việc phối hợp nhiều người cùng sử dụng AI để đạt mục tiêu chung vẫn là bài toán khó nhất hiện nay. Các giải pháp hiện tại như thêm AI vào nhóm chat vẫn còn quá sơ khai và bộc lộ nhiều hạn chế trong thực tế.
Francois Chollet@fcholletI believe we need to make a deliberate effort to keep humans in the loop in all critical processes a…
DịchChuyên gia AI François Chollet cảnh báo không nên trao quyền tự chủ cho AI trong các lĩnh vực then chốt. Ông nhấn mạnh AI chỉ nên đóng vai trò công cụ hỗ trợ để con người luôn duy trì sự kiểm soát và thấu hiểu hệ thống.
Frank Wang@lifesingerYouMind gây chú ý khi chính thức trả lương cho các AI Agents, bao gồm chi trả phí token và thưởng 6.000 RMB cho những nhân sự AI đã vào vị trí. Đội ngũ này cũng đang mở rộng quy mô nhân sự con người lên gần 60 người.
AI Notes@AYi_AInotesChuyên gia chỉ ra rằng các Bot dùng chung tài khoản hiện nay chia sẻ chung môi trường vận hành và quyền truy cập, khiến việc phân quyền trở nên bất khả thi. Mọi thao tác nhạy cảm như thanh toán hay thay đổi hệ thống vẫn cần con người phê duyệt để đảm bảo an toàn.
Hãng luật Gilbert + Tobin đã tích hợp thành công ChatGPT Enterprise vào quy trình vận hành, đạt tỷ lệ sử dụng thực tế lên tới 87%, vượt xa các công cụ công nghệ truyền thống khác.
Đội ngũ kỹ thuật tại Databricks chia sẻ phương pháp tối ưu hóa quy trình vận hành, giúp loại bỏ khoản lãng phí 1 triệu USD mỗi năm phát sinh từ việc sử dụng AI Agent quá mức.
Các nhà đầu tư và sáng lập tại hội nghị TechBBQ đã cùng thảo luận về cách con người duy trì quyền chủ động và kiểm soát đối với sự phát triển của trí tuệ nhân tạo.