Anthropic hợp tác với Accenture triển khai đánh giá độc lập nhúng, mỗi bên đầu tư ít nhất 1 tỷ USD
Tổng quan sự kiện
Toàn cảnh do AI tổng thuật
Anthropic thông báo thiết lập quan hệ đối tác với Accenture nhằm đánh giá độc lập các mô hình AI tiên tiến. Sự hợp tác này là bước hiện thực hóa cam kết "nhúng các đơn vị đánh giá vào Anthropic" mà CEO công ty từng đề cập trong bài viết "We Must Pace the Frontier". Dự án do Faculty - đơn vị chuyên về AI của Accenture - dẫn dắt, bao gồm các công việc đánh giá, kiểm thử đỏ (red teaming), đánh giá sự căn chỉnh (alignment) và kiểm tra các biện pháp bảo vệ mô hình. Cả Anthropic và Accenture dự kiến sẽ đầu tư ít nhất 1 tỷ USD mỗi bên trong vòng 5 năm tới để xây dựng năng lực trong lĩnh vực này, trong đó Anthropic sẽ trực tiếp tài trợ cho các hoạt động đánh giá của Accenture.
Anthropic khẳng định đây không phải là quan hệ đối tác độc quyền: Công ty sẽ công bố các hợp tác với những đơn vị đánh giá khác trong vài tuần tới, và Accenture cũng sẽ làm việc với các nhà phát triển AI khác dưới vai trò tương tự. Anthropic cho biết thêm họ đang thảo luận với METR cùng các tổ chức đánh giá phi lợi nhuận khác để thử nghiệm mô hình đánh giá nhúng với cơ chế tự huy động vốn. TechCrunch đưa tin, nhân sự từ Faculty của Accenture sẽ thâm nhập vào nội bộ Anthropic để kiểm tra các mô hình và nhân viên tại đây; đây được xem là một phần trong kế hoạch của Dario Amodei nhằm đưa các đơn vị đánh giá an toàn bên thứ ba vào phòng thí nghiệm AI.
Bài đăng của người dùng X Rohan Paul mô tả sự việc này là việc Anthropic thuê Accenture làm đơn vị đánh giá an toàn bên ngoài với quyền truy cập nội bộ sâu bất thường. Phạm vi công việc bao gồm đánh giá mô hình, kiểm thử đỏ, đánh giá sự căn chỉnh và kiểm tra các biện pháp bảo vệ. Accenture sẽ tìm cách tấn công mô hình, kiểm tra tính hiệu quả của các quy tắc an toàn và giám sát việc Anthropic tuân thủ các cam kết an toàn của chính mình. Bài đăng cũng nhấn mạnh rằng, vì Anthropic tự chi trả phí cho đơn vị đánh giá, nên mức độ độc lập của Accenture trong mối quan hệ hợp tác chặt chẽ này vẫn là một vấn đề chưa có lời giải.
Tổng thuật do AI tổng hợp từ toàn bộ bài đưa tin, cập nhật theo diễn biến · làm mới T7 · 19/09 · 12:20.
Diễn biến mới nhất
Người dùng X có tên Rohan Paul đăng tải thông tin cho biết, Anthropic đã thuê Accenture làm đơn vị đánh giá an toàn bên ngoài với quyền truy cập sâu vào nội bộ. Người này cũng chỉ ra rằng việc Anthropic chi trả phí đánh giá khiến tính độc lập của Accenture trở thành một dấu hỏi lớn.
Chính chủ · 2 bài
Nghe trực tiếp từ bên liên quan
- X: Anthropic (@AnthropicAI)Anthropic hợp tác với Accenture đánh giá AI tiên tiến
- Anthropic: Newsroom (Web)Anthropic hợp tác với Accenture triển khai đánh giá độc lập nhúng, mỗi bên đầu tư ít nhất 1 tỷ USD
Dòng thời gian đưa tin
Đang hiện 4 bài · tất cả · mới trước
T7 · 19/09
Anthropic hợp tác với Accenture để thực hiện đánh giá an toàn độc lập theo mô hình nhúng, mỗi bên đầu tư ít nhất 1 tỷ USD
X: Rohan Paul (@rohanpaul_ai)Anthropic công bố hợp tác với Accenture nhằm đánh giá độc lập các mô hình AI tiên tiến, đây là bước đi cụ thể hóa cam kết đưa các đơn vị đánh giá bên ngoài vào nội bộ. Công việc do Faculty thuộc Accenture chủ trì, bao gồm đánh giá mô hình, kiểm thử đỏ, đánh giá sự căn chỉnh và kiểm tra các biện pháp bảo vệ. Hai bên dự kiến đầu tư ít nhất 1 tỷ USD mỗi bên trong 5 năm tới để xây dựng năng lực trong lĩnh vực này, trong đó Anthropic trực tiếp chi trả phí đánh giá cho Accenture.
Anthropic chọn Accenture làm đối tác đánh giá nhúng đầu tiên, dự kiến đầu tư ít nhất 1 tỷ USD trong 5 năm
TechCrunch: AIAnthropic thông báo sẽ đưa Accenture (thông qua Faculty, đơn vị được Accenture mua lại vào tháng 1 năm nay) trở thành đơn vị đánh giá độc lập nhúng đầu tiên. Đội ngũ này sẽ trực tiếp làm việc tại chỗ để đánh giá và kiểm thử đỏ các mô hình, thực hiện đánh giá sự căn chỉnh và kiểm tra các biện pháp bảo vệ an toàn. Hai bên dự kiến đầu tư ít nhất 1 tỷ USD trong 5 năm tới.
Anthropic hợp tác với Accenture đánh giá AI tiên tiến
X: Anthropic (@AnthropicAI)Chính chủChúng tôi đang hợp tác với Accenture để thực hiện đánh giá độc lập đối với các mô hình AI tiên tiến – đây là một phần trong cam kết gần đây của chúng tôi về việc nhúng các đơn vị đánh giá vào nội bộ Anthropic. Cả hai bên dự kiến sẽ đầu tư ít nhất 1 tỷ USD trong 5 năm tới để xây dựng năng lực trong lĩnh vực này. https://www.anthropic.com/news/accenture-embedded-evaluation
Anthropic hợp tác với Accenture triển khai đánh giá độc lập nhúng, mỗi bên đầu tư ít nhất 1 tỷ USD
Anthropic: Newsroom (Web)Chính chủAnthropic công bố hợp tác với Accenture để thực hiện đánh giá độc lập nhúng cho các mô hình tiên tiến. Dự án do đơn vị AI Faculty của Accenture chủ trì, bao gồm các hoạt động đánh giá mô hình, kiểm thử đỏ, đánh giá sự căn chỉnh và kiểm tra các biện pháp bảo vệ an toàn. Hai bên dự kiến đầu tư ít nhất 1 tỷ USD mỗi bên trong 5 năm tới.