Startup bảo hiểm AI AIUC gọi vốn 40 triệu USD, ra mắt tiêu chuẩn AIUC-1 cho tác nhân AI

AIUC lần đầu thu hút sự chú ý của chúng tôi nhờ sự hậu thuẫn từ NFDG, và hôm nay họ vừa công bố vòng gọi vốn Series A trị giá 40 triệu USD, cùng với danh sách cố vấn ngành ấn tượng nhất mà chúng tôi từng thấy cho một startup giai đoạn đầu đứng sau AIUC-1, tiêu chuẩn đại lý (agent standard) của họ được bảo chứng bởi bảo hiểm thực tế:

Từ vị trí nhân sự sản phẩm đầu tiên tại Anthropic đến việc xây dựng các tiêu chuẩn, hạ tầng kiểm thử và bảo hiểm nhằm giúp AI tiên phong có thể triển khai thực tế, Rune Kvist đang đặt cược rằng rào cản lớn nhất đối với việc áp dụng AI sẽ không phải là năng lực, mà là niềm tin. Trong tập này, nhà đồng sáng lập AIUC tham gia cùng swyx và Vibhu để công bố vòng gọi vốn 40 triệu USD mới và giải thích lý do tại sao các công ty như Cursor, Harvey, Lovable và ElevenLabs ngày càng phải đối mặt với một vấn đề trở nên khó khăn hơn khi AI ngày càng hoàn thiện: ai sẽ chịu trách nhiệm khi các hệ thống tự hành gặp sự cố?

Chúng tôi đi sâu vào AIUC-1, tiêu chuẩn mới nổi về bảo mật, an toàn và độ tin cậy cho AI agent; cách các AI agent được kiểm thử áp lực (stress-test) để chống lại jailbreak, ảo giác (hallucinations) và rò rỉ dữ liệu; cũng như lý do tại sao Rune cho rằng các tiêu chuẩn và bảo hiểm có thể trở thành hạ tầng thiết yếu cho AI. Chúng tôi cũng thảo luận về khoảng cách niềm tin ngày càng lớn giữa chính phủ và các phòng thí nghiệm AI tiên phong, các rủi ro an ninh mạng và sinh học do AI gây ra, lý do tại sao mọi mô hình cuối cùng đều có thể bị jailbreak, điều gì sẽ xảy ra khi một AI agent giá 20 USD gây ra thiệt hại 200 triệu USD, liệu các kỹ sư AI có nên được cấp chứng chỉ hay không, và tại sao ngay cả sau khi đạt được AGI, vẫn có một công việc mà các phòng thí nghiệm không bao giờ có thể tự mình thực hiện: tự làm cơ quan giám sát cho chính mình.

Tại sao rủi ro, trách nhiệm pháp lý và niềm tin có thể trở thành nút thắt ràng buộc đối với việc áp dụng AI

Hành trình của Rune từ việc đọc bài báo Scaling Laws đến khi gia nhập Anthropic trong những ngày đầu tiên

Những gì Anthropic đã hiểu về quy mô (scaling), năng lực tính toán (compute) và tương lai nhiều năm trước khi nó trở nên hiển nhiên

Tại sao Waymo minh họa rõ nét khoảng cách giữa năng lực AI và việc triển khai trong thế giới thực

Vòng gọi vốn 40 triệu USD của AIUC và sự hợp tác với Cursor, Harvey, Lovable, ElevenLabs cùng các công ty AI tiên phong khác

AIUC-1: tiêu chuẩn về bảo mật, an toàn và độ tin cậy cho AI agent

Cách các agent được kiểm thử đối với jailbreak, ảo giác và rò rỉ dữ liệu

Tại sao hầu hết các công ty AI đều tối ưu hóa cho "happy path" (kịch bản lý tưởng) mà không thực sự kiểm thử áp lực các trường hợp đối nghịch (adversarial cases)

Tại sao các tiêu chuẩn AI có thể cần cập nhật hàng quý thay vì hàng thập kỷ

Khoảng cách niềm tin đang nổi lên giữa các phòng thí nghiệm AI tiên phong và chính phủ

An ninh mạng, an toàn trẻ em, vũ khí sinh học và bề mặt rủi ro ngày càng mở rộng của các mô hình tiên phong

Tại sao các tiêu chuẩn và bảo hiểm có thể cần phải phát triển song hành

Cách Lloyd’s of London có thể bảo hiểm cho các hệ thống AI và mang lại niềm tin cho việc triển khai trong doanh nghiệp

Điều gì xảy ra nếu một gói đăng ký Cursor giá 20 USD góp phần gây ra một vụ tai nạn máy bay trị giá 200 triệu USD

Vụ việc chatbot của Air Canada và cách các thất bại của AI đang bắt đầu làm rõ trách nhiệm pháp lý

Tại sao bản quyền có thể là một trong những rủi ro AI khó bảo hiểm nhất

Evals (đánh giá), khả năng diễn giải cơ học (mechanistic interpretability), giám sát và việc các mô hình nhận thức được rằng chúng đang bị kiểm thử

Nhiệm vụ bất khả thi của CISO: áp dụng AI nhanh chóng nhưng không được để xảy ra bất kỳ sai sót nào

Tại sao robot học sẽ làm cho trách nhiệm pháp lý của AI trở nên nghiêm trọng hơn đáng kể

Liệu các kỹ sư AI có nên có chứng chỉ Cấp độ 1, 2 và 3 hay không

Lộ trình của AIUC trên các mảng agent, mô hình tiên phong, robot học và red teaming phổ quát

Tại sao AGI có thể trở thành một vấn đề về chủ quyền quốc gia

Tại sao các phòng thí nghiệm không bao giờ có thể hoàn toàn đóng vai trò là cơ quan giám sát của chính mình

Vấn đề "The Big Short": làm thế nào để ngăn chặn các cơ quan giám sát cạnh tranh chạy đua xuống đáy về tiêu chuẩn?

LinkedIn: https://www.linkedin.com/in/runekvist/

X: https://x.com/RuneKvist

https://aiuc.com

00:00:00 Vòng gọi vốn 40 triệu USD của AIUC và nút thắt rủi ro cho AI

00:01:07 Từ Scaling Laws đến những ngày đầu của Anthropic

00:07:58 Tại sao niềm tin, chứ không phải năng lực, có thể hạn chế việc áp dụng AI

00:12:19 Thành lập AIUC và xây dựng AIUC-1

00:18:52 Cách các AI agent được kiểm toán và kiểm thử áp lực

00:25:26 Các mô hình tiên phong, chính phủ và khoảng cách niềm tin AI

00:33:32 An ninh mạng, an toàn trẻ em và rủi ro sinh học do AI gây ra

00:38:14 Tại sao các tiêu chuẩn và bảo hiểm cần đi đôi với nhau