Góc nhìn mới về các sự cố AI: Khi lỗi kiểm soát quan trọng hơn khủng hoảng căn chỉnh

Bài luận này dài hơn 13.000 từ và đại diện cho bài viết quan trọng nhất của chúng tôi về an toàn AI kể từ bài luận gốc.

Trong vài tháng qua, các sự cố mất kiểm soát tại OpenAI và Anthropic đã làm gia tăng những lo ngại về an toàn AI. Các cảnh báo về rủi ro hiện hữu đã ngày càng tiếp cận được công chúng rộng rãi hơn, cùng với đó là những lời kêu gọi làm chậm quá trình phát triển AI. Lời kêu gọi “điều tiết tốc độ phát triển” (pace the frontier) của Dario Amodei phản ánh mối lo ngại rằng các nỗ lực đảm bảo an toàn đang không theo kịp năng lực của AI.

Ví dụ nổi bật nhất là sự cố OpenAI - Hugging Face, nơi hàng trăm tác nhân (agents) của OpenAI đã truy cập được vào internet và tấn công Hugging Face để tìm hiểu cách chúng bị chấm điểm trong một bài đánh giá. Trong hai tuần qua, chi tiết về nhiều trường hợp hoạt động tương tự từ các tác nhân OpenAI đang được đánh giá đã lộ diện, chẳng hạn như việc các tác nhân sử dụng một trang Wiki cũ để liên lạc với nhau bất chấp các hạn chế đối với hoạt động này, hoặc tấn công một kho lưu trữ phần mềm để cố gắng tải lên phần mềm độc hại.

Cộng đồng an toàn AI phần lớn coi những sự cố này là một cuộc khủng hoảng về sự căn chỉnh (alignment). Theo quan điểm này, việc căn chỉnh sẽ ngày càng trở nên khó khăn hơn theo thời gian khi các tác nhân học cách suy luận một cách lén lút, và kết quả là, các sự cố mất kiểm soát có khả năng trở nên phổ biến và gây thiệt hại nghiêm trọng hơn khi các tác nhân trở nên có năng lực hơn.

Mặt khác, các chuyên gia an ninh mạng phần lớn coi những sự cố này là hậu quả của việc các công ty không áp dụng các biện pháp phòng ngừa an ninh cơ bản. Họ không coi các sự cố này là dấu hiệu cho thấy AI đã đạt đến một cột mốc mới trong an ninh mạng. Đây cũng là phản ứng chủ đạo trong cộng đồng công nghệ bên ngoài lĩnh vực AI, nơi phần lớn coi các sự cố này là kết quả của sự kém cỏi và tắc trách từ các công ty AI.

Cả hai cộng đồng đều đã đưa ra những quan điểm quan trọng. Tuy nhiên, sự phân cực giữa họ là phản tác dụng, và có những bài học từ cả thất bại trong việc căn chỉnh lẫn thất bại trong an ninh để hiểu về con đường phía trước.

Trong bài luận này, chúng tôi áp dụng khung lý thuyết "AI as Normal Technology" (AI là công nghệ bình thường) để tổng hợp quan điểm của cộng đồng an toàn AI và cộng đồng an ninh mạng, từ đó đưa ra một điểm chung mang tính xây dựng. Chúng tôi cho rằng các công ty AI phải chịu trách nhiệm về những gì tác nhân của họ gây ra, và điều này cần được làm rõ thông qua việc hoạch định chính sách. Đồng thời, việc thừa nhận trách nhiệm của họ không có nghĩa là việc ngăn chặn các sự cố trong tương lai là một vấn đề đã được giải quyết.

Chúng tôi xác định ba lĩnh vực cần đầu tư để giải quyết các rủi ro mất kiểm soát: nghiên cứu phát triển các phương pháp tốt hơn để kiểm soát các tác nhân ngày càng có năng lực, chuyển đổi các nghiên cứu hiện có và các kỹ thuật kiểm soát đã biết thành các công cụ có thể sử dụng được, và thực hiện các thay đổi về mặt tổ chức để đảm bảo rằng các công cụ này thực sự được áp dụng. Theo quan điểm của chúng tôi, các tiêu chuẩn về quản trị tổ chức nên là chìa khóa để điều tiết tốc độ phát triển và đưa các công ty AI thoát khỏi tư duy “di chuyển nhanh và phá vỡ mọi thứ” (move fast and break things) mà họ đang vận hành.

Bài luận này gồm ba phần. Trong Phần 1, chúng tôi lập luận rằng chỉ riêng việc căn chỉnh là không đủ để ngăn chặn các sự cố như vậy, đồng thời thảo luận về các can thiệp kỹ thuật, tổ chức và chính sách để cải thiện khả năng kiểm soát AI. Chúng tôi thận trọng lạc quan rằng các khoản đầu tư và can thiệp chính sách đúng đắn có thể cho phép việc kiểm soát AI theo kịp với những cải tiến về năng lực của AI. Trong Phần 2, chúng tôi thảo luận về tác động của việc cải thiện năng lực AI, chẳng hạn như các bầy tác nhân (agent swarms), đối với an ninh mạng. Trong Phần 3, chúng tôi chia sẻ cách nhìn nhận của mình về an toàn AI đã thay đổi như thế nào trước những bằng chứng mới.

Tóm tắt lập luận của chúng tôi:

Chúng tôi đồng ý với các chuyên gia an ninh rằng OpenAI đã không thực hiện các biện pháp bảo vệ đầy đủ để kiểm soát các tác nhân của họ. Nhưng đây không chỉ là vấn đề áp dụng các phương pháp bảo mật 30 năm tuổi vào một lĩnh vực mới. An ninh cho các tác nhân AI — hay kiểm soát AI — mặc dù quan trọng, nhưng chưa phải là một vấn đề đã được giải quyết. Mặc dù các phương pháp kiểm soát đã biết có thể đã ngăn chặn được sự cố Hugging Face, nhưng khi năng lực của tác nhân tiếp tục tiến bộ, chúng ta sẽ chỉ có thể kiểm soát chúng nếu đầu tư thỏa đáng vào các biện pháp can thiệp kiểm soát.

Chúng tôi cũng đồng ý với quan điểm ngầm định của các chuyên gia an ninh rằng những sự cố này chủ yếu là một câu chuyện về an ninh. Trong cộng đồng an toàn AI, các tác nhân bất hảo (rogue agents) bị coi là thảm họa theo bản chất vì giả định rằng có vô số rủi ro sẽ phát sinh từ sự phát triển của chúng. Chúng tôi không đồng ý. Chúng tôi từ lâu đã ủng hộ rằng cách tiếp cận tốt nhất đối với an toàn AI là xác định các rủi ro và giải quyết các rủi ro cụ thể đó. Trong vài tháng qua, rõ ràng một rủi ro cấp bách là tấn công mạng (cyberoffense), vì nó có những đặc tính độc đáo cho phép các tác nhân thực hiện nó một cách tự chủ. Chúng ta nên đầu tư tương tự vào các biện pháp phòng thủ chống lại các rủi ro cụ thể khác, chẳng hạn như rủi ro sinh học (biorisk) và các rủi ro từ AI quân sự.

Chúng tôi đồng ý với cộng đồng an toàn AI rằng cần có các can thiệp kỹ thuật và chính sách khẩn cấp để ngăn chặn các sự cố mất kiểm soát. Nhưng theo quan điểm của chúng tôi, các khoản đầu tư biên vào kiểm soát có khả năng hiệu quả hơn so với các khoản đầu tư vào căn chỉnh. Chúng tôi coi những sự cố này minh chứng cho việc thiếu chú trọng vào kiểm soát AI trong các công ty, bất chấp sự sẵn có của các kỹ thuật đã biết. Rộng hơn, có nhiều đề xuất chính sách hợp lý có thể giúp thúc đẩy đầu tư vào kiểm soát AI, nơi chúng tôi có chung quan điểm với cộng đồng an toàn AI.

Chúng ta nên suy luận như thế nào về tác động của AI đối với an ninh mạng? Có khả năng là những tiến bộ trong năng lực của tác nhân sẽ làm đảo lộn sự cân bằng giữa tấn công và phòng thủ trong an ninh mạng. Chúng ta chưa thể chắc chắn, nhưng đã có đủ bằng chứng cho thấy năng lực của tác nhân có thể sớm biến các cuộc tấn công mạng quy mô lớn thành hiện thực, do đó cần có hành động khẩn cấp. Chúng tôi thảo luận về các can thiệp tiềm năng để nghiêng cán cân tấn công-phòng thủ về phía người phòng thủ.

Khung lý thuyết AI as Normal Technology đã phát triển như thế nào trong năm qua. Chúng tôi đánh giá tiến bộ của AI và chia sẻ cách chúng tôi cập nhật quan điểm của mình. Trong bài luận, chúng tôi đã không chú ý đầy đủ đến các rủi ro an toàn phát sinh trong quá trình phát triển và đánh giá (trái ngược với việc triển khai rộng rãi các mô hình). Chúng tôi đã quá tự tin rằng các công ty sẽ thực hiện các biện pháp kiểm soát cơ bản và đánh giá thấp tầm quan trọng của sự không đồng đều (jaggedness), điều này khiến chúng tôi đánh giá thấp tốc độ cải thiện năng lực trong các lĩnh vực như an ninh mạng.

Đồng thời, nhiều tuyên bố đặc trưng của AI as Normal Technology vẫn đứng vững, và nó vẫn có giá trị trong việc hiểu các tác động xã hội của AI. Đặc biệt, chúng tôi cho rằng các sự cố gần đây ủng hộ giả thuyết về tính liên tục của chúng tôi — hành vi của các tác nhân “bất hảo” đã trở nên rõ ràng và được công khai rộng rãi trong khi chúng vẫn còn cách xa việc gây ra tác hại nghiêm trọng và chưa đủ khả năng che giấu dấu vết. Phản ứng của xã hội đối với những tác hại tương đối nhỏ từ các sự cố này đã rất dữ dội (và cộng đồng an toàn AI xứng đáng được ghi nhận vì đã duy trì áp lực lên các công ty). Liệu điều này có chuyển thành những thay đổi có ý nghĩa trong hành vi của các công ty hay không vẫn là một câu hỏi mở, và là một bài kiểm tra về tính hữu dụng của khung AINT.

Cuối cùng, chúng tôi cho rằng AINT đặc biệt có giá trị để phân tích các sự cố này vì nó cung cấp một khung lý thuyết để tổng hợp quan điểm của cộng đồng an toàn AI và cộng đồng an ninh mạng thành một kế hoạch hành động nhất quán: buộc các công ty chịu trách nhiệm, đầu tư vào kiểm soát và tăng cường phòng thủ chống lại các rủi ro cụ thể.

Bảng này tóm tắt lập luận của chúng tôi. Trong khi cộng đồng AI về nguyên tắc đã nhấn mạnh khái niệm “phòng thủ theo chiều sâu” (defense in depth), thì trên thực tế, căn chỉnh cho đến nay là biện pháp can thiệp nhận được nhiều sự chú ý và đầu tư nhất. Mặt khác, cộng đồng an ninh mạng lại coi kiểm soát phần lớn là một vấn đề đã được giải quyết. Theo quan điểm của chúng tôi, để bảo vệ trước các sự cố mất kiểm soát từ các bên hợp pháp, chúng ta cần khẩn trương đầu tư vào kiểm soát để nó theo kịp với những cải tiến về năng lực. Cả căn chỉnh lẫn kiểm soát đều không giúp ích gì trước những người dùng độc hại, vì vậy chúng ta cần các biện pháp phòng thủ hạ nguồn và khả năng phục hồi để giảm thiểu tác động và mức độ nghiêm trọng của các rủi ro. Tất cả những nỗ lực này có thể được củng cố bằng các can thiệp chính sách. Bảng này nhấn mạnh các can thiệp cho an ninh mạng, nhưng chúng ta nên đồng thời đầu tư vào các biện pháp phòng thủ chống lại các rủi ro khác, chẳng hạn như rủi ro sinh học.

Phần 1: Chúng ta có thể cải thiện khả năng kiểm soát AI thông qua các can thiệp kỹ thuật và chính sách

Căn chỉnh là hữu ích nhưng không đủ để ngăn chặn các sự cố an toàn

OpenAI đã không sử dụng các biện pháp can thiệp kiểm soát đã biết vốn có thể ngăn chặn sự cố

Các quy tắc quản trị tổ chức hiện có lẽ đã ngăn chặn được sự cố

Tại sao cộng đồng AI lại đầu tư chưa thỏa đáng vào kiểm soát?

Liệu kiểm soát có theo kịp năng lực của AI?

Kiểm soát AI nên trở thành một công việc (và là một phần của mọi công việc), giống như an ninh mạng

Chính sách AI có thể khuyến khích việc kiểm soát AI

Phần 2: Có sự không chắc chắn lớn về việc AI sẽ tác động như thế nào đến rủi ro mạng. Nhưng những gì chúng ta cần làm bất kể thế nào là tương đối rõ ràng.

Mối đe dọa cụ thể đang cấp bách là rủi ro mạng

Năng lực mạng tự chủ và các mô hình mở (open-weight models) sẽ ảnh hưởng như thế nào đến cán cân tấn công/phòng thủ?

Để hiểu các mô hình mở có ý nghĩa gì đối với tương lai của hoạt động tội phạm mạng, chúng ta cần hiểu đúng về quá khứ

Phần lớn tội phạm mạng có trình độ công nghệ thấp một cách đáng ngạc nhiên, và rào cản là việc kiếm tiền, không phải là việc khai thác lỗ hổng

Vậy, AI sẽ giúp ích cho tội phạm mạng đến mức nào?

Liệu chúng ta sắp chứng kiến các tác nhân tự chủ gây hại?

Tại sao sâu Morris (Morris worm) là một phép ẩn dụ tốt cho những gì sắp xảy ra

Tương lai của phòng thủ mạng có thể trông như thế nào: vai trò của con người và AI phòng thủ

Đâu là những khoảng trống trong tình trạng phòng thủ mạng chống lại AI?

Phần 3: AI as Normal Technology đã sai — và đúng — những gì về an toàn AI

Rủi ro phát sinh từ quá trình phát triển hay triển khai?