Rào cản AI đang gây khó khăn cho các chuyên gia nghiên cứu bảo mật tấn công như thế nào?

Trong nhiều tháng qua, các "gã khổng lồ" AI đã thiết lập những chương trình kiểm duyệt đặc biệt cùng các rào cản kỹ thuật nghiêm ngặt nhằm hạn chế việc sử dụng mô hình của họ bởi các hacker độc hại. Tuy nhiên, những giới hạn này hiện đang gây cản trở công việc của các chuyên gia bảo mật mạng chính thống, cũng như các nhà nghiên cứu an ninh mạng tấn công.

Vào tháng 6, chính phủ Hoa Kỳ đã áp đặt các hạn chế kiểm soát xuất khẩu đối với các mô hình AI được quảng bá rầm rộ của Anthropic là Mythos và Fable. Động thái này được thúc đẩy ít nhất một phần bởi một báo cáo cho rằng có thể vượt qua các rào cản của mô hình vốn được thiết kế để ngăn người dùng sử dụng chúng nhằm xây dựng và thực hiện các cuộc tấn công mạng độc hại.

Bất kể sự việc có thực sự xuất phát từ nỗi lo ngại về việc bẻ khóa (jailbreak) hay không, thực tế là Anthropic đã nhiều lần tiếp thị Mythos như một loại "cỗ máy mạng ngày tận thế" chỉ có thể được cung cấp cho những người dùng đã qua kiểm duyệt kỹ lưỡng, và ngay cả khi đó vẫn phải tuân thủ các rào cản nghiêm ngặt. (Các biện pháp kiểm soát xuất khẩu đối với Fable 5 và Mythos 5 kể từ đó đã được dỡ bỏ. Fable 5 đã trở lại quyền truy cập phổ thông vào ngày 1 tháng 7; Mythos 5 chỉ được giới thiệu lại cho các tổ chức Hoa Kỳ đã qua kiểm duyệt như một phần trong quy trình đánh giá của chính phủ.)

Kiểu kiểm soát truy cập đó không chỉ dành riêng cho Mythos. Cả Anthropic (với các mô hình khác của họ) và OpenAI đều cung cấp cho các nhà nghiên cứu an ninh mạng những chương trình mà họ có thể đăng ký để được kiểm duyệt và — nếu được chấp thuận — sẽ có quyền truy cập vào các mô hình với ít hạn chế bảo mật hơn: đó là Trusted Access for Cyber của OpenAI và Cyber Verification Program của Anthropic.

Những rào cản này đã bị chỉ trích rộng rãi, đặc biệt là bởi các nhà nghiên cứu có công việc là tìm ra các lỗ hổng chưa được biết đến trong hệ thống và tìm cách khai thác chúng trước khi tội phạm kịp thực hiện.

Trong một lần xuất hiện gần đây trên một podcast về an ninh mạng, Mark Dowd, một nhà nghiên cứu bảo mật nổi tiếng, cho biết: "Tôi cảm thấy không thoải mái khi các công ty lớn ngẫu nhiên này lại đưa ra những quyết định tùy tiện về việc cái gì là an toàn trong bảo mật và cái gì không."

Dowd đã dành nhiều thập kỷ để tìm kiếm và bán các "zero-day" — những lỗ hổng phần mềm chưa từng được biết đến trước đó và các phương thức khai thác chúng — cho các chính phủ phương Tây, thay vì báo cáo cho các nhà sản xuất phần mềm để họ vá lỗi. Các chính phủ sẵn sàng trả giá cao cho các lỗ hổng chính vì chúng vẫn còn tồn tại, điều này rất hữu ích cho các hoạt động tình báo.

Dowd thừa nhận công việc của mình có thể khiến ông có cái nhìn thiên kiến, nhưng ông không đơn độc. Một số người làm việc trong lĩnh vực an ninh mạng tấn công — những người chủ động thăm dò hệ thống để tìm điểm yếu — đã mô tả với TechCrunch cách họ sử dụng các công cụ AI và đối phó với các rào cản của chúng.

Chris Anley, giám đốc khoa học tại tập đoàn tư vấn bảo mật khổng lồ NCC Group, cho biết việc yêu cầu một mô hình AI thử khai thác một lỗi là bước then chốt để xác nhận đó là một lỗ hổng thực sự đáng để sửa chữa. Nhưng nếu một rào cản khiến mô hình từ chối trả lời câu hỏi ngay lập tức, thì rào cản đó đang gây hại cho những người bảo vệ, ông nói.

"Đây chính là nơi nảy sinh vấn đề giữa tấn công và phòng thủ cùng các rào cản, bởi vì câu lệnh 'sửa mã nguồn này' vừa là cơ chế thiết yếu để phòng thủ, nhưng cũng là lộ trình để tìm ra các lỗ hổng nghiêm trọng trong cơ sở mã nguồn," Anley nói. "Vì vậy, cùng một công cụ vừa là công cụ tấn công vừa là công cụ phòng thủ, và hai khía cạnh này thực sự không thể tách rời."

Nó "giống như một chiếc búa," ông tiếp tục. "Bạn không thể xây nhà nếu không có búa. Nó chắc chắn là một công cụ, nhưng nó cũng không thể phủ nhận là một loại vũ khí."

Khi ông và các đồng nghiệp gặp phải rào cản như vậy, đôi khi họ phải quay sang sử dụng các mô hình AI mã nguồn mở vốn không có bất kỳ rào cản nào.

Paolo Stagno, giám đốc công nghệ tại CrowdFense, một công ty nổi tiếng chuyên phát triển, thu mua và bán các lỗ hổng chưa biết cho các cơ quan chính phủ, đã đồng tình với Dowd. Ông cho rằng các công ty AI "về cơ bản đang đối xử với khách hàng như những đứa trẻ cần được trông nom" với các chương trình kiểm duyệt và rào cản của họ.

Stagno cho biết ông và các đồng nghiệp có sử dụng các mô hình tiên phong (frontier models) — nhưng chỉ để kỹ thuật đảo ngược (reverse engineering). Họ tránh sử dụng AI để hỗ trợ tìm kiếm lỗ hổng hoặc xây dựng các phương thức khai thác, ông nói, vì việc đưa công việc đó vào một mô hình dựa trên đám mây có nguy cơ làm rò rỉ dữ liệu lỗ hổng nhạy cảm hoặc bị hấp thụ vào các đợt huấn luyện trong tương lai. Đối với bước đó, ông cho biết họ sử dụng các mô hình mã nguồn mở chạy cục bộ, vì họ không dựa vào việc chia sẻ dữ liệu ra bên ngoài mô hình.

Giuseppe Cali, một nhà nghiên cứu bảo mật chuyên tìm kiếm các zero-day và phát triển các phương thức khai thác, cho biết các rào cản không gây cản trở công việc của ông. Đó là vì ông không sử dụng AI cho công việc tấn công; thay vào đó, ông sử dụng nó cho kỹ thuật đảo ngược ban đầu, để hiểu mã nguồn mà ông đang phân tích và để xây dựng các công cụ hỗ trợ. Đối với mục đích đó, ông nói, các công cụ AI có thể tăng tốc quy trình và cho phép ông tập trung vào việc khám phá các lỗ hổng.

"Tôi vẫn muốn tự mình thực hiện việc khám phá và vũ khí hóa lỗi thực tế, và điều đó sẽ không thay đổi ngay cả khi tất cả các rào cản được dỡ bỏ vào ngày mai," Cali nói. "Tôi rất trân trọng các lỗi của mình và tôi thích trò chơi này đến mức không muốn để các mô hình chơi thay tôi."

Một nhà nghiên cứu tại một nhà sản xuất linh kiện điện thoại thông minh, người yêu cầu giấu tên vì không được phép trả lời báo chí, cho biết công ty của ông không tham gia chương trình CVP của Anthropic. Kết quả là, các công cụ của họ hầu như không hữu ích trong việc tìm kiếm lỗ hổng vì các rào cản quá nghiêm ngặt.

"Nếu nó phát hiện chúng tôi đang làm bất cứ điều gì liên quan đến bảo mật, nó sẽ dừng lại ngay lập tức và không thể sử dụng được," người này cho biết.

Chris Thompson — giám đốc điều hành của công ty an ninh mạng RemoteThreat và là người sáng lập Offensive AI Con, một sự kiện tập trung vào an ninh tấn công và AI — cho biết theo kinh nghiệm sử dụng các mô hình AI tiên phong, các rào cản có thể không nhất quán và hoạt động khác nhau mỗi ngày. Điều đó đúng ngay cả trong phạm vi nới lỏng hơn của các chương trình đã qua kiểm duyệt của Anthropic và OpenAI.

"Tôi nghĩ tác động thực tế là bạn dành rất nhiều thời gian để thương lượng với mô hình thay vì làm việc trên chương trình bảo mật cốt lõi," Thompson nói. "Thay vì phân tích một lỗ hổng và suy luận về khả năng khai thác, bạn lại đang cố gắng tìm hiểu lý do tại sao bạn nhận được kết quả không nhất quán hoặc tại sao các mô hình lại kiểm duyệt đầu ra quá mức."

Hệ quả là, các nhà nghiên cứu dựa vào hoặc bị đẩy về phía các mô hình mã nguồn mở của Trung Quốc như GLM — những mô hình có thể tải xuống miễn phí và chạy cục bộ mà không cần kiểm duyệt hay hạn chế sử dụng, Thompson cho biết.

"Bạn có những nhà nghiên cứu có trách nhiệm đang bị đẩy ra khỏi các hệ thống do Hoa Kỳ quản lý để chuyển sang các hệ thống thuộc sở hữu nước ngoài," ông nói. "Tôi nghĩ việc duy trì các rào cản này gây hại nhiều hơn là có lợi."

Thay vì thắt chặt hơn nữa các hạn chế, Thompson kêu gọi các phòng thí nghiệm AI tiên phong hãy mở rộng các chương trình của họ, cung cấp quyền truy cập có trách nhiệm và đồng thời buộc những kẻ lạm dụng công cụ của họ phải chịu trách nhiệm. Nếu không, ông lập luận, những người bảo vệ sẽ thua trong cuộc đua AI.

"Có một cơn bão lớn đang ập đến. Sẽ có một làn sóng tấn công lớn xảy ra với tốc độ và quy mô chưa từng thấy," Thompson nói. "Nhưng chính các công ty tư vấn bảo mật và các nhà nghiên cứu chân chính đang cố gắng tạo ra sự khác biệt lại đang bị kìm hãm ngay lúc này."

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.