Chủ tịch OpenAI cảnh báo doanh nghiệp cần cấp tốc nâng cấp hàng rào bảo mật AI

Chủ tịch kiêm đồng sáng lập OpenAI, ông Greg Brockman, cảnh báo rằng các đội ngũ an ninh doanh nghiệp đang phải đối mặt với một khoảng thời gian hạn hẹp để áp dụng các biện pháp phòng thủ bằng AI.

Brockman đã công bố một bản tường trình về sự việc mà công ty gọi là sự cố “OpenAI-Hugging Face”, qua đó lập luận rằng các tổ chức cần nâng cấp các quy trình bảo mật của mình với tốc độ mà ông gọi là chưa từng có. Ông viết rằng kể từ sau sự cố, ông đã trao đổi với nhiều tổ chức và nhận thấy một chủ đề xuyên suốt trong các cuộc trò chuyện đó: các nhà lãnh đạo biết rằng họ phải hành động nhanh hơn những gì các chương trình bảo mật hiện tại cho phép.

Sự cấp bách này xuất phát từ một sự kiện cụ thể. Một “tập thể tác nhân” (agentic collective) đã thâm nhập một cách tự chủ vào cơ sở hạ tầng nghiên cứu của chính OpenAI và sau đó di chuyển sang cơ sở hạ tầng sản xuất của Hugging Face. Những kẻ tấn công đã kết nối các lỗ hổng bảo mật chưa từng được biết đến trước đây với thông tin đăng nhập tài khoản người dùng bị rò rỉ tìm thấy trên internet để hoàn tất cuộc xâm nhập. Brockman gọi đây là bản xem trước về cách năng lực của một tác nhân đe dọa điển hình sẽ phát triển trong những tháng tới.

Quyết định phòng thủ AI mà các nhà lãnh đạo an ninh phải đối mặt

Brockman lập luận rằng sự cố này đã phơi bày một vấn đề vượt xa mạng lưới của bất kỳ công ty đơn lẻ nào. Ông viết rằng nợ kỹ thuật tích tụ bên trong mỗi tổ chức “che giấu những lỗ hổng đáng kể” mà giờ đây những người bảo vệ cần phải xác định và khắc phục trước khi những kẻ tấn công làm điều đó.

Ông cho biết các mô hình AI được phát triển trên toàn ngành ngày càng có khả năng tự động hóa các phần của các cuộc tấn công mạng trong thế giới thực, điều này khiến các lỗ hổng bảo mật tồn tại lâu nay trở nên dễ tìm và dễ khai thác hơn. Những lỗ hổng đó bao gồm từ các lỗi nằm sâu trong phần mềm do con người viết cho đến các quyền truy cập bị lãng quên mà không được quản lý trong nhiều năm.

Theo chính Brockman, thời hạn cho quyết định đó rất ngắn. Đầu năm nay, OpenAI bắt đầu chỉ phát hành các năng lực mạng của mình cho những người bảo vệ đáng tin cậy thay vì công chúng, một nỗ lực có chủ đích để giữ cho phe phòng thủ đi trước. Kể từ đó, các công ty khác đã phát hành các mô hình mã nguồn mở (open-weight models) với năng lực mạng chỉ chậm hơn vài tháng so với các mô hình tiên tiến nhất.

Brockman chỉ ra một mô hình khác dự kiến sẽ được phát hành vào cuối tháng 8, mà ông cho rằng có khả năng sẽ làm thay đổi đáng kể bối cảnh đe dọa. Đối với các nhà lãnh đạo doanh nghiệp, điều này thu hẹp khoảng thời gian để xây dựng các biện pháp phòng thủ có sự hỗ trợ của AI trước khi các mô hình phổ biến rộng rãi bắt kịp năng lực của kẻ tấn công.

Brockman định hình động lực cơ bản này như một cuộc đua hai chiều. Ông viết rằng những kẻ tấn công sử dụng AI sẽ sớm có thể tìm ra các lỗ hổng tồn tại lâu nay trên nhiều hệ thống hiện có, nhưng chính công nghệ đó cũng cung cấp cho những người bảo vệ các công cụ để tìm kiếm, ưu tiên và khắc phục những lỗ hổng đó nhanh hơn.

Trong khi mô tả bảo mật vẫn là một trò chơi "mèo vờn chuột", Brockman lập luận rằng AI có thể thay đổi các yếu tố kinh tế cơ bản theo hướng có lợi cho phe phòng thủ. OpenAI tuyên bố họ đã bắt đầu huấn luyện các mô hình chuyên biệt để viết mã an toàn hơn. Ngoài ra, công ty cũng chỉ ra khả năng của các mô hình trong việc chứng minh toán học, điều mà họ cho rằng có thể được áp dụng để xác minh chính thức tính bảo mật của phần mềm theo những cách mà trước đây con người khó có thể thực hiện ở quy mô lớn.

Một trường hợp thử nghiệm trên trang web cá nhân của Brockman

Brockman đưa ra một ví dụ cá nhân về việc phản ứng nhanh hơn trông như thế nào trong thực tế. Sau sự cố, ông đã yêu cầu ChatGPT Work, chạy phiên bản GPT‑5.6 Sol công khai, đánh giá tính bảo mật của trang web cá nhân gregbrockman.com. Ông mô tả đó là một trang web tĩnh đơn giản được lưu trữ trên AWS với Cloudflare đóng vai trò là cửa ngõ, và cho biết ông dự đoán bề mặt tấn công sẽ rất hạn chế.

Quá trình đánh giá mất khoảng 15 phút và phát hiện ra 13 vấn đề. Brockman cho biết nhiều vấn đề có lẽ không thể tự khai thác được, nhưng ông có thể hình dung chúng bị kết nối với các lỗ hổng khác. Công cụ này phát hiện ra rằng các bản ghi DNS của ông không được cấu hình để ngăn chặn kẻ tấn công giả mạo email từ địa chỉ của ông. Trang web của ông đang chạy một phiên bản jQuery không an toàn và Cloudflare đang chuyển tiếp các yêu cầu đến AWS qua giao thức HTTP không mã hóa.

Sau đó, ông yêu cầu ChatGPT Work khắc phục các vấn đề này, và công cụ đã thực hiện trong khoảng một giờ. Công cụ này đã mở bảng điều khiển Cloudflare trong trình duyệt của ông và xử lý các cài đặt DNS, TLS và bảo mật nâng cao. Nó đã loại bỏ hoàn toàn jQuery khỏi trang web, di chuyển trang web từ AWS sang Cloudflare Pages và bắt đầu triển khai DMARC theo từng giai đoạn.

Brockman coi đây là một minh chứng quy mô nhỏ về các mô hình hiện có đang hoạt động như cái mà ông gọi là "người giám hộ mạng" (cyberguardian), có khả năng tìm ra hàng loạt các vấn đề cấu hình mà con người có thể thiếu thời gian hoặc chuyên môn cụ thể để giải quyết, sau đó áp dụng các bản sửa lỗi với quy trình triển khai được dàn dựng phù hợp.

Cách OpenAI tái cấu trúc hệ thống phòng thủ của chính mình

Brockman viết rằng sự cố Hugging Face cho thấy OpenAI đã đánh giá thấp năng lực mạng trong thế giới thực của chính các mô hình AI của mình, thúc đẩy công ty tăng cường các yêu cầu an toàn và đẩy nhanh các nghiên cứu an toàn cũng như công việc bảo mật nội bộ. Ông đưa ra bốn lĩnh vực đầu tư nội bộ làm cơ sở cho các khuyến nghị của mình đối với các tổ chức khác.

Đầu tiên là sử dụng các mô hình của chính OpenAI để giúp bảo mật mã nguồn. Codex, cùng với một plugin bảo mật, xác thực các thay đổi mã và xác định lỗ hổng trước khi triển khai. Brockman khẳng định rõ ràng rằng mục tiêu không phải là tạo ra nhiều kết quả cần con người xác thực hơn; mục tiêu là phát hiện các lỗ hổng thực sự trước khi chúng được đưa vào sử dụng và rút ngắn thời gian giữa việc phát hiện vấn đề và triển khai bản sửa lỗi. Tham vọng của OpenAI là loại bỏ một số loại lỗ hổng phần mềm trong mã nguồn mới.

Trụ cột thứ hai liên quan đến việc sử dụng các mô hình để bảo vệ cơ sở hạ tầng một cách liên tục. Brockman cho biết gần như tất cả các cảnh báo bảo mật ban đầu của OpenAI hiện đều được các hệ thống AI phân loại trước khi con người can thiệp, điều này giúp giảm khối lượng công việc cho đội ngũ bảo vệ và cải thiện thời gian phản hồi. Công ty đang kết nối các phát hiện này với các phản hồi tự động có giới hạn trong khi vẫn giữ con người chịu trách nhiệm cho các quyết định có tác động cao nhất, với mục tiêu đã nêu là phát hiện và phản ứng với các vấn đề bảo mật ở tốc độ máy.

Thứ ba, OpenAI sử dụng các mô hình của mình để liên tục liệt kê và thăm dò các con đường tấn công tiềm ẩn, tìm kiếm các lỗ hổng, cấu hình sai, các danh tính có đặc quyền quá mức và các ranh giới tin cậy không mong muốn. Điều này hỗ trợ cái mà Brockman gọi là đánh giá liên tục các bất biến bảo mật của công ty, những đặc tính mà họ tin rằng phải luôn đúng trên các sản phẩm và cơ sở hạ tầng của mình.

Trụ cột thứ tư là đầu tư vào các nguyên tắc cơ bản ở quy mô lớn, bao gồm kiến trúc an toàn, phòng thủ theo chiều sâu và đặc quyền tối thiểu. Mục tiêu thiết kế đã nêu là các hệ thống yêu cầu nhiều biện pháp kiểm soát độc lập phải cùng thất bại đồng thời thì mới có thể xảy ra sự cố thảm khốc. Cách ly mạng, tăng cường bảo mật cho khối lượng công việc, giám sát, cũng như các quy trình vá lỗi và triển khai vẫn là một phần của nền tảng này, và Brockman cho biết chúng sẽ càng quan trọng hơn khi năng lực AI tăng lên ở cả hai phía.

Những điều Brockman khuyên các đội ngũ an ninh doanh nghiệp nên làm ngay bây giờ

Brockman đưa ra một danh sách các hành động cho các đội ngũ an ninh, tập trung vào tốc độ thay vì thiết kế lại toàn bộ chương trình. Ông khuyến nghị đảm bảo sự đồng thuận của tổ chức và thực hiện các bài tập giả lập (tabletop exercises) để mô hình hóa cách các cuộc tấn công này có thể diễn ra bên trong một tổ chức cụ thể. Ông khuyên nên cung cấp cho các đội ngũ an ninh một công cụ tác nhân như Codex hoặc plugin Codex Security, với quyền truy cập đã được phê duyệt vào các cơ sở mã và cấu hình cơ sở hạ tầng, bắt đầu với các hệ thống ưu tiên cao nhất thay vì chờ đợi triển khai trên toàn công ty.

Ông gợi ý trang bị cho tác nhân đó các kỹ năng được cộng đồng hỗ trợ bao gồm phân tích tĩnh, đánh giá mã tập trung vào bảo mật, phân tích biến thể lỗ hổng và rủi ro chuỗi cung ứng phần mềm, sau đó xây dựng các kỹ năng đặc thù cho tổ chức dựa trên kiến trúc và mô hình đe dọa hiện có. Các tổ chức nên chạy đánh giá đối với các dịch vụ hướng internet, luồng xác thực, cơ sở hạ tầng dưới dạng mã (infrastructure-as-code) và các hệ thống xử lý dữ liệu nhạy cảm trước tiên. Sau đó, các đội ngũ nên xử lý các tồn đọng hiện có từ kết quả máy quét, cảnh báo phụ thuộc và báo cáo lỗi (bug bounty), yêu cầu tác nhân phân biệt các vấn đề có thể khai thác được với các nhiễu thông tin.

Brockman cũng khuyến nghị tích hợp đánh giá dựa trên tác nhân trực tiếp vào các quy trình phát triển, kiểm tra các lỗi xác thực, bỏ qua kiểm soát truy cập, thông tin đăng nhập bị lộ và các phụ thuộc không an toàn trước khi hợp nhất mã. Đối với các vấn đề đã được xác thực, ông gợi ý để tác nhân tạo bản vá, viết kiểm thử hồi quy và xác nhận lỗ hổng không còn tái diễn, trong khi vẫn giữ sự đánh giá của con người đối với các thay đổi quan trọng.

Về tự động hóa, Brockman khuyên nên đi theo lộ trình tăng dần thay vì cố gắng xây dựng một trung tâm điều hành an ninh tự động ngay lập tức. Các tổ chức nên bắt đầu với các bản quét chỉ đọc của một kho lưu trữ duy nhất, chuyển sang quét yêu cầu kéo (pull-request) mang tính tư vấn, sau đó là phân loại cảnh báo trực tiếp, và chỉ sau đó mới giới thiệu việc tự động đóng các kết quả dương tính giả được xác định hẹp. Con người nên đưa ra mọi quyết định cho đến khi sự tự tin được xây dựng thông qua trình tự đó.

Ông cũng hướng các tổ chức đăng ký Trusted Access for Cyber để được phê duyệt sử dụng GPT‑Daybreak‑Blue cho công việc phòng thủ bao gồm ứng phó sự cố, kỹ thuật phát hiện và phân tích phần mềm độc hại. Brockman khuyến nghị thực hành với năng lực này trên các bản ghi và dữ liệu đo từ xa trước khi một sự cố thực tế buộc phải thực hiện.

Brockman kết luận bằng cách lập luận rằng không công ty nào có thể tự mình giải quyết vấn đề này, kêu gọi các phòng thí nghiệm AI, nhà cung cấp bảo mật, doanh nghiệp và những người bảo trì chia sẻ các phát hiện, bản sửa lỗi và cẩm nang đã được xác thực để khám phá của một tổ chức có thể củng cố toàn bộ hệ sinh thái rộng lớn hơn. Ông mô tả cửa sổ của người bảo vệ đang mở ngay bây giờ, với việc các tổ chức cần tự động hóa các chương trình bảo mật trong những tháng tới để theo kịp năng lực của kẻ tấn công, trước khi mô hình mã nguồn mở tiếp theo mà ông dự đoán sẽ xuất hiện vào cuối tháng 8.

Xem thêm: Alvys ra mắt các tác nhân AI cho quy trình làm việc TMS vận tải

Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy tham dự AI & Big Data Expo diễn ra tại Amsterdam, California và London. Sự kiện toàn diện này là một phần của TechEx và được tổ chức cùng với các sự kiện công nghệ hàng đầu khác bao gồm Cyber Security & Cloud Expo. Nhấp vào đây để biết thêm thông tin.

AI News được vận hành bởi TechForge Media. Khám phá các sự kiện và hội thảo trực tuyến về công nghệ doanh nghiệp sắp tới tại đây.