Các nhóm khủng bố đang lợi dụng AI chatbot để lên kế hoạch tấn công và chế tạo vũ khí

Theo các báo cáo, ISIS đã cung cấp dịch vụ đào tạo về prompt engineering và jailbreak từ năm 2023, đồng thời huấn luyện các chỉ huy của Boko Haram tại Nigeria cách vượt qua các bộ lọc an toàn của AI.

Theo một nghiên cứu mới từ nhà nghiên cứu Antonia Jülich thuộc Chương trình Khoa học & Chính sách AI Cambridge (CASP), Boko Haram hiện đang sử dụng các chatbot AI phổ biến như ChatGPT, Claude, Gemini, Grok, Meta AI và DeepSeek, và cả hai phe phái của nhóm này đều đã thành lập các đơn vị AI chuyên trách. Jülich đã thực hiện 57 cuộc phỏng vấn với 27 cựu thành viên của nhóm.

Nghiên cứu cho thấy nhóm này sử dụng AI để lập kế hoạch tấn công, chế tạo các thiết bị nổ mạnh hơn, bảo trì vũ khí và đảm bảo an ninh tác chiến. Các liên lạc viên của ISIS đã huấn luyện các chỉ huy cách vượt qua các bộ lọc an toàn. Cả hai phe phái của Boko Haram đều thiết lập các đơn vị AI chuyên trách của riêng mình. Theo Jülich, họ đã "tập hợp những nhân sự hàng đầu vào một căn phòng và sử dụng máy chiếu để trình diễn cách thức hoạt động trên màn hình lớn."

Trong một trường hợp đặc biệt gây sốc, phe ISWAP đã sử dụng AI để mô phỏng các kỹ thuật nhảy xe mô tô từ một bộ phim nhằm giúp các chiến binh vượt qua chiến hào. Mười tám chiến binh đã thiệt mạng trong quá trình huấn luyện. Tám người đã thực hiện thành công cú nhảy.

Tất nhiên, mọi chuyện không chỉ dừng lại ở các pha mạo hiểm với xe mô tô. "Các cựu thành viên mô tả sự nhiệt tình mạnh mẽ đối với AI, và một số người cho biết nhóm trước đây đã cân nhắc về các loại vũ khí gây thương vong hàng loạt," Jülich viết. "Mặc dù việc sử dụng AI của Boko Haram vẫn còn ở mức thông thường, đây nên là một lời cảnh báo để xem xét nghiêm túc rủi ro khi các tổ chức khủng bố tìm kiếm sự hỗ trợ từ AI cho các loại vũ khí hóa học và sinh học."

Các nhà nghiên cứu cũng như các phòng thí nghiệm AI như OpenAI và Anthropic từ lâu đã cảnh báo rằng các mô hình AI có thể khiến những kiến thức nguy hiểm trở nên dễ tiếp cận hơn. Tuy nhiên, việc tự điều chỉnh tự nguyện dường như không mang lại hiệu quả, vì nghiên cứu cho thấy các bộ lọc an toàn đã không thể ngăn chặn việc lạm dụng một cách đáng tin cậy. Đó có thể chỉ là bản chất của các mô hình ngôn ngữ lớn: Anthropic gần đây đã thừa nhận rằng các hình thức jailbreak có lẽ sẽ không bao giờ bị loại bỏ hoàn toàn.

Các nhà nghiên cứu cũng chỉ ra rằng những chatbot như ChatGPT và Claude, mặc dù thu hút phần lớn sự chú ý của công chúng, lại không phải là mối lo ngại thực sự, bởi chúng chủ yếu chỉ giúp việc tìm kiếm kiến thức hiện có trở nên dễ dàng hơn thay vì tạo ra bất cứ điều gì mới. Mối lo ngại lớn hơn nằm ở khả năng lạm dụng các hệ thống AI chuyên biệt hơn trong lĩnh vực khoa học sự sống.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người.

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền "AI Radar" về công nghệ tiên phong sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay.