Amazon bị tố thu mua và hủy hoại sách quý để huấn luyện AI

Theo 404 Media, Amazon đang thu mua hàng tấn sách quý hiếm, cắt bỏ gáy sách và quét nội dung để huấn luyện AI. Thông tin này được xác nhận sau khi 404 Media đặt một thiết bị theo dõi vào một cuốn sách quý, và cuối cùng nó đã được chuyển đến một cơ sở của Amazon tại Las Vegas.

Cơ sở này, được gọi là VGT3, sử dụng biểu tượng một chú khủng long đang cầm cuốn sách trên tay để nhận diện. Trong một tuyên bố gửi tới 404 Media, Amazon cho biết họ “mua sách thông qua các kênh thương mại để cải thiện các sản phẩm và dịch vụ mà khách hàng sử dụng.”

Các công ty như Amazon cần một lượng văn bản khổng lồ đến mức khó tin để huấn luyện các mô hình ngôn ngữ lớn (LLM) của họ, vốn đã "nuốt chửng" mọi thứ có thể từ internet (và trong trường hợp của Anthropic, là cả những cuốn sách vi phạm bản quyền). Những cuốn sách quý hiếm, đặc biệt là những ấn phẩm đã ngừng xuất bản hoặc không thể tìm thấy trên internet, mang đến một nguồn dữ liệu huấn luyện đầy khao khát.

Những văn bản này đặc biệt có giá trị vì không có khả năng bất kỳ nội dung nào được xuất bản trước năm 2022 lại do LLM viết ra. Khi các LLM huấn luyện trên văn bản do AI tạo ra, chúng có nguy cơ gặp phải tình trạng “sụp đổ mô hình” (model collapse) – hiện tượng chất lượng đầu ra của LLM bị suy giảm sau khi tiếp nhận quá nhiều dữ liệu do chính AI tạo ra.