AlloyDB nâng cấp ScaNN: Đột phá tốc độ tìm kiếm vector lên quy mô 10 tỷ

Để đáp ứng nhu cầu của các ứng dụng AI tác tử (agentic AI) cấp doanh nghiệp, các cơ sở dữ liệu vector nền tảng thường gặp khó khăn trong việc mở rộng quy mô một cách hiệu quả, vì các trường hợp sử dụng hiện đại có thể mở rộng lên tới hàng tỷ vector.

Là một dịch vụ cơ sở dữ liệu tương thích với PostgreSQL được quản lý toàn diện, AlloyDB được thiết kế để xử lý các khối lượng công việc doanh nghiệp đòi hỏi khắt khe. Bằng cách kết hợp cơ sở hạ tầng của Google với độ tin cậy của các cơ sở dữ liệu thương mại, nó mang lại tính sẵn sàng cao, khả năng mở rộng và bao gồm một công cụ phân tích tiên tiến, tối ưu cho các trường hợp sử dụng AI tác tử. Một phần quan trọng trong đó là chỉ mục ScaNN, hiện đã hoạt động hiệu quả ở quy mô 10 tỷ vector. Điều này đạt được thông qua một cải tiến kiến trúc quan trọng: cấu trúc cây bốn cấp (bản xem trước) sáng tạo kết hợp với việc sử dụng bộ nhớ hiệu quả.

Thách thức về quy mô 10 tỷ vector

Việc mở rộng quy mô lên khối lượng công việc 10 tỷ vector đặt ra những thách thức đáng kể về bộ nhớ và tính toán. Chỉ mục dựa trên cây ScaNN trước đây của AlloyDB bị giới hạn ở các cấu hình cây hai hoặc ba cấp, và việc cố gắng mở rộng các cấu trúc đó đã dẫn đến một số điểm nghẽn:

Cường độ tính toán tăng cao: Các cấu trúc cây lớn hơn đòi hỏi nhiều thao tác hơn đáng kể cho cả việc xây dựng chỉ mục và duyệt truy vấn.

Hạn chế về bộ nhớ: Các quy trình lấy mẫu cần thiết cho 10 tỷ vector có thể dễ dàng vượt quá dung lượng bộ nhớ khả dụng của hệ thống.

Giải pháp: Kiến trúc bốn cấp

Việc giới thiệu cây bốn cấp (bản xem trước) là cải tiến chính trong bản phát hành AlloyDB ScaNN gần đây. Kiến trúc này, được minh họa trong Hình 1, sử dụng chiến lược từ trên xuống để tối ưu hóa sự cân bằng giữa độ chính xác và hiệu quả xây dựng. Để duy trì hiệu suất cao và giảm thiểu mất mát độ nhớ lại (recall loss), hệ thống tích hợp các cải tiến chính như nhánh Top-K, SOAR, điều chỉnh trọng tâm và hình dạng cây cân bằng.

Hình 1. Kiến trúc cây bốn cấp của AlloyDB ScaNN

Thiết kế này có hai lợi ích chính:

1. Giảm cường độ tính toán thông qua phân vùng phân cấp

Kiến trúc bốn cấp giảm đáng kể cường độ tính toán bằng cách sử dụng phân vùng phân cấp để hạn chế khối lượng vector được quét trong quá trình truy vấn. Thay vì duyệt qua một không gian phẳng hoặc được phân đoạn kém, hệ thống phân cấp đa tầng thu hẹp đường dẫn tìm kiếm theo cấp số nhân. Hình 2 minh họa các không gian tìm kiếm qua các cấp độ cây khác nhau, cho thấy cách phân lớp cấu trúc tối ưu hóa hiệu quả duyệt:

Hình 2. Không gian tìm kiếm cho cây hai, ba và bốn cấp

Hai cấp: Sử dụng phân vùng thô để hướng dẫn các truy vấn, dẫn đến độ phức tạp tìm kiếm cơ bản là O(N1/2).

Ba cấp: Giới thiệu một lớp trung gian để phân chia thêm các cụm, thu hẹp phạm vi khám phá xuống O(N1/3).

Bốn cấp: Triển khai các phân vùng tinh chỉnh, có độ chi tiết cao giúp tối ưu hóa hiệu quả duyệt xuống O(N1/4), cho phép xử lý hơn 10 tỷ vector một cách đầy đủ.

Bằng cách mở rộng linh hoạt các lớp phân cấp khi tập dữ liệu mở rộng, AlloyDB ScaNN duy trì độ trễ truy vấn cực thấp và tránh việc các rào cản về quy mô tính toán ảnh hưởng đến hiệu suất.

2. Sử dụng bộ nhớ hiệu quả

Đạt được quy mô 10 tỷ vector đòi hỏi hiệu quả bộ nhớ cao. AlloyDB ScaNN sử dụng các chiến lược sau để tối đa hóa hiệu suất quản lý bộ nhớ:

Xây dựng hình dạng cây cân bằng: Cây bốn cấp sử dụng cấu hình cân bằng để vượt qua các hạn chế về bộ nhớ vốn giới hạn kích thước của các tập dữ liệu huấn luyện. Kiến trúc cân bằng này tận dụng hiệu quả các kích thước lấy mẫu giảm bớt để xây dựng các phân vùng cây có độ trung thực cao.

Tối ưu hóa lấy mẫu: Khi hệ thống gặp phải các hạn chế về bộ nhớ, nó tạo ra một tập hợp lấy mẫu cô đọng có cân nhắc đến hiệu suất và độ chính xác.

Kết quả kiểm thử hiệu suất

Bằng cách tận dụng kiến trúc cây bốn cấp sáng tạo trong các thử nghiệm nội bộ, chúng tôi có thể đạt được các kết quả hiệu suất sau:

AlloyDB có thể mở rộng lên hơn 10 tỷ vector với chỉ mục ScaNN của nó.

AlloyDB có thể mang lại độ trễ p95 <= 51 ms và độ nhớ lại (recall) 95% ở quy mô 10 tỷ vector với chỉ mục ScaNN.

Bắt đầu ngay hôm nay

Trải nghiệm kiến trúc cây bốn cấp (bản xem trước) của AlloyDB ScaNN ngay hôm nay. Bạn có thể triển khai ScaNN cho AlloyDB bằng cách làm theo hướng dẫn bắt đầu nhanh của chúng tôi để thiết lập một instance. Để tìm kiếm vector tốc độ cao, được tối ưu hóa, hãy tham khảo tài liệu chính thức của ScaNN. Người dùng mới cũng có thể khám phá AlloyDB thông qua chương trình dùng thử miễn phí 30 ngày của chúng tôi. Chúng tôi rất nóng lòng được biết bạn sẽ xây dựng những gì!