Google ra mắt thư viện LiteRT.js: Tăng tốc AI trên trình duyệt lên gấp 3 lần

Theo tin từ IT ngày 10 tháng 7, Google đã đăng tải một bài viết trên blog vào ngày hôm qua (9 tháng 7) về việc ra mắt thư viện LiteRT.js hoàn toàn mới nhằm tăng tốc độ vận hành các tác vụ trí tuệ nhân tạo (AI) và học máy (ML) trên trình duyệt.

Google cho biết LiteRT.js sử dụng WebAssembly, kết hợp với các khả năng tăng tốc phần cứng như WebGPU và WebNN để thay thế cho giải pháp nhân JavaScript mà TensorFlow.js đang sử dụng. IT đính kèm ảnh chụp màn hình liên quan dưới đây:

WebAssembly là một định dạng chỉ thị nhị phân, hỗ trợ các trang web thực thi tính toán hiệu năng cao trong trình duyệt với tốc độ gần bằng mã nguồn gốc (native code).

TensorFlow.js là một thư viện do Google phát triển, hỗ trợ người dùng xây dựng, huấn luyện và triển khai các mô hình học máy trong môi trường JavaScript. Nó cho phép các nhà phát triển triển khai trực tiếp các mô hình xây dựng trên nền tảng TensorFlow vào trình duyệt web, từ đó hiện thực hóa các tính năng AI phía máy khách (client-side).

Trên dòng máy tính xách tay MacBook Pro 2024 trang bị chip M4 của Apple, Google đã thử nghiệm và phát hiện tốc độ của LiteRT.js nhanh gấp 3 lần so với giải pháp hiện tại. Trong bài viết chính thức, Google cũng lưu ý rằng hiệu năng thực tế có thể sẽ khác biệt khi chạy trên phần cứng cũ hoặc các trình duyệt sử dụng công cụ (engine) khác nhau.

Thông báo quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, giúp tiết kiệm thời gian chọn lọc; kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết trên IT đều bao gồm thông báo này.