AI nhỏ gọn: Giải pháp đột phá cho vùng sâu vùng xa thiếu hạ tầng internet

Một buổi sáng năm 2019, Adebayo Alonge đang ở trong một phòng khách sạn tại Cape Town, chuẩn bị trình diễn giải pháp AI của startup mình cho một vấn đề nghiêm trọng trong ngành y tế châu Phi: thuốc giả, thứ cướp đi sinh mạng của hàng ngàn người trên khắp lục địa này mỗi năm.

RxScanner là một thiết bị quang phổ cầm tay quét viên thuốc bằng tia hồng ngoại, sau đó gửi hồ sơ phân tử của vật phẩm đó đến một mô hình AI được trang bị cơ sở dữ liệu dược phẩm. Chỉ trong vài giây, AI sẽ xác định loại thuốc từ hồ sơ phân tử của nó—hoặc báo cáo rằng đó là hàng giả.

Các hiệu thuốc đã và đang sử dụng hệ thống này tại hơn một chục quốc gia, bao gồm Ghana, Kenya, Myanmar và Nigeria, quê hương của Alonge. Nhưng vào buổi sáng hôm đó tại Nam Phi, nó lại không hoạt động. “Tôi đã rất sốc,” Alonge nói.

Thiết bị quang phổ đã kết nối được với mô hình AI—nhưng trung tâm dữ liệu lại cách xa 14.000 km và băng thông thì hạn chế. “Máy chủ của chúng tôi đặt tại Hoa Kỳ, và chỉ riêng việc nhận kết quả của một lần quét đã khiến tôi mất hơn 5 phút.”

Vì vậy, Alonge lập tức yêu cầu các kỹ sư của mình thu nhỏ mô hình AI thành một phiên bản nhỏ hơn, tiêu thụ ít năng lượng và không cần kết nối, có thể chạy hoàn toàn trên chiếc điện thoại Android của anh. Họ đã hoàn thành nó 2 giờ sau đó, và điều đó đã cứu vãn buổi trình diễn.

Quan trọng hơn, công việc này đã khai sinh ra một phiên bản mới cho thiết bị của anh, có khả năng xác thực thuốc ở những nơi không có băng thông rộng, máy tính hay thậm chí là điện lưới ổn định. Nó cũng biến Alonge thành một người ủng hộ cho loại hình “AI nhỏ” (small AI) này.

AI nhỏ cho khả năng tiếp cận y tế toàn cầu

AI nhỏ khác xa với các mô hình ngôn ngữ lớn (LLM) khổng lồ, các trung tâm dữ liệu siêu quy mô, các khoản đầu tư hàng tỷ đô la và những cuộc tranh luận về ý thức của AI tại các quốc gia giàu có. Nhưng đối với hàng triệu người trên thế giới, AI duy nhất quan trọng, và thường là loại duy nhất họ có thể tiếp cận, chính là AI nhỏ. (Theo báo cáo của Ngân hàng Thế giới công bố vào tháng 11, chỉ 0,7% người dùng internet ở các quốc gia nghèo nhất thế giới từng sử dụng ChatGPT, so với một phần tư tổng số người dùng internet ở các quốc gia phát triển nhất.)

“Hầu hết mọi người đang thảo luận về AI từ khía cạnh LLM/tạo sinh. Nhưng điều đó đòi hỏi rất nhiều sức mạnh tính toán, điện năng, dữ liệu khổng lồ và những người có kỹ năng để quản lý nó,” Ajay Banga, Chủ tịch Ngân hàng Thế giới, phát biểu vào tháng 1 năm ngoái tại Diễn đàn Kinh tế Thế giới ở Davos. “Bên ngoài thế giới phát triển, ngoại trừ có lẽ là Ấn Độ và Trung Quốc, rất ít quốc gia có được sự kết hợp đó.”

Ngược lại, AI nhỏ có thể mang lại những dịch vụ hữu ích, thậm chí cứu mạng cho người dân ở những khu vực không có những điều kiện đó, ông Banga cho biết. Tại Ấn Độ, nơi các kế hoạch AI của chính phủ kêu gọi phát triển mạnh hơn về AI nhỏ, nhiều hệ thống như vậy đang hoạt động hiệu quả cho nông dân.

Ví dụ, một hệ thống dựa trên máy bay không người lái (drone) do Bala Murugan và các đồng nghiệp tại Viện Công nghệ Vellore, Ấn Độ phát triển, chụp ảnh các cây điều và nhanh chóng xác định những cây có đốm bệnh. Toàn bộ quá trình xử lý diễn ra ngay trên drone, vì vậy không cần máy tính tại chỗ, cũng không cần kết nối với máy chủ trung tâm.

Sử dụng các mô hình ngôn ngữ nhỏ được huấn luyện cho một vấn đề cụ thể, và đôi khi chạy trên các thiết bị giá rẻ, tiêu thụ điện năng thấp, các ứng dụng AI nhỏ khác đã được phát triển để xác định sự xâm nhập của kiến trong các vườn nho ở Uruguay, phát hiện sự hiện diện của muỗi mang mầm bệnh sốt rét ở một số quốc gia, và thực hiện điện tâm đồ từ thiết bị Arduino ở những vùng tại Brazil thiếu khả năng tiếp cận các thiết bị phức tạp hơn.

“Đây là lĩnh vực quan trọng nhất trong AI hiện nay,” Marcelo José Rovai, giáo sư tại Viện Kỹ thuật và Hệ thống Thông tin thuộc Đại học Liên bang Itajubá, Brazil, người đã tham gia vào cả ba dự án trên, cho biết. “Nó đang phát triển rất nhanh.”

Các mô hình AI nhỏ, tiêu thụ điện năng thấp trên thiết bị

Các mô hình AI nhỏ có thể chạy trên nhiều loại thiết bị tiêu thụ điện năng thấp, bao gồm [từ trái sang phải] Arduino Nano 33 BLE Sense, Seeed Wio Terminal và Arduino Portenta. Moez Altayeb

Đối với Alonge, Rovai và những người ủng hộ khác, AI nhỏ không chỉ là “một xu hướng đầy hứa hẹn” như báo cáo tháng 11 của Ngân hàng Thế giới đã gọi. Về lâu dài, đây có thể là hình thức AI chạm đến nhiều cuộc đời nhất và duy trì được tính bền vững sau khi một số mô hình khổng lồ trở nên quá đắt đỏ đối với hầu hết người dùng.

“Tôi nghĩ tương lai của AI không phải là một mô hình khổng lồ đặt tại trung tâm. Tôi nghĩ đó là hàng triệu mô hình nhỏ, chính xác được triển khai tại biên (edge), mỗi mô hình giải quyết một vấn đề cụ thể, trong một bối cảnh cụ thể,” Alonge nói. Điều này một phần là do phần lớn nhân loại—bao gồm cả người dân ở một số vùng của các quốc gia giàu có cũng như các nước đang phát triển—đang sống mà không có quyền truy cập vào các mô hình tiên tiến nhất. Nhưng anh cho biết, đó cũng là vì các mô hình khổng lồ đó không bền vững.

“Nếu không có ai trợ cấp, hầu hết mọi người sẽ không đủ khả năng chi trả cho các mô hình đó. Vì vậy, những người như chúng tôi, được gọi là các nhà phát triển AI nhỏ, chính là những người sẽ phải xây dựng giải pháp cho đa số người dân trên thế giới,” Alonge nói.

Không có định nghĩa chính xác về “AI nhỏ”, nhưng mọi người thường dùng thuật ngữ này cho các mô hình ngôn ngữ có tối đa vài tỷ tham số. (Hãy so sánh với các mô hình tiên tiến nhất, có thể bao gồm hơn một nghìn tỷ tham số.) AI nhỏ đủ gọn để chạy trực tiếp trên điện thoại hoặc Raspberry Pi. Đó là điều cho phép các ứng dụng này chạy trên các thiết bị mà không cần kết nối với trung tâm dữ liệu và chỉ sử dụng vài watt điện, thường được cung cấp bởi pin hoặc tấm pin năng lượng mặt trời.

Mặc dù có dung lượng nhỏ, các mô hình này không khác biệt về công nghệ cơ bản so với các mô hình AI khổng lồ, Rovai nói. Nhiều trường hợp mô hình ngôn ngữ nhỏ được tạo ra theo cùng cách với phiên bản máy quét dược phẩm trên điện thoại của Alonge—bằng cách “cắt tỉa” (pruning) các mô hình lớn, hoặc loại bỏ các tham số không liên quan đến tác vụ. Kết quả là một hệ thống kém năng lực hơn về mặt tổng quát nhưng vẫn rất giỏi trong công việc cụ thể mà nó được cắt tỉa để thực hiện, Rovai cho biết.

Một phiên bản nhẹ hơn của thiết bị quang phổ RxScanner của RxAll gửi kết quả đến một mô hình AI chạy cục bộ trên điện thoại để kiểm tra xem chữ ký phân tử của thuốc có chính xác hay không. RxAll

Các mô hình nhỏ khác được tạo ra bằng cách “chưng cất” (distillation). Chúng được huấn luyện để bắt chước một mô hình lớn cho đến khi hiệu suất đạt gần bằng với “giáo viên” của chúng, Rovai nói. Trong các trường hợp khác, độ chính xác của một mô hình lớn hơn được giảm xuống, ví dụ như để một mô hình chạy trên kiến trúc 32-bit có thể chạy trên các thiết kế 8-bit. Trong những tình huống mà ứng dụng học máy được sử dụng để phân loại dữ liệu hoặc dự đoán các mô hình (như sự xâm nhập của kiến), nó được huấn luyện ngay từ đầu trên một thiết bị nhỏ, chứ không hề được rút ra từ một mô hình lớn hơn.

Việc vận hành tất cả các hệ thống nhỏ, chuyên biệt này đang trở nên dễ dàng hơn, Rovai nói, vì hai lý do.

Lý do đầu tiên là phần cứng đang ngày càng tốt hơn và mạnh mẽ hơn trong khi tiêu thụ ít điện năng hơn, ông nói. Điều này có nghĩa là ngày càng có nhiều điện thoại có thể chạy AI nhỏ—đặc biệt là những điện thoại được trang bị bộ xử lý thần kinh (NPU), là các con chip chuyên dụng xử lý các tác vụ AI như nhận diện khuôn mặt và thay đổi độ sáng, bóng đổ hoặc độ tương phản trong ảnh.

Năm 2025, hơn một phần ba tổng số điện thoại thông minh xuất xưởng trên toàn thế giới có khả năng chạy AI tạo sinh, và con số đó sẽ đạt 45% vào cuối năm nay, theo công ty nghiên cứu công nghệ Counterpoint. Đến cuối năm sau, hơn một nửa số điện thoại thông minh sẽ có thể chạy một mô hình AI nhỏ.

Lý do thứ hai mà Rovai trích dẫn là dung lượng ngày càng thu nhỏ của các mô hình ngôn ngữ. Cả Gemma 4 của Google DeepMind (phát hành vào tháng 4) và Qwen 3.5 của Alibaba đều “tuyệt vời” cho AI nhỏ, Rovai nói. Cả hai mô hình đều là “mở trọng số” (open weight), nghĩa là người dùng có thể điều chỉnh các kết nối giữa các tham số để phù hợp với nhu cầu của họ. Điều này giúp việc, ví dụ, “lấy rất nhiều dữ liệu từ ngành công nghiệp sữa và huấn luyện lại mô hình cụ thể cho lĩnh vực đó” trở nên dễ dàng, Rovai nói.

Rovai minh họa những lý do này trong một cuộc gọi Zoom, sử dụng một trong những thí nghiệm gần đây nhất của ông. Cầm một thiết bị lên, ông nói: “Đây là Arduino UNO Q mới—một thiết bị 50 USD với chipset Qualcomm. Tôi đang chạy một mô hình ngôn ngữ ở đây, nó thu thập dữ liệu từ các cảm biến và phân tích dữ liệu đó để phát hiện những vũng nước nhỏ nơi muỗi có thể đang sinh sản. Nó chỉ mất 3 watt để vận hành.”

Hỗ trợ cho sự phát triển AI nhỏ

Tin rằng hàng triệu người đã và đang được hưởng lợi từ những loại ứng dụng này, Ngân hàng Thế giới hiện tích cực thúc đẩy AI nhỏ bằng các khoản tài trợ, chương trình cố vấn, tài chính, tư vấn kỹ thuật và các mô hình chính sách chính phủ thân thiện với sự phát triển AI nhỏ. Ví dụ, tại Rwanda, Ngân hàng Thế giới đang hỗ trợ một chương trình chính phủ giúp các hộ gia đình có thu nhập thấp tiếp cận các thiết bị có thể chạy AI.

Mặc dù vậy, không ai khẳng định rằng các mô hình ngôn ngữ lớn sẽ biến mất hoàn toàn. Để tạo ra một AI tạo sinh có thể chạy trên điện thoại hoặc thiết bị nhỏ khác, cần có những hiểu biết về kiến trúc, xử lý dữ liệu và kết quả từ một mô hình lớn hơn, Rovai nói. “Chúng ta cần các mô hình lớn để tạo ra các mô hình nhỏ hơn này.”

Và dù AI nhỏ có thể mang lại lợi ích cho những người không có quyền truy cập vào AI lớn, công nghệ này không thể giải quyết các vấn đề lớn hơn về phát triển và bất bình đẳng kỹ thuật số, Alonge nói. Việc triển khai AI nhỏ sẽ không cho phép các quốc gia thoát khỏi thách thức trong việc xây dựng một hệ sinh thái hỗ trợ AI: điện năng ổn định, chuỗi cung ứng hoạt động hiệu quả và một hệ thống giáo dục phát triển được các tài năng cần thiết để tạo ra các công cụ AI.

Mặc dù hệ thống quét thuốc của anh có thể chạy trong nhiều ngày trên điện thoại mà không cần kết nối, “bạn vẫn muốn có khả năng đồng bộ hóa định kỳ để cập nhật các chữ ký mới cho thuốc và phân tích dữ liệu,” Alonge nói. “Và ngay cả khi bạn đang sử dụng pin, điện năng ổn định vẫn rất quan trọng. Pin điện thoại đó sẽ không tồn tại mãi mãi.”

Ở nhiều nơi trên thế giới, tương lai của AI nhỏ vẫn chưa được đảm bảo, anh nói. “Nó hoạt động hiệu quả, và nhiều nơi cuối cùng sẽ cần phải sử dụng nó. Câu hỏi đặt ra là liệu các tác nhân chính trị có đủ sáng suốt để đầu tư vào cơ sở hạ tầng nhằm hỗ trợ nó lâu dài hay không.”