Waymo lần đầu hé lộ hệ thống tính toán tự lái: Chip ASIC 5nm tự phát triển và kiến trúc dự phòng

Compute (hệ thống tính toán) chính là bộ não của Waymo Driver, có nhiệm vụ chuyển đổi dữ liệu thô từ cảm biến thành các lệnh điều khiển xe theo thời gian thực. Việc vận hành một hệ thống AI vật lý an toàn trên đường đòi hỏi sự chuyển dịch căn bản sang một hệ thống được thiết kế để đạt hiệu suất tất định (deterministic) với độ trễ thấp. Trong thập kỷ qua, chúng tôi đã đồng thiết kế phần cứng, cảm biến và thuật toán song song với nhau để giải quyết những hạn chế đặc thù của việc tính toán tại biên (edge compute) trong thế giới thực. Chúng tôi mang đến cái nhìn đầu tiên vào bên trong cốp xe để chia sẻ về cách tiếp cận hệ thống tính toán, các dòng chip tùy chỉnh (custom silicon) và cách chúng tôi hợp tác với các nhà lãnh đạo trong ngành để xây dựng hệ thống tính toán mạnh mẽ nhất trên đường phố.

Các hệ thống tính toán cho xe tự lái phải xử lý khối lượng công việc vô cùng đa dạng. Tại Waymo, chúng tôi đang thiết kế một hệ thống hiện đại, vốn được coi là ấn tượng ngay cả đối với một trung tâm dữ liệu, nhưng lại đi kèm với sự phức tạp của môi trường vận hành trên xe và các yêu cầu khắt khe về thời gian thực. Không giống như các hệ thống hỗ trợ lái xe truyền thống, hệ thống của chúng tôi đảm nhận toàn bộ tác vụ lái xe mà không cần con người can thiệp, đòi hỏi hiệu suất cao hơn đáng kể. Dựa trên hơn 200 triệu dặm trải nghiệm tự lái hoàn toàn, chúng tôi xây dựng hệ thống tính toán của mình xoay quanh ba yêu cầu không thể thương lượng:

Phản hồi nhanh (Responsive): Để đưa ra các quyết định lái xe theo thời gian thực, hệ thống tự lái vận hành hoàn toàn trên xe, liên tục xử lý các quyết định trong vòng vài mili giây. Chúng tôi đã thiết kế ngăn xếp công nghệ (stack) của mình với độ trễ cực thấp, giảm thiểu thời gian chờ từ điểm ảnh đầu tiên đến khi thực hiện hành động. Trong những mili giây quan trọng đó, các mô hình ML tiên tiến xây dựng sự hiểu biết có độ trung thực cao về môi trường để đánh giá lộ trình an toàn nhất. Để đạt được điều này, cần có sức mạnh tính toán thô ấn tượng—thứ mà chúng tôi đã tăng quy mô gấp 20 lần chỉ trong tám năm—kết hợp với một ngăn xếp phần mềm được tối ưu hóa sâu sắc để khai thác hiệu quả sức mạnh đó.

Độ bền cao (Ruggedized): Chúng tôi đã thiết kế hệ thống tính toán của mình để phát triển mạnh mẽ trong thế giới vật lý với độ bền và độ tin cậy vượt trội từ cấp độ linh kiện đến cấp độ hệ thống. Phần cứng của chúng tôi hoạt động dưới sự rung lắc, va đập liên tục và nhiệt độ khắc nghiệt. Bằng cách tích hợp trực tiếp với hệ thống làm mát bằng chất lỏng của xe, chúng tôi duy trì hiệu suất đỉnh cao dù là khi di chuyển trong mùa đông băng giá ở vùng Trung Tây hay cái nóng như thiêu đốt của Phoenix.

Dự phòng (Redundant): Vì không có con người để tiếp quản, tính an toàn chủ động và khả năng dự phòng được tích hợp sẵn ngay từ đầu. Hệ thống tính toán của chúng tôi được thiết kế giống như hai động cơ độc lập. Mặc dù chúng thường hoạt động như một khối thống nhất chạy các khối lượng công việc song song hoàn toàn, nhưng nếu một bên gặp sự cố, bên kia sẽ tiếp quản một cách liền mạch.

Bằng cách tối ưu hóa các khối lượng công việc động trên mọi phân vị, chúng tôi đã giảm đáng kể độ trễ "từ điểm ảnh đến hành động" (từ đỏ sang xanh) của Waymo Driver. Điều này mang lại cho hệ thống phản xạ nhanh nhạy cần thiết để điều hướng an toàn trong các môi trường phức tạp, mật độ cao.

Việc chuyển đổi từ các linh kiện có sẵn sang các hệ thống tùy chỉnh đòi hỏi phải suy nghĩ lại về thiết kế vật lý và kiến trúc. Hệ thống tích hợp cao của chúng tôi mang lại sức mạnh xử lý khổng lồ mà không ảnh hưởng đến trải nghiệm của hành khách, tối đa hóa hiệu suất pin trong khi vẫn giữ được không gian cốp xe rộng rãi và vận hành êm ái. Chúng tôi đã xây dựng một kiến trúc ưu tiên ML để chạy các mạng thần kinh tiên tiến với độ trễ tối thiểu. Để quản lý các tác vụ phi ML quan trọng như điều phối, di chuyển dữ liệu và ghi nhật ký trong khi tối đa hóa thời gian cho tính toán ML, chúng tôi kết hợp các công nghệ ML của mình với các CPU, GPU và bộ tăng tốc tốt nhất. Kết quả là một hệ thống không đồng nhất (heterogeneous) cân bằng.

ASIC 5nm được xây dựng cho mục đích riêng của Waymo.

Để xử lý lượng dữ liệu thô khổng lồ trước khi nó đến được bộ não ML cốt lõi, chúng tôi rất vui mừng được giới thiệu ASIC 5nm được xây dựng cho mục đích riêng của mình. Mặc dù con chip này chỉ là một trong số nhiều linh kiện tùy chỉnh thú vị mà chúng tôi đang phát triển, nhưng nó là một "cỗ máy" ML chuyên dụng được thiết kế độc quyền để xử lý, hợp nhất và chạy các mạng thần kinh tiên tiến trên dữ liệu cảm biến thô theo thời gian thực. Việc phát triển chip, cảm biến và thuật toán song song cho phép chúng tôi vượt qua các giới hạn về độ trung thực của cảm biến, hiệu quả băng thông và lượng tử hóa để thực thi sự không đồng nhất của các mô hình, từ các phép tích chập thưa (sparse convolutions) đến các mô hình transformer dày đặc (dense transformers).

Các bộ tăng tốc chuyên dụng của ASIC trích xuất ngay lập tức thông tin quan trọng từ các luồng lidar, radar và camera thô, bao gồm cả khử nhiễu theo thời gian để có khả năng nhận diện trong điều kiện ánh sáng yếu vượt trội. Dữ liệu này được đưa vào công cụ suy luận (inference engine) được xây dựng cho mục đích riêng của chúng tôi để chạy các mô hình ML hợp nhất cảm biến, cho phép đạt hiệu quả cao hơn mà không làm giảm độ trung thực. Trong khi các ASIC này cung cấp hơn 1.000 TOPS hiệu suất ML dành riêng cho xử lý front-end và các mô hình ML, chúng tôi tối ưu hóa trên toàn bộ ngăn xếp để tối đa hóa hiệu suất đạt được, đặc biệt là trong các chế độ batch thấp mà chúng tôi thường vận hành.

Bằng cách đồng thiết kế chip tùy chỉnh với cảm biến và thuật toán, chúng tôi đạt được hiệu quả và hiệu suất vô song. Hệ thống mới nhất của chúng tôi (bên phải) xử lý dữ liệu có độ trung thực cao từ 13 camera độ phân giải cao cùng lúc và theo thời gian thực, mang lại khả năng nhận diện trong điều kiện ánh sáng yếu đặc biệt và tiết lộ các chi tiết môi trường quan trọng mà các camera truyền thống (bên trái) bỏ lỡ.

Cùng với những nỗ lực về chip tùy chỉnh, chúng tôi hợp tác chặt chẽ với các nhà lãnh đạo trong ngành, những người có các giải pháp tính toán đẳng cấp thế giới cung cấp nền tảng mạnh mẽ cần thiết để mở rộng quy mô công nghệ của chúng tôi một cách hiệu quả. Chúng tôi tự hào được làm việc cùng với nhiều đối tác như AMD, Micron, NVIDIA, Samsung, Sandisk, Socionext và TSMC để cung cấp hệ thống tính toán tự lái có năng lực nhất.

Đây chỉ là một cái nhìn thoáng qua về những gì sắp tới. Khi chúng tôi khám phá các trường hợp sử dụng mới cho Waymo Driver và ngăn xếp AI của chúng tôi tiếp tục phát triển, nhu cầu về hệ thống tính toán hiệu suất cao, hiệu quả cao sẽ chỉ tăng lên.

Nếu bạn muốn tìm hiểu thêm về cách tiếp cận hệ thống tính toán của Waymo, hãy tham gia cùng chúng tôi tại các buổi nói chuyện tại Hot Chips.

Bạn cũng có thể kết nối với đội ngũ của chúng tôi và giúp thúc đẩy các giới hạn của những gì có thể bằng cách ứng tuyển vào một vị trí tại waymo.com/careers.