Motional và MIT phát triển hệ thống giúp xe tự lái tự giải thích quyết định theo thời gian thực

Các nhà nghiên cứu tại Motional và MIT đã xây dựng một hệ thống cho phép xe tự lái giải thích các quyết định của chúng theo thời gian thực, giải quyết vấn đề "hộp đen" trong AI của xe tự hành.

Công trình này, được công bố trên tạp chí Nature, đến từ một nhóm tại Motional bao gồm CEO Laura Major, hợp tác cùng các nhà nghiên cứu từ Phòng thí nghiệm Khoa học Máy tính và Trí tuệ Nhân tạo của MIT. Phương pháp mà họ đề xuất, được gọi là Concept-Wrapper Network hay CW-Net, nhằm mục đích chuyển đổi các tính toán nội bộ của mạng thần kinh trong hệ thống xe tự lái thành các khái niệm mà con người thực sự có thể đọc hiểu.

Nếu một chiếc xe tự lái hiện nay phanh gấp trên một con đường thông thoáng mà không có mối nguy hiểm rõ ràng nào, thì cả người lái lẫn hành khách đều không có cách nào biết được lý do tại sao. Các hệ thống tự lái hiện đại ngày càng dựa vào các mạng thần kinh được huấn luyện trên khối lượng dữ liệu lái xe khổng lồ. Những mạng này có thể hoạt động tốt, nhưng chúng không bộc lộ lý do đằng sau các quyết định, đó là lý do tại sao các kỹ sư mô tả chúng là những "hộp đen".

Chuyển đổi logic mạng thần kinh thành các khái niệm của con người

CW-Net hoạt động bằng cách chuyển đổi logic nội bộ của hệ thống tự lái thành các khái niệm như “Đang tiếp cận phương tiện dừng đỗ” hoặc “Gần người đi xe đạp”. Theo Motional, những khái niệm này có thể xuất hiện trên bảng điều khiển, hiển thị những yếu tố nào đang ảnh hưởng đến quyết định lái xe của phương tiện ngay khi chúng xảy ra.

Hệ thống được thiết kế để các giải thích không được tạo ra sau sự việc như một sự phỏng đoán về những gì mạng thần kinh có thể đã thực hiện. Thay vào đó, hệ thống ra quyết định cuối cùng của phương tiện thực hiện hành động dựa trực tiếp trên các khái niệm mà con người có thể hiểu được này, vì vậy một sự kiện phanh xe có thể truy xuất ngược lại khái niệm cụ thể đã kích hoạt nó. Motional mô tả đây là sự trung thực về mặt nhân quả, phân biệt nó với các phương pháp tạo ra lời giải thích bằng ngôn ngữ tự nhiên, vốn có thể nghe có vẻ hợp lý nhưng không nhất thiết phải chính xác.

Laura Major đặt vấn đề về loại khả năng diễn giải này để đối trọng với phương án thay thế là chỉ dựa hoàn toàn vào học sâu (deep learning) đầu-cuối (end-to-end) để xử lý các quyết định lái xe.

“Cách tiếp cận tổng quát chỉ dựa vào end-to-end có thể đạt được giải pháp tốt khoảng 80-90 phần trăm – thậm chí có thể là 95 phần trăm – nhưng điều đó vẫn chưa đủ để loại bỏ người lái hoặc giành được sự tin tưởng của các thành phố, cộng đồng và khách hàng,” bà nói.

Thử nghiệm AI có khả năng giải thích cho xe tự lái quanh Las Vegas

Theo Motional, nghiên cứu về AI có khả năng giải thích (explainable AI) phần lớn vẫn chỉ giới hạn trong các mô phỏng máy tính tại phòng thí nghiệm. Thay vào đó, nhóm Motional và MIT đã triển khai CW-Net trên một chiếc xe tự hành với một nhân viên an toàn giàu kinh nghiệm ngồi ở ghế lái, thu thập dữ liệu trên một đường thử nghiệm tư nhân và trên các con đường công cộng quanh Las Vegas.

Nhóm đã sử dụng một phiên bản thử nghiệm trước đó của hệ thống lập kế hoạch dựa trên học sâu, được mô tả là có hiệu suất cạnh tranh nhưng vẫn tồn tại những thiếu sót đáng chú ý mà CW-Net có thể giúp làm sáng tỏ. Hai sự cố từ quá trình thử nghiệm minh họa cho những gì hệ thống đã phát hiện.

Trong một trường hợp, chiếc xe tự hành liên tục dừng lại gần một chiếc cọc tiêu giao thông, và người điều khiển xe cho rằng chính chiếc cọc tiêu đó đã kích hoạt hành vi này. Các nhà nghiên cứu đã di chuyển chiếc cọc tiêu đi nhưng chiếc xe vẫn dừng lại. Màn hình của CW-Net đã hiển thị nguyên nhân thực sự: hệ thống lập kế hoạch thử nghiệm đang "ảo giác" thấy một phương tiện đang dừng phía trước, một mô hình bắt nguồn từ dữ liệu huấn luyện của nó. Lời giải thích đó đã giúp các nhà nghiên cứu hiểu, dự đoán và giải quyết vấn đề.

Một thử nghiệm thứ hai liên quan đến một người đi xe đạp. Chiếc xe tự hành đã phát hiện và dừng lại cho người đi xe đạp đúng như dự kiến, nhưng CW-Net tiết lộ rằng hệ thống lập kế hoạch thử nghiệm thực tế không dựa vào sự hiện diện của người đi xe đạp để đưa ra quyết định. Người lái an toàn đã phản ứng bằng cách thận trọng hơn khi đi gần người đi xe đạp sau khi nhận thấy điều này. Phân tích tiếp theo xác nhận rằng sự thận trọng đó là cần thiết, vì việc phanh xe trong trường hợp đó đến từ một hệ thống dự phòng an toàn thay vì từ bộ lập kế hoạch dựa trên học sâu thử nghiệm.

Hiệu suất vẫn ổn định so với khả năng giải thích

Việc thêm các lớp giải thích vào một hệ thống AI mang lại một cái giá nhất định về tốc độ và hiệu suất, và Motional thừa nhận rủi ro đó. Tuy nhiên, khi các nhà nghiên cứu đánh giá CW-Net so với các thuật toán lái xe tự hành hàng đầu, sự khác biệt về khả năng lái xe chỉ ở mức dưới một phần trăm.

Các sự cố tại Las Vegas cho thấy lý do tại sao sự đánh đổi đó lại quan trọng về mặt vận hành thay vì chỉ mang tính học thuật. Một người lái an toàn có thể thấy rằng việc dừng xe là do một phương tiện ảo giác, hoặc một hệ thống dự phòng thay vì bộ lập kế hoạch chính chịu trách nhiệm cho một thao tác, có thể phản ứng và báo cáo chính xác hơn so với người chỉ làm việc dựa trên hành vi đơn thuần.

Khả năng hiển thị đó tác động trực tiếp đến việc đội ngũ kỹ thuật có thể chẩn đoán hệ thống nhanh đến mức nào, và một nhân viên an toàn có thể tự tin phân biệt giữa một hành vi có chủ đích và một lỗi hệ thống ra sao.

Motional kết nối công trình CW-Net với áp lực rộng lớn hơn đối với các nhà vận hành xe tự hành khi công nghệ này mở rộng sang các thị trường và khu vực pháp lý mới. Các cơ quan quản lý đương nhiên đang yêu cầu sự minh bạch hơn về cách các hệ thống AI đưa ra quyết định, và họ kỳ vọng các công cụ như CW-Net có thể chuyển từ các dự án nghiên cứu sang một yêu cầu cơ bản.

Ngoài xe chở khách, máy bay không người lái tự hành và thậm chí cả phẫu thuật bằng robot cũng được trích dẫn là những lĩnh vực quan trọng về an toàn khác, nơi các nhà vận hành và nhà phát triển sẽ cần những cách để hiểu được khả năng, hạn chế và các hành vi bất ngờ của hệ thống.

Tìm hiểu thêm về AI vật lý tại Physical AI Expo được tổ chức ở Amsterdam, London và Bắc Mỹ.

Xem thêm: MIT AI dự báo thời tiết khắc nghiệt mà không cần dữ liệu lịch sử.

Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy xem AI & Big Data Expo diễn ra tại Amsterdam, California và London. Sự kiện toàn diện này là một phần của TechEx và được tổ chức cùng địa điểm với các sự kiện công nghệ hàng đầu khác bao gồm Cyber Security & Cloud Expo. Nhấp vào đây để biết thêm thông tin.

AI News được vận hành bởi TechForge Media. Khám phá các sự kiện và hội thảo trực tuyến về công nghệ doanh nghiệp sắp tới tại đây.