AI Nhân văn trong thực tiễn: Microsoft lấy ý kiến công chúng về Bộ quy tắc ứng xử cho mô hình MAI

Mục đích của công nghệ là phục vụ nhân loại và thúc đẩy sự hưng thịnh của con người. Bất kỳ công nghệ nào không đạt được điều đó đều là thất bại và cần phải bị loại bỏ. Đó là điểm khởi đầu cho cách tiếp cận của chúng tôi tại Microsoft AI, nơi chúng tôi đang xây dựng hướng tới Humanist AI (AI Nhân văn) – một hệ thống phục tùng, có sự đồng thuận và nằm trong tầm kiểm soát.

Hôm nay, chúng tôi công bố bản dự thảo đầu tiên về Bộ Quy tắc Ứng xử AI của mình để tham vấn công chúng. Đây là tài liệu hướng dẫn về cách chúng tôi phát triển AI và cách chúng tôi dự định để nó vận hành trong quá trình triển khai. Tài liệu này cũng mở rộng tư duy của chúng tôi về ý tưởng Humanist AI.

Vui lòng chia sẻ phản hồi của bạn tại đây.

Tài liệu này đang mở để đón nhận ý kiến đóng góp và phản hồi. Chúng tôi biết rằng mình không phải lúc nào cũng làm đúng mọi thứ. Chúng tôi muốn lắng nghe suy nghĩ của bạn; điều gì sẽ làm cho AI trở nên hữu ích, có năng lực, an toàn, đáng tin cậy và giá trị hơn đối với bạn.

Tốc độ phát triển của AI đang tăng nhanh. Các hệ thống trở nên mạnh mẽ hơn đáng kể chỉ sau mỗi vài tháng. Việc áp dụng và sử dụng AI tiếp tục gia tăng. Những sự cố an ninh gần đây liên quan đến các chiến dịch tấn công mạng quy mô lớn, phối hợp chặt chẽ và dai dẳng nhắm vào các tác nhân AI đã chứng minh rằng chúng ta không còn thời gian để lãng phí. Rủi ro đang rất cao và ngày càng tăng.

Chúng tôi tin rằng việc tạo ra AI an toàn và đáng tin cậy để phục vụ con người, đồng thời minh bạch về cách chúng tôi thực hiện điều đó, là điều quan trọng hơn bao giờ hết.

Đó là lý do tại sao chúng tôi công bố bản dự thảo Bộ Quy tắc Ứng xử Humanist AI này. Nó đặt ra cách thức mà các mô hình MAI mà chúng tôi đang phát triển dự kiến sẽ hành xử, những điều chúng tuyệt đối không được làm và chúng phải chịu trách nhiệm trước ai. Đây là một bản dự thảo, mở cửa cho việc tham vấn trong sáu tuần tới. Vui lòng cho chúng tôi biết làm thế nào để cải thiện nó.

Bắt đầu từ một tiền đề đơn giản

Tháng 11 năm ngoái, chúng tôi đã đưa ra ý tưởng về siêu trí tuệ nhân văn (humanist superintelligence): một AI rất tiên tiến luôn làm việc vì con người, nằm trong giới hạn và duy trì dưới sự kiểm soát của con người. Bộ Quy tắc Ứng xử được xây dựng dựa trên nền tảng đó, cung cấp một kim chỉ nam cho MAI và các tiêu chuẩn cụ thể mà cuối cùng chúng tôi sẽ dùng để đánh giá và huấn luyện AI của mình.

Nó bắt đầu từ một tiền đề đơn giản: con người quan trọng hơn AI. AI nên là một công cụ, không phải là một con người, và không bao giờ được phép chống lại việc bị tắt đi. Nó nên làm cho con người cảm thấy khỏe mạnh hơn, hạnh phúc hơn và làm việc hiệu quả hơn. Nó nên mở rộng tiềm năng của con người và nâng cao mức sống, giúp mọi người và các tổ chức đạt được nhiều thành tựu hơn những gì họ từng nghĩ là có thể.

Chúng tôi cho rằng đây là một cách tiếp cận thực tế và hợp lý để làm cho AI trở nên an toàn, bảo mật và phục vụ nhân loại. Bộ Quy tắc được thiết kế để đảm bảo các mô hình MAI sẽ không bao giờ chống lại sự can thiệp, điều chỉnh hoặc tắt máy từ con người. Chúng sẽ không tự mở rộng phạm vi hoạt động, không tự đặt ra các mục tiêu mà con người chưa giao phó, hoặc che giấu lý lẽ của mình trước những người đang kiểm định chúng. Có những Ràng buộc Tuyệt đối (Absolute Constraints) – những điều mà các mô hình không bao giờ được phép làm, bao gồm các lĩnh vực như vũ khí gây hại hàng loạt, an toàn trẻ em và thao túng gây hại trên quy mô lớn. Đồng thời, nó thiết lập các mặc định để đảm bảo AI vừa hữu ích vừa an toàn. Điều này cho phép nhiều đối tác doanh nghiệp của chúng tôi cấu hình cẩn thận các mô hình của chúng tôi và bất cứ khi nào có thể, nó không cố gắng áp đặt một tầm nhìn duy nhất về AI lên người dùng.

Chúng tôi đã đến đây như thế nào và tại sao chúng tôi vẫn chưa hoàn thành

Các đội ngũ từ khắp MAI và Microsoft rộng lớn hơn đã đóng góp, từ các bộ phận AI có trách nhiệm (Responsible AI), pháp lý, red teaming, an toàn, Futures, huấn luyện AI và kinh doanh. Nhưng tất nhiên, một AI được thiết kế để phục vụ nhân loại không thể chỉ do một công ty quyết định. Chúng tôi nghĩ rằng việc đưa mọi người cùng tham gia vào cách chúng tôi xây dựng và định hình AI là rất quan trọng.

Để đạt được mục tiêu đó, chúng tôi đã tổ chức các hội nghị và các buổi tham vấn để lắng nghe các học giả từ khắp nơi trên thế giới và từ nhiều lĩnh vực khác nhau. Chúng tôi đã làm việc với các đối tác kinh doanh để hiểu cách họ đang sử dụng AI trong thực tế và những mối quan tâm của họ là gì. Chúng tôi cũng đã tổ chức các hội đồng gồm các thành viên cộng đồng, công chúng, để lắng nghe nhiều suy nghĩ và nỗi sợ hãi mà mọi người có về AI. Những vòng tham vấn này đã tạo nên tài liệu như hiện tại.

Bây giờ là lúc gửi lời mời đến bạn. Chúng tôi muốn lắng nghe phạm vi quan điểm rộng nhất có thể để phát triển AI tốt nhất.

Hãy cho chúng tôi biết AI có thể hoạt động tốt hơn như thế nào

Việc tiếp nhận phản hồi bắt đầu từ hôm nay và kéo dài trong sáu tuần tới. Bạn có thể đánh dấu một đoạn cụ thể hoặc đưa ra quan điểm của mình về toàn bộ cách tiếp cận. Chúng tôi đặc biệt quan tâm đến những phần khó: làm thế nào để chúng tôi củng cố tốt hơn các giá trị đúng đắn trong các mô hình của mình? Làm thế nào để cụ thể hơn về ý nghĩa của "sự hưng thịnh của con người"? Ở đâu ngôn ngữ còn quá lỏng lẻo để đánh giá? Các kịch bản đa tác nhân (multi-agents) ảnh hưởng đến mọi thứ như thế nào? Và có lẽ quan trọng nhất, làm thế nào để chúng tôi tiếp tục đẩy nhanh tiến độ, đồng thời đảm bảo duy trì các ràng buộc an toàn cần thiết và lành mạnh?

Khi quá trình tham vấn kết thúc, chúng tôi sẽ để nhóm soạn thảo cốt lõi xem xét các phản hồi, công bố bản tóm tắt về những gì chúng tôi đã học được và những gì chúng tôi đã thay đổi. Chúng tôi không thể hứa hẹn về việc sẽ đưa vào những gì, nhưng chúng tôi hứa sẽ lắng nghe và cân nhắc kỹ lưỡng tất cả các ý kiến. Chúng tôi sẽ công bố phiên bản sửa đổi vào cuối năm nay.

AI đang tiến triển nhanh chóng. Khi điều đó xảy ra, chúng tôi tin rằng việc viết ra các quy tắc và động lực đằng sau nó, đồng thời thực hiện điều đó trong một không gian cởi mở nhất có thể là điều xứng đáng. Hãy coi đây là lời mời dành cho bạn.