Gary Marcus: Hai tín hiệu tích cực trong cuộc chiến minh bạch hóa AI

Thượng nghị sĩ Blumenthal vừa gửi một bức thư tuyệt vời tới OpenAI, gợi nhắc đến cụm từ nổi tiếng gắn liền với vụ bê bối Watergate: "Tổng thống đã biết những gì và biết vào lúc nào?". Bức thư yêu cầu những câu trả lời chi tiết về các tác nhân (agents) của OpenAI, vai trò của chúng trong các vụ tấn công mạng khác nhau, và thời điểm OpenAI phát hiện ra điều đó. Việc thiếu minh bạch của công ty này thực sự đáng lo ngại, và tôi rất mừng khi bức thư đang thúc ép họ phải đưa ra sự thật.

Vài ngày trước, Protect Democracy đã đệ đơn kiện quan trọng nhằm thúc đẩy chính quyền Trump minh bạch hơn về các tiêu chí dùng để đánh giá các hệ thống AI.

Như tôi đã lập luận nhiều lần ở đây, sự thiếu minh bạch trong quy định về AI tại Hoa Kỳ hiện nay thực chất đang gây tổn hại cho các doanh nghiệp Mỹ bằng cách gia tăng tính khó đoán (có khả năng khiến mọi người chuyển sang sử dụng phần mềm từ các nhà cung cấp khác) và tạo ra vẻ ngoài của sự thiên vị và/hoặc tham nhũng. Sự thiếu minh bạch cũng trở thành một công cụ tiềm tàng cho chủ nghĩa độc đoán.

Trong khi đó, sự thiếu minh bạch hiện tại ngăn cản cộng đồng khoa học đưa ra ý kiến về tính đầy đủ (hoặc không đầy đủ) của các tiêu chí hiện hành. Tôi lo ngại, chẳng hạn, rằng các tiêu chí này có thể chưa chú trọng đúng mức đến tầm quan trọng của khả năng giám sát (monitorability) — một trong số ít công cụ chúng ta có để theo dõi những gì các tác nhân AI đang thực hiện. Cụ thể, GPT-6 Astra có khả năng giám sát kém hơn, có lẽ làm tăng thêm rủi ro — thế nhưng chính phủ dường như vẫn thông qua mô hình này.

Tôi chúc Protect Democracy đạt được kết quả tốt nhất trong vụ kiện của họ. Tất cả chúng ta sẽ được hưởng lợi nếu họ giành chiến thắng.

Thật đáng khích lệ khi thấy cả hai nỗ lực này, từ Thượng nghị sĩ Blumenthal và từ Protect Democracy. Nếu chúng ta muốn giải quyết những rủi ro mà các nhân viên hiện tại và cựu nhân viên của Anthropic và OpenAI đã nêu ra, thì điều tối thiểu chúng ta có thể làm là tìm hiểu xem chuyện quái quỷ gì thực sự đang diễn ra.

Không có bài đăng nào.