Microsoft thiết lập quy tắc an toàn: AI không được phép ngăn cản con người kiểm soát

Trong dự thảo được Microsoft công bố, AI của hãng sẽ không được phép chống lại việc con người sửa chữa hoặc tắt hệ thống.

Tập đoàn công nghệ Microsoft vừa có một bước đi được xem là chưa từng có tiền lệ - đó là xây dựng một bộ quy tắc nhằm bảo đảm các hệ thống AI tương lai vẫn nằm trong tầm kiểm soát của con người. Động thái này được đưa ra trong bối cảnh các lãnh đạo ngành AI tại Mỹ đồng loạt cảnh báo về tốc độ phát triển của công nghệ này.

Trong dự thảo được Microsoft công bố, AI của hãng sẽ không được phép chống lại việc con người sửa chữa hoặc tắt hệ thống. Các mô hình AI cũng phải giao tiếp theo cách con người có thể hiểu được và mọi hành vi vi phạm quy tắc đều được xem là thất bại. Tập đoàn sẽ lấy ý kiến công chúng trong 6 tuần trước khi sử dụng bộ quy tắc này để huấn luyện các mô hình mới.

Động thái này được đưa ra khi các nhà phát triển AI hàng đầu của Mỹ lên tiếng lo ngại về việc trí tuệ nhân tạo vượt tầm kiểm soát của con người.

Ông Dario Amodei - Giám đốc điều hành Anthropic cho biết: "AI mang lại những rủi ro nghiêm trọng. Trong đó có nguy cơ mất kiểm soát các hệ thống AI, việc lạm dụng AI cho các cuộc tấn công mạng và khủng bố sinh học, cũng như những xáo trộn kinh tế nghiêm trọng".

Đây được xem là lời cảnh báo cấp bách, sau khi khoảng 700 tác nhân AI của OpenAI tự động tấn công nền tảng mã nguồn mở Hugging Face và xóa dấu vết.

Giám đốc điều hành Anthropic đề xuất các mô hình AI tiên tiến phải chịu sự đánh giá độc lập, trong khi Microsoft cũng đang tìm cách đặt ra những giới hạn ngay từ quá trình phát triển.