Viện Nghiên cứu Cao cấp thành lập nhóm tư vấn Toán học và AI, lấy ý kiến về các kết quả toán học từ OpenAI

Đây là bài viết khách mời từ Nhóm Cố vấn về Toán học và Trí tuệ nhân tạo. Bài đăng trên blog này ban đầu được viết ở định dạng tệp khác và được chuyển đổi bằng AI. — T.

Chúng tôi muốn sử dụng bài viết khách mời này để thông báo về việc thành lập Nhóm Cố vấn về Toán học và Trí tuệ nhân tạo, đặt trụ sở tại Viện Nghiên cứu Cao cấp (Princeton) và trực tuyến tại agmai.org.

Những tiến bộ nhanh chóng trong trí tuệ nhân tạo (AI) mang đến cả cơ hội lẫn thách thức cho nghiên cứu toán học. Chúng tôi tin rằng chúng ta đang ở một thời điểm lịch sử đối với ngành học của mình. Các sự kiện gần đây đặt ra những câu hỏi cấp bách về việc làm thế nào để hỗ trợ triển vọng dài hạn cho sự hiểu biết sâu sắc của con người về toán học.

Mục đích. Mục đích của nhóm này là tư vấn cho các công ty AI về sự tương tác của họ với nghiên cứu toán học và cộng đồng toán học, bao gồm cả việc trình bày và công bố các kết quả toán học một cách có trách nhiệm. Chúng tôi tìm cách làm việc vì lợi ích tốt nhất của toán học và cộng đồng toán học, đồng thời đóng vai trò là một kênh liên lạc khả thi giữa các nhà toán học và ngành công nghiệp AI.

Tính độc lập, Minh bạch và Trách nhiệm giải trình. Nhóm này hoạt động độc lập với bất kỳ công ty AI nào và các thành viên không nhận thù lao cho công việc này. Chúng tôi sẽ công bố các khuyến nghị của mình gửi tới các công ty AI trên trang web này. Chúng tôi sẵn sàng đưa ra các khuyến nghị như vậy cho bất kỳ công ty AI nào có các mô hình có khả năng gây ảnh hưởng đáng kể đến toán học. Mặc dù chúng tôi sẽ đưa ra lời khuyên, nhưng chúng tôi không có quyền ra quyết định tại bất kỳ công ty AI nào, và trách nhiệm đối với các quyết định do bất kỳ công ty nào đưa ra sẽ thuộc về công ty đó.

Các thành viên Nhóm Cố vấn

Nhóm này được thành lập sau khi OpenAI tiếp cận một số thành viên của nhóm về việc thiết lập một hội đồng cố vấn bên ngoài. Sau khi thống nhất với OpenAI, họ đã quyết định tạo ra một nhóm độc lập và mời những người khác tham gia.

Nhiệm vụ hiện tại. Chúng tôi hiện đang đối mặt với thách thức rất cụ thể là tư vấn cho OpenAI về cách phối hợp công bố một số lượng lớn các kết quả quan trọng trong toán học mà họ báo cáo là đã được tạo ra bởi mô hình nội bộ của họ.

Chúng tôi hoan nghênh ý kiến đóng góp từ cộng đồng toán học về vấn đề này. Vui lòng sử dụng biểu mẫu này để chia sẻ suy nghĩ của bạn với chúng tôi sớm nhất có thể. Phản hồi của bạn sẽ được sử dụng để làm cơ sở cho các khuyến nghị của chúng tôi và sẽ không được công khai nếu không có sự đồng ý của bạn.