Anthropic khởi động sáng kiến 'Câu hỏi hóc búa' nhằm lắng nghe phản biện về AI

Ai là người quyết định các quy tắc cho AI?

Liệu AI có thể mang lại cho con cái chúng ta một tương lai tốt đẹp hơn không?

AI có làm cho thế giới trở nên nguy hiểm hơn không?

Liệu AI có thể giúp các nhà khoa học chữa trị bệnh tật?

Mọi người có rất nhiều câu hỏi hóc búa về AI. Nhiệm vụ của chúng tôi là giải đáp những câu hỏi đó.

Nhiều người có cái nhìn tích cực về AI. Họ đã sử dụng nó hàng ngày và nhận thấy tiềm năng của nó trong việc giúp công việc và cuộc sống của chúng ta bớt vất vả hơn, thay đổi cách chúng ta học tập, giúp đẩy nhanh tiến bộ khoa học và công nghệ, tạo ra các nguồn thịnh vượng mới, cũng như giải quyết một số vấn đề y tế và xã hội lớn nhất mà chúng ta đang đối mặt.

Tuy nhiên, nhiều người cũng có những lo ngại nghiêm trọng. Một số người lo lắng về khả năng AI góp phần gây mất việc làm. Một số sợ rằng nó có thể làm giảm giá trị của các công việc sáng tạo. Những người khác lại quan ngại về quyền tự chủ của con người: rằng AI có thể ảnh hưởng đến khả năng tự suy nghĩ, khả năng kết nối giữa người với người và ý nghĩa trong cuộc sống của chúng ta. Nhiều người lo lắng về hậu quả nếu khả năng của AI rơi vào tay kẻ xấu—và tự hỏi liệu lợi ích có vượt xa cái giá phải trả hay không.

Trong đoạn phim dưới đây, bạn có thể lắng nghe một số hy vọng và lo ngại này từ những người mà chúng tôi đã trò chuyện.

Anthropic là một Public Benefit Corporation (Tập đoàn vì lợi ích công cộng)—sứ mệnh của chúng tôi là đảm bảo các lợi ích từ những mô hình AI tiên tiến và giảm thiểu rủi ro của chúng. Sứ mệnh vì lợi ích công cộng đó đã thúc đẩy chúng tôi, chẳng hạn như đầu tư vào các biện pháp bảo vệ AI để giảm thiểu rủi ro bị lạm dụng, nghiên cứu hành vi và cơ chế hoạt động bên trong của các mô hình AI để giúp chúng ta căn chỉnh chúng theo các mục tiêu có lợi, cung cấp miễn phí các mô hình AI của mình cho các nhà khoa học, và khởi động một chương trình học bổng kết nối những người dùng Claude mới vào nghề với các tổ chức phi lợi nhuận để giúp lan tỏa lợi ích của AI.

Để thực sự hành động vì lợi ích công cộng, chúng tôi cần hiểu rõ những hy vọng và lo ngại mà công chúng dành cho công nghệ mới này. Là một phần trong sáng kiến mới về các câu hỏi hóc búa, chúng tôi đang thực hiện các bước tiếp theo để tìm hiểu quan điểm và câu hỏi của mọi người về nhiều chủ đề liên quan đến AI, đồng thời minh bạch hóa tiến trình của chúng tôi hướng tới các mục tiêu vì lợi ích công cộng.

Chúng tôi đã đặt nền móng bằng việc hỏi hàng ngàn người về quan điểm của họ đối với AI:

Chúng tôi đã thành lập Anthropic Institute—một nỗ lực nghiên cứu trong nội bộ công ty với mục tiêu đối mặt với những thách thức quan trọng nhất mà AI sẽ đặt ra cho xã hội—và kể từ giai đoạn đầu trong lịch sử công ty, Long-Term Benefit Trust của chúng tôi đã cung cấp sự giám sát khách quan về mức độ hiệu quả mà chúng tôi đang thúc đẩy sứ mệnh vì lợi ích công cộng của mình.

Giờ đây, chúng tôi trực tiếp yêu cầu bạn gửi cho chúng tôi những câu hỏi hóc búa nhất của bạn về AI: những câu hỏi về tác động của AI đối với công việc, xã hội và gia đình; những câu hỏi về cách chúng ta đạt được tiềm năng to lớn của AI cho khoa học và y học; những câu hỏi về việc một trong những công nghệ mạnh mẽ nhất trong lịch sử nhân loại có thể đưa chúng ta đi đến đâu tiếp theo.

Đổi lại, chúng tôi sẽ công khai theo dõi và báo cáo các hành động cụ thể mà chúng tôi đang thực hiện để giải quyết những câu hỏi đó—và chúng tôi sẽ làm rõ những khía cạnh mà chúng tôi có thể chưa đạt được mục tiêu đã đề ra.

Để xem một số câu hỏi mà những người khác đang đặt ra và chia sẻ câu hỏi của riêng bạn, hãy truy cập trang web về các câu hỏi hóc búa của chúng tôi.

Nội dung liên quan

Ben Bernanke được bổ nhiệm vào Long-Term Benefit Trust của Anthropic

Đọc thêm

Giới thiệu cách để suy ngẫm về cách bạn sử dụng Claude

Giới thiệu một cách mới để suy ngẫm và tinh chỉnh cách bạn sử dụng Claude. Nó cho phép bạn dễ dàng theo dõi và hình dung cách bạn sử dụng Claude, đồng thời quyết định xem khoảng thời gian đó có phù hợp với mục tiêu của bạn hay không.

Đọc thêm

Chính phủ Alberta sử dụng Claude để tìm và khắc phục các lỗ hổng an ninh mạng trên các hệ thống chính phủ

Kể từ năm 2025, Chính phủ Alberta đã sử dụng Claude Code với cả hai mô hình Opus và Sonnet để rà soát hệ thống, tìm kiếm lỗ hổng và khắc phục chúng.

Đọc thêm