Nghiên cứu cảnh báo: AI có thể khiến các nhà khoa học làm việc nhiều hơn nhưng chất lượng lại giảm sút

Một bài báo kinh tế lý thuyết của các nhà nghiên cứu từ Princeton, Đại học Washington và các tổ chức khác đã phản bác giả định đó. Khi AI đảm nhận bớt công việc của một nhà khoa học, thời gian của nhà khoa học đó trở nên giá trị hơn. Mỗi giờ dành cho một dự án hiện tại là một giờ không thể dành để bắt đầu một dự án mới. Các nhà kinh tế gọi đây là "chi phí cơ hội" (opportunity cost), và mô hình của bài báo được xây dựng dựa trên ý tưởng đó.

Để thực hiện phân tích, các tác giả đã cố tình lý tưởng hóa các LLM. Họ coi chúng là những công cụ giúp cắt giảm chi phí thời gian mà không gây ra lỗi và với chi phí tài chính không đáng kể, một thiết lập được thiết kế để tách biệt hiệu ứng thuần túy của việc tiết kiệm thời gian khỏi những điểm yếu vốn có của công nghệ này.

Mô hình tìm kiếm thức ăn cho nỗ lực khoa học

Các nhà nghiên cứu đã xây dựng một mô hình toán học dựa trên lý thuyết tìm kiếm thức ăn tối ưu (optimal foraging theory) từ sinh thái học hành vi, một khuôn khổ mô tả cách các sinh vật phân bổ nỗ lực vào các cơ hội cạnh tranh. Khi áp dụng vào khoa học, mô hình này mô phỏng cách các nhà nghiên cứu phân bổ công sức của họ vào các dự án và điều gì sẽ xảy ra khi các LLM rút ngắn các giai đoạn khác nhau trong vòng đời dự án.

Trong mô hình này, một dự án nghiên cứu diễn ra theo hai giai đoạn. Nhà nghiên cứu trước tiên kiểm tra xem một ý tưởng có khả thi hay không, sau đó quyết định từ bỏ hoặc tiếp tục thực hiện. Việc tiếp tục bao gồm một phần bắt buộc như tạo hình ảnh, định dạng văn bản và nộp bài, cộng với một phần tự nguyện như thực hiện thêm các thí nghiệm, phân tích sâu hơn hoặc trau chuốt văn phong. Họ lập luận rằng phần tự nguyện đó chính là thứ bị hy sinh khi thời gian trở nên khan hiếm.

Hai trong ba kịch bản dẫn đến nghiên cứu kém chất lượng hơn

Bài báo đưa ra ba kịch bản tùy thuộc vào việc AI được áp dụng ở đâu trong quy trình nghiên cứu. Trong kịch bản đầu tiên, AI giúp đánh giá các ý tưởng ban đầu. Các nhà nghiên cứu trở nên kỹ tính hơn vì việc bắt đầu lại tốn ít chi phí hơn, vì vậy chỉ những dự án hứa hẹn nhất mới được tiếp tục. Nhưng ngay cả những dự án đó cũng được xử lý ít kỹ lưỡng hơn, vì thời gian tiết kiệm được nên dành để khởi động một dự án mới thì tốt hơn. Các tác giả cho biết mô hình này là điển hình của các lĩnh vực kỹ thuật.

Trong kịch bản thứ hai, AI hỗ trợ xuất bản bằng cách tăng tốc việc viết, định dạng và phân tích. Vì việc hoàn thành một bài báo tốn ít công sức hơn, nên các dự án yếu hơn cũng trở nên đáng để theo đuổi. Nhiều bài báo được lưu hành hơn, nhưng mỗi bài lại trở nên nông cạn hơn. Mô hình này là điển hình của các ngành dựa trên thực địa.

Chỉ trong kịch bản thứ ba, AI mới thực sự cải thiện chất lượng. Ở đây, nó tăng tốc giai đoạn đào sâu tự nguyện, chẳng hạn như các thí nghiệm bổ sung hoặc phân tích kỹ lưỡng hơn. Vì AI nhắm đúng vào giai đoạn mà các nhà nghiên cứu luôn phải cắt giảm do áp lực thời gian, nên việc tiết kiệm thời gian sẽ chuyển hóa thành công việc kỹ lưỡng hơn.

Như vậy, trong hai trên ba trường hợp, sự kỹ lưỡng bị giảm sút. Khi thời gian trở nên giá trị hơn, việc trau chuốt một bài báo vốn đã có thể xuất bản không còn hợp lý nữa. Thời gian đó nên dành cho dự án tiếp theo thì tốt hơn.

Ngụy biện về thời gian tiết kiệm được

"Là một công nghệ tăng cường lao động, các LLM làm tăng chi phí cơ hội về thời gian của chúng ta, thúc đẩy chúng ta làm nhiều việc hơn nhưng kém chất lượng hơn—thay vì làm cùng một khối lượng công việc nhưng tốt hơn," các tác giả viết. Ý tưởng cho rằng thời gian tiết kiệm được sẽ tự động chuyển sang phân tích sâu hơn là không có cơ sở.

Những gì mô hình mô tả trên lý thuyết đã và đang xuất hiện trong thực tế. Một báo cáo thực địa từ OpenAI bao gồm tám nghiên cứu điển hình về khoa học cho thấy tốc độ tăng lên tới 60 lần khi viết lại phần mềm nghiên cứu, nhưng nút thắt cổ chai chỉ chuyển từ lập trình sang xác thực và bảo trì dài hạn. Thời gian tiết kiệm được theo cảm nhận thậm chí không cần phải là thực tế để làm thay đổi hành vi. Một nghiên cứu của METR cho thấy các nhà phát triển mã nguồn mở có kinh nghiệm sử dụng các công cụ AI thực tế đã mất nhiều thời gian hơn 19% để hoàn thành nhiệm vụ, mặc dù họ cảm thấy mình nhanh hơn 24%.

Sự xung đột này cũng có thể thấy rõ trong hệ thống xuất bản. Trong các lĩnh vực mà LLM tăng tốc việc viết lách, số lượng bài nộp đang tăng nhanh và gây áp lực lên hệ thống bình duyệt vốn đã quá tải. "AI Scientist-v2" của Sakana AI đã đẩy một bài báo do AI tạo hoàn toàn qua một hội thảo của ICLR, với đầy đủ các lỗi trích dẫn. Arxiv đã phản hồi bằng các hình phạt nghiêm khắc hơn, đe dọa cấm nộp bài trong một năm đối với các nguồn tài liệu bị ảo giác hoặc các bình luận meta của AI còn sót lại trong văn bản.

Bài báo lập luận rằng các phản ứng của tổ chức cần phải cụ thể theo từng ngành, vì tác động của AI đối với nghiên cứu không phải là sự tăng tốc đồng nhất. Nó phụ thuộc vào giai đoạn nào của quy trình được tăng tốc. Một nghiên cứu gần đây về phát triển phần mềm mô tả một động lực tương tự như bi kịch của mảnh đất công (tragedy of the commons), nơi lợi ích năng suất cá nhân đạt được bằng cái giá của những người phải xem xét và duy trì kết quả đầu ra sau đó.