Startup Pangram gọi vốn 9 triệu USD, ra mắt công cụ phát hiện nội dung AI với độ chính xác 99%

Pangram, startup phát hiện AI có trụ sở tại New York, đang thực hiện sứ mệnh chống lại tình trạng tràn lan các nội dung "AI slop" (nội dung rác do AI tạo ra) trên internet. Công ty vừa huy động thành công 9 triệu USD dựa trên niềm tin rằng nhu cầu về các công cụ phân biệt nội dung do con người tạo ra với văn bản do AI tạo ra sẽ ngày càng tăng.

Vòng gọi vốn của Pangram — do Menlo Ventures dẫn đầu, với sự tham gia của Haystack, ScOp, Script Capital và Cadenza — diễn ra trong bối cảnh startup này cũng vừa ra mắt mô hình phát hiện văn bản AI thế hệ mới, Pangram 4, cùng một mô hình phát hiện hình ảnh AI có tên Pangram Image.

Pangram cho biết mô hình phát hiện văn bản mới có độ chính xác hơn 99% trong việc tìm ra các bài viết có sự hỗ trợ của AI và nội dung hỗn hợp giữa người và AI, đồng thời có thể phát hiện dễ dàng hơn các chương trình "humanizer" (công cụ làm cho văn bản AI giống người viết hơn). Trình phát hiện hình ảnh AI hiện chỉ mới khả dụng dưới dạng bản xem trước cho mục đích nghiên cứu; Pangram dự kiến sẽ phát hành rộng rãi hơn trong những tuần tới.

Hai cựu sinh viên ngành AI và học máy tại Stanford là Max Spero và Bradley Emi đã thành lập Pangram khoảng hai năm trước, sau khi sự ra đời của ChatGPT mở ra cánh cửa cho một internet đầy rẫy các bot, nội dung SEO rác do AI tạo ra, và những thứ mà Spero gọi là "các chiến dịch thông tin sai lệch của Nga và các chiến dịch chịu ảnh hưởng từ UAE trên Twitter được vận hành bởi LLM".

"Tôi nghĩ việc biết được thứ mình đang xem có phải do AI tạo ra hay không là vô cùng giá trị," Spero chia sẻ với TechCrunch. "Đặc biệt là với văn bản mà bạn đang đọc, vì nó thay đổi cách mọi người tiếp cận nội dung đó. Liệu đây có phải là thứ tôi cần phải cảnh giác với các hiện tượng 'ảo giác' (hallucinations) và tiếp cận một cách hoài nghi, hay đây là thứ tôi có thể tin tưởng rằng đã được một nhà báo thực thụ nghiên cứu kỹ lưỡng?"

Hệ thống phát hiện AI của Pangram về cơ bản là một mô hình học máy lớn được huấn luyện trên hàng chục triệu tài liệu do con người viết. Sau đó, startup này tạo ra một "bản sao tổng hợp" cho mỗi tài liệu, mô phỏng lại chủ đề, độ dài và giọng văn, nhưng được viết bởi một mô hình LLM tiên tiến.

"Mô hình của chúng tôi đang học các khác biệt về phong cách và những lựa chọn mà AI thường xuyên thực hiện, từ đó có thể sử dụng thông tin này để xác định điều gì tạo nên nội dung do AI tạo ra với độ tin cậy cao," Spero cho biết, đồng thời nói thêm rằng trình phát hiện AI này không dựa vào siêu dữ liệu (metadata) sao chép-dán hay các hình mờ (watermark) ẩn.

Đối với Pangram, việc phát hiện AI không chỉ đơn thuần là xác định xem một đoạn văn bản có hoàn toàn do AI viết hay không. Nó còn là việc phân biệt giữa các mức độ hỗ trợ của AI — chẳng hạn như trường hợp một người tự viết nhưng sau đó nhờ AI chỉnh sửa hoặc trau chuốt lại. Spero tin rằng sự hỗ trợ của AI có thể chấp nhận được, miễn là người viết công khai việc họ có sử dụng AI.

Sự xuất hiện của Pangram diễn ra vào thời điểm việc sử dụng AI đang trở nên phổ biến hơn. Trong một số trường hợp, như vị chính trị gia Canada đọc to một câu lệnh (prompt) AI trong bài phát biểu trước các nhà lập pháp, những sai lầm dẫn đến sự chế giễu. Trong các trường hợp khác, như một số luật sư đưa ra lập luận bằng các trích dẫn giả do ChatGPT tạo ra, hậu quả có thể là các lệnh trừng phạt và tiền phạt.

Phản ứng dữ dội đó không chỉ khiến các cá nhân phải chịu sự xấu hổ hay các lệnh trừng phạt — mà nó còn bắt đầu xuất hiện trong các quy định của các tổ chức.

Kho lưu trữ truy cập mở arXiv đã giới thiệu một chính sách thực thi mới trong năm nay, tuyên bố rằng các bài nộp chứa bằng chứng cho thấy tác giả không xem xét kỹ đầu ra của LLM (như các tài liệu tham khảo bị "ảo giác" hoặc các bình luận meta như "Bạn có muốn tôi thực hiện thay đổi nào không?") có thể dẫn đến lệnh cấm nộp bài trong một năm.

Pangram không phải là đơn vị duy nhất đặt cược rằng công nghệ phát hiện AI sẽ ngày càng được săn đón. Các đối thủ cạnh tranh như Winston AI, Originality.ai, Copyleaks và GPTZero cũng đang theo đuổi cùng một nhu cầu, mỗi bên đều xây dựng trình phát hiện riêng cho mình.

Công nghệ của Pangram, dù chưa hoàn hảo, có thể giúp thúc đẩy sự phản kháng đối với việc chấp nhận nội dung do AI tạo ra đang tràn ngập trên internet, tại tòa án và trong các bài báo học thuật.

Người dùng có thể truy cập Pangram thông qua gói đăng ký 20 USD/tháng trên web hoặc tải xuống tiện ích mở rộng (extension) trên Chrome, công cụ này sẽ tự động gắn nhãn các bài đăng theo thời gian thực trên X, LinkedIn, Substack, Reddit và Medium. Nó cũng cung cấp điểm số sức khỏe nguồn cấp dữ liệu (feed health score) với tỷ lệ phần trăm phân bổ giữa nội dung do con người và AI tạo ra trên màn hình của bạn.

Pangram cũng cung cấp công nghệ của mình thông qua API. Đáng chú ý, Substack gần đây đã tích hợp công nghệ của Pangram vào nền tảng của họ để cho độc giả biết tác giả yêu thích nào của họ viết bản tin bằng AI. Theo Spero, các khách hàng API khác bao gồm Quora, các trường học và đại học, các nhà xuất bản, đại lý và nhà tuyển dụng, cùng nhiều đơn vị khác.

Pangram có hiệu quả không?

Spero cho biết khoảng một trong 10.000 tài liệu của con người bị mô hình của Pangram gắn nhãn sai là AI, vì vậy tôi đã quyết định thử nghiệm nó. Mô hình phát hiện văn bản rất ấn tượng nhưng chưa hoàn hảo. Nó dễ dàng gắn cờ các bài báo tin tức hoàn toàn do AI tạo ra bởi cả ChatGPT và Claude, và hiếm khi bị đánh lừa bởi những nỗ lực của tôi trong việc chỉnh sửa văn bản do AI tạo ra để nghe giống con người hơn. Đồng thời, Pangram cũng gắn cờ các câu mà tôi viết lại hoàn toàn là do AI viết. Pangram cũng không hề bị đánh lừa bởi những nỗ lực của tôi trong việc ra lệnh cho ChatGPT và Claude tìm cách né tránh các trình phát hiện AI khi tạo nội dung.

Tôi cũng đưa cho ChatGPT và Claude một trong những bài báo của chính mình và yêu cầu chúng trau chuốt lại. Pangram chấm điểm 13% hỗ trợ bởi AI, con số này có lẽ khá chính xác, nhưng mô hình có thể phát hiện những thay đổi tinh tế trong cách chọn từ ở một số câu và bỏ qua ở những câu khác. Nó cũng gắn cờ một số câu là có sự hỗ trợ của AI trong khi thực tế là do con người viết. Điều đó đáng chú ý vì khi tôi đưa cho Pangram toàn bộ bài báo đó, như cách tôi đã viết, nó đạt điểm 100% do con người viết.

Có lẽ vấn đề là các bài báo tin tức có thể hơi khô khan và dễ nghe giống AI. Vì vậy, tôi đã thử một chiến thuật khác. Tôi kiểm tra Pangram trên nội dung bản tin Substack cá nhân mang đậm dấu ấn cá nhân của mình, dán một nửa đầu văn bản vào Pangram rồi yêu cầu ChatGPT và Claude bắt chước phong cách của tôi để viết nửa còn lại. Phần lớn, Pangram dễ dàng phát hiện ra văn bản do con người viết so với văn bản do AI viết.

Thử nghiệm hạn chế của tôi về mô hình phát hiện hình ảnh mới của Pangram cũng cho kết quả ấn tượng không kém.

Hệ thống phát hiện hình ảnh AI của Pangram hứa hẹn sẽ phát hiện các hình ảnh do AI tạo ra trên nhiều mô hình AI khác nhau, không giống như các kiểm tra dựa trên watermark của OpenAI hay Google DeepMind, vốn chủ yếu chỉ phát hiện đầu ra của chính họ. Nó hoạt động dựa trên sự phân bổ ở cấp độ pixel, học các khác biệt thống kê tinh tế giữa ảnh thật và ảnh do AI tạo ra. Spero cho biết mô hình thậm chí có thể phát hiện một hình ảnh AI xuất hiện bên trong một bức ảnh đời thực.

Trong thử nghiệm của tôi, mô hình dễ dàng phát hiện hình ảnh do AI tạo ra, dù là ảnh chân thực hay ảnh hoạt hình. Tôi cũng có thể xác nhận mô hình có thể phát hiện một hình ảnh AI xuất hiện trong một bức ảnh đời thực — bản đồ nhiệt (heat map) mà Pangram cung cấp sáng lên rõ ràng trên hình ảnh đó — mặc dù trong một trường hợp, nó đã gắn nhãn sai một bức ảnh chứa hình ảnh do AI tạo ra là nội dung do con người tạo.

Spero nói rằng ông không muốn công nghệ của mình thúc đẩy một cuộc "săn phù thủy" chống lại những người sử dụng AI để viết lách, nhưng cần phải có một cơ chế nào đó để đẩy lùi tình trạng nội dung rác.

"Tương lai mà tôi thấy là nội dung AI sẽ tiếp tục gia tăng," Spero nói. "Chúng ta đang có các GPU mới nhanh hơn tốc độ con người được sinh ra. Nếu chúng ta không chủ động ưu tiên nội dung do con người tạo ra, thì chúng ta sẽ chỉ thấy ngày càng nhiều AI hơn, và nó sẽ nhấn chìm mọi tín hiệu con người mà chúng ta có."

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.