Từ cú lừa deepfake nhắm vào ông nội, Tarini Padmanabhuni sáng lập DetectifAI chống giả mạo giọng nói

Khi cuộc gọi đến, ông của Tarini Padmanabhuni tin rằng ông đang nói chuyện với em trai mình. Giọng nói ở đầu dây bên kia cho biết em trai ông đã bị bắt cóc và cách duy nhất để chuộc lại là trả tiền chuộc. Ông của cô đã trả tiền, chỉ để sau đó biết rằng em trai mình đang ở một nơi hoàn toàn khác và không hề hay biết chuyện gì đang xảy ra. Hóa ra, giọng nói đó là một deepfake: một bản sao được tạo ra bởi AI từ giọng của người em.

“Điều khiến tôi trăn trở không phải là số tiền,” Padmanabhuni nói về sự việc. “Mà là việc ông tôi không có cách nào để nhận ra điều đó.”

Chuyện đó xảy ra khoảng hai năm trước. Ngày nay, cô cho biết DetectifAI, công ty có trụ sở tại San Francisco do cô sáng lập, hướng tới mục tiêu đảm bảo rằng những người khác không bị lừa theo cách tương tự.

Đây là một vấn đề lớn và đang ngày càng gia tăng, cùng với đó là một thị trường tương ứng. Theo FBI, người Mỹ đã mất gần 900 triệu USD vào các vụ lừa đảo bằng AI trong năm ngoái, tăng 24% so với năm 2024. Những người từ 60 tuổi trở lên bị mất số tiền gấp đôi so với nhóm tuổi từ 50 đến 59.

Không thiếu sự cạnh tranh trong lĩnh vực phát hiện giọng nói deepfake, từ các công ty như Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety và Nuance (cũng thuộc sở hữu của Microsoft). Tuy nhiên, Padmanabhuni lập luận rằng các sản phẩm phát hiện hiện nay đều chạy trên đám mây thông qua các máy chủ từ xa, vì vậy các nhà sản xuất điện thoại không thể tích hợp trực tiếp vào thiết bị, khiến người dùng không có nhiều phương án phòng vệ.

Thay vì thu nhỏ các mô hình đám mây lớn để vừa với điện thoại như một số công ty khác, DetectifAI cho biết họ thiết kế các mô hình AI nhỏ gọn ngay từ đầu, đủ nhỏ để chạy bên trong hệ điều hành của điện thoại thông minh. Mục tiêu là đưa ra kết luận tức thì về việc liệu giọng nói có phải do AI tạo ra hay không trong các cuộc gọi, tin nhắn thoại và các tệp âm thanh khác mà không cần dữ liệu âm thanh phải rời khỏi thiết bị.

DetectifAI đang bán sản phẩm cho các nhà sản xuất điện thoại trước, cấp phép các công cụ phần mềm để tính năng phát hiện có thể được tích hợp sẵn trong hệ điều hành của điện thoại. Cô ví von vai trò của mình giống như AT&T trong đợt ra mắt iPhone đời đầu, khi thỏa thuận độc quyền của nhà mạng này tạo nên sự khác biệt so với các đối thủ: cô lập luận rằng nhà sản xuất điện thoại đầu tiên tích hợp DetectifAI sẽ giành được lợi thế trước các đối thủ cạnh tranh, và phát hiện deepfake sẽ trở thành một thông số tiêu chuẩn, giống như độ phân giải camera.

Cốt lõi của sản phẩm là bộ công cụ phát triển phần mềm (SDK) của DetectifAI, một gói mã mà các công ty khác có thể tích hợp vào sản phẩm của họ và được cấp phép thông qua các kênh hiện có. Padmanabhuni cho biết nguồn doanh thu thứ hai sẽ đến từ việc cấp phép công nghệ cho các doanh nghiệp và các công ty phòng chống gian lận.

Trong khi đó, theo Padmanabhuni, startup này đã có doanh thu sớm và xử lý hơn 100.000 cuộc gọi mỗi tháng cho các tổ chức tài chính ở Ấn Độ. Những cuộc gọi đó được thực hiện bởi các tác nhân giọng nói AI chuyên xử lý thu hồi nợ và theo dõi hồ sơ vay vốn, với tính năng phát hiện deepfake và xác thực người nói (xác nhận người gọi đúng là người họ tự xưng) trong mọi cuộc gọi. Cô từ chối nêu tên khách hàng vì các thỏa thuận bảo mật.

Padmanabhuni cho biết cô bắt đầu làm việc với học máy từ năm 12 tuổi và sau đó theo học ngành hệ thống điều khiển học (công nghệ liên kết phần mềm với máy móc vật lý) tại Viện Công nghệ Manipal ở Ấn Độ, nơi cô trở thành trưởng nhóm trẻ nhất của bộ phận xe đua không người lái đầu tiên tại Ấn Độ trong Formula Student, một cuộc thi kỹ thuật sinh viên quốc tế.

Khi được hỏi về khoảnh khắc đáng giá nhất đối với startup cho đến nay, cô nhắc đến một thử nghiệm beta nhỏ trên WhatsApp, nơi người dùng chuyển tiếp các tin nhắn thoại đáng ngờ và nhận lại đánh giá xem chúng có phải là thật hay không. Một người thử nghiệm, có người thân từng bị lừa đảo, đã gọi điện nói rằng họ sẵn sàng trả tiền cho dịch vụ này mà không do dự. “Ông tôi đã không có được sự bảo vệ đó,” cô nói.

DetectifAI cho đến nay đã huy động được một khoản vốn hạt giống nhỏ từ các nhà đầu tư Josh Constine (cựu biên tập viên tại TechCrunch) và Manohar Kamath, giám đốc tại công ty dịch vụ tư vấn KM Growth. Đây là một trong những startup được đội ngũ biên tập của TechCrunch thẩm định để tranh tài tại cuộc thi Startup Battlefield danh giá, diễn ra tại sự kiện TechCrunch Disrupt từ ngày 13 đến 15 tháng 10 tại trung tâm San Francisco.

Khi bạn mua hàng qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Loizos đã đưa tin về Thung lũng Silicon từ cuối những năm 90, khi cô gia nhập tạp chí Red Herring gốc. Trước đây là Biên tập viên Thung lũng Silicon của TechCrunch, cô được bổ nhiệm làm Tổng biên tập và Tổng giám đốc của TechCrunch vào tháng 9 năm 2023. Cô cũng là người sáng lập StrictlyVC, một bản tin điện tử hàng ngày và chuỗi bài giảng đã được Yahoo mua lại vào tháng 8 năm 2023 và hiện hoạt động như một thương hiệu con của TechCrunch.

Bạn có thể liên hệ hoặc xác minh thông tin từ Connie bằng cách gửi email đến [email protected] hoặc [email protected], hoặc qua tin nhắn mã hóa tại ConnieLoizos.53 trên Signal.

Xem tiểu sử