Phóng viên 404 Media dùng AI 'chiếm sóng' Spotify của ban nhạc thật chỉ với 3,75 USD

Quảng cáo

Một lỗ hổng nghiêm trọng trong khâu phân phối nhạc kỹ thuật số đang tạo điều kiện rất dễ dàng để kẻ xấu "ăn theo" tài năng của các nghệ sĩ thực thụ bằng âm nhạc do AI tạo ra.

Vào ngày 10 tháng 9, ban nhạc punk Lathe of Heaven có trụ sở tại Brooklyn đã phát hành một đĩa đơn mới trên trang Spotify đã xác minh của họ có tên là Riding High. Bất kỳ người hâm mộ nào của Lathe of Heaven cũng sẽ nhận ra ngay rằng bài hát này hoàn toàn không giống với các tác phẩm trước đây của ban nhạc, giọng hát không phải của ca sĩ chính Gage Allison và ảnh bìa album cũng khác biệt hoàn toàn so với phong cách và logo mà ban nhạc từng sử dụng.

Đó là bởi vì Lathe of Heaven không hề sáng tác, biểu diễn hay tự nguyện phát hành Riding High. Tôi đã tạo ra bài hát này bằng một câu lệnh (prompt) đơn giản gửi cho công cụ tạo nhạc AI Udio, và tôi đã có thể phát hành bản nhạc này lên trang Spotify chính thức của Lathe of Heaven, cũng như trên các trang Apple Music, Tidal và Amazon Music của họ mà ban nhạc không hề hay biết, bằng cách khai thác một lỗ hổng nghiêm trọng trong cách thức âm nhạc được phân phối kỹ thuật số đến các nền tảng phát trực tuyến.

Lỗ hổng này đã tồn tại nhiều năm, nhưng những người tạo ra các sản phẩm nhạc AI rác (AI slop) hiện đang lạm dụng nó một cách tràn lan. Ngày nay, bất kỳ ai cũng có thể dễ dàng chiếm quyền kiểm soát trang Spotify của một nghệ sĩ thực thụ và làm tràn ngập nó bằng nhạc do AI tạo ra. Khi ai đó nhấp vào một trong những bản nhạc đó với mong muốn nghe nhạc từ nghệ sĩ yêu thích của họ, kẻ lừa đảo sẽ thu về bất kỳ khoản tiền bản quyền nào mà các lượt phát đó tạo ra, về cơ bản là đang "ăn theo" sự nổi tiếng của nghệ sĩ, còn người nghe thì phải nghe thứ nhạc rác chất lượng thấp thay vì nghệ sĩ yêu thích của họ. Nhiều trường hợp lừa đảo tương tự đã được ghi nhận trong quá khứ, nhưng 404 Media đã xác định và tái hiện chính xác lỗ hổng mà những kẻ lừa đảo đang khai thác. Việc này thực hiện rất đơn giản, và cả các nền tảng phát nhạc trực tuyến lẫn các nhà phân phối nhạc kỹ thuật số đều không chịu trách nhiệm về vấn đề này.

Lỗ hổng này cũng có vẻ dễ dàng nhắm vào các nghệ sĩ ít tên tuổi hoặc những nghệ sĩ đã qua đời hơn là các nhạc sĩ nổi tiếng, mặc dù họ cũng có thể bị ảnh hưởng. Spotify nói với tôi rằng "những hồ sơ không được quản lý tích cực có thể đặc biệt dễ bị tổn thương", nghĩa là nếu không có ai chủ động theo dõi trang của nghệ sĩ trên Spotify thì đó là một mục tiêu dễ dàng hơn.

🎵

Bạn có biết thêm thông tin gì về những vụ lừa đảo này không? Tôi rất muốn nghe ý kiến từ bạn. Sử dụng thiết bị không phục vụ công việc, bạn có thể nhắn tin bảo mật cho tôi qua Signal tại @emanuel.404. Nếu không, hãy gửi email cho tôi theo địa chỉ [email protected].

Năm ngoái, tôi đã đưa tin về Blaze Foley, một nhạc sĩ nhạc đồng quê bị sát hại vào năm 1989, nhưng trang Spotify của ông đột nhiên xuất hiện các bản nhạc mới do AI tạo ra dưới tên của ông. Gần đây, tôi đã xem xét hàng chục ví dụ về các nhạc sĩ đã khuất khác cũng đang bị mạo danh phát hành nhạc AI trên Spotify. Trong một số trường hợp, ảnh bìa album của các nghệ sĩ nhạc jazz da màu đã khuất thậm chí còn hiển thị hình ảnh các nghệ sĩ da trắng do AI tạo ra.

Lỗ hổng

Các nhà phân phối nhạc kỹ thuật số là những dịch vụ giúp nhạc sĩ cung cấp và quản lý âm nhạc của họ trực tuyến. Thay vì tải nhạc lên từng nền tảng phát trực tuyến riêng lẻ, các nghệ sĩ tải nhạc lên một nhà phân phối nhạc kỹ thuật số, sau đó đơn vị này sẽ tải nhạc lên các nền tảng mà nghệ sĩ lựa chọn. Bằng cách này, nghệ sĩ có thể quản lý danh mục tác phẩm và thu tiền bản quyền từ một dịch vụ tập trung thay vì phải quản lý âm nhạc riêng biệt trên Spotify, Amazon Music, Apple, Tidal và các nền tảng khác.

Sự tập trung hóa mà các nhà phân phối nhạc kỹ thuật số mang lại là một sự tiện lợi đáng kinh ngạc, nhưng cũng dễ dàng bị những kẻ xấu lợi dụng.

Để tận dụng lỗ hổng này, tôi đã tạo một bài hát trên Udio với câu lệnh "tạo một bài hát punk với giọng nam", và tạo ảnh bìa album bằng ChatGPT. Tôi đã tạo một tài khoản với một trong những nhà phân phối nhạc kỹ thuật số này là Distrokid với giá 3,75 đô la một tháng, và tải bản nhạc lên. Khi Distrokid hỏi tên nghệ sĩ/ban nhạc của tôi, tôi đã nhập Lathe of Heaven. Distrokid tự động tìm thấy các trang Spotify, Tidal, Apple Music và Amazon hiện có của Lathe of Heaven thật và hỏi liệu đó có phải là ban nhạc của tôi không. Sau đó, nó yêu cầu tôi cung cấp một loạt thông tin mà các nền tảng phát nhạc trực tuyến yêu cầu, như ai là người sáng tác, ai sản xuất và hãng thu âm là gì. Tôi đã điền tên thật của mình vào mọi chỗ và liệt kê 404 Records là hãng thu âm.

Distrokid cũng bắt tôi đánh dấu vào một vài ô. Một ô ghi: "Tôi đã thu âm bản nhạc này và được ủy quyền để bán nó tại các cửa hàng trên toàn thế giới & thu thập tất cả tiền bản quyền." Một ô khác ghi: "Tôi không sử dụng tên của bất kỳ nghệ sĩ nào khác trong tên của tôi, tiêu đề bài hát hoặc tiêu đề album mà không có sự đồng ý của họ." Tôi đã đánh dấu vào các ô đó. Cả Distrokid lẫn các nền tảng phát nhạc trực tuyến đều không làm gì để xác minh bất kỳ câu trả lời nào của tôi.

Khi tôi điền xong biểu mẫu, Distrokid thông báo rằng họ đang trong quá trình xuất bản bài hát trên 24 nền tảng phát nhạc trực tuyến khác nhau.

Một ngày sau, bài hát và ảnh bìa album do AI tạo ra của tôi đã xuất hiện trên các trang Spotify, Amazon Music, Apple Music, Tidal và Deezer thật của Lathe of Heaven. Một người dùng bình thường sẽ không có cách nào biết được rằng ban nhạc không thực sự tải bài hát lên và mọi khoản tiền bản quyền từ việc nghe bài hát đó sẽ thuộc về tôi.

"Tôi vừa nghe bài hát đó. Thật kinh khủng. Việc bạn có thể làm điều đó thật điên rồ," Allison, ca sĩ của Lathe of Heaven, nói với tôi. "Thứ duy nhất mà những nhạc sĩ nhỏ bé như chúng tôi có được sau tất cả là sự công nhận cho thành quả công việc của mình — việc có thể tận hưởng quá trình tạo ra thứ gì đó và đưa nó ra thế giới khi biết rằng đó là sản phẩm do chính tay mình làm ra về cơ bản là một trong những động lực cuối cùng đằng sau việc làm nhạc. Việc dành quá nhiều thời gian và công sức cho ban nhạc đã đủ khó khăn rồi. Tất cả các thành viên của LoH về cơ bản đều điều chỉnh lối sống của mình để có thời gian đi lưu diễn, viết nhạc và thu âm. Và chúng tôi làm điều đó khi biết rằng mình có thể sẽ không nhận lại được nhiều tiền. Việc ai đó có thể hủy hoại danh tiếng của chúng tôi bằng cách tung ra thứ rác rưởi rẻ tiền này dưới tên của chúng tôi thật sự rất nản lòng và nói lên rất nhiều điều về các dịch vụ phân phối và phát trực tuyến đã để điều này xảy ra."

"100.000 bản nhạc mới mỗi ngày"

Phương thức phân phối nhạc kỹ thuật số này đang bị lạm dụng rộng rãi. Vào tháng 7, bộ đôi âm nhạc Odette Child bắt đầu phát hiện ra nhạc do AI tạo ra trên các nền tảng phát trực tuyến giả danh các nghệ sĩ thực thụ. Sau đó, họ đã chia sẻ những phát hiện của mình trên Instagram. Cho đến nay, họ đã phát hiện hơn 300 bài hát do AI tạo ra giả danh là tác phẩm của tất cả mọi người, từ Taylor Swift đến các nghệ sĩ nhạc kịch Broadway tương đối vô danh, các nhạc sĩ nhạc jazz đã khuất, và thậm chí cả một số người nổi tiếng không phải là nhạc sĩ nhưng tên tuổi và hình ảnh của họ bị sử dụng cho các bài hát AI này.

Odette Child nói với tôi rằng họ đã chuyển danh sách các bài hát do AI tạo ra mà họ tổng hợp được cho Spotify, và Spotify đã cảm ơn họ nhưng không thực hiện bất kỳ hành động nào đối với đống nhạc rác AI đó.

"Đây không phải là những lỗ hổng mới. Đây không phải là những thứ mới bị khai thác," Odette Child nói với tôi. "Chúng tôi là nhạc sĩ. Chúng tôi muốn phát hành tác phẩm trong không gian kỹ thuật số. Theo nhiều cách, điều này cực kỳ đau lòng, đáng sợ và đe dọa đến sinh kế của chúng tôi. Tuy nhiên, chúng ta có thể thấy rất rõ ràng rằng họ không quan tâm đến giải pháp tốt nhất cho vấn đề này. Chúng ta cần một loại cơ sở hạ tầng nào đó có thể bảo vệ chúng ta khỏi điều này với tư cách là người tiêu dùng, người nghe và đặc biệt là với tư cách là nghệ sĩ."

Nhạc rác AI phổ biến trên các nền tảng phát nhạc trực tuyến như Spotify đến mức hiện có một số dịch vụ bên thứ ba giúp người dùng lọc bỏ nhạc do AI tạo ra. Vào tháng 8, Spotify thông báo họ đang giới thiệu một thẻ mới để nhận diện các nghệ sĩ do AI tạo ra trên nền tảng, nhưng nền tảng này vẫn đầy rẫy nhạc AI không được công khai, một số trong đó giả danh là đến từ các nghệ sĩ con người. Ngay cả các nền tảng có lập trường mạnh mẽ hơn về việc dán nhãn nhạc AI và bảo vệ nghệ sĩ con người như Deezer và QoBuz cũng mắc phải lỗ hổng này. Trên QoBuz, ngay cả Taylor Swift, một trong những nhạc sĩ nổi tiếng nhất thế giới, cũng có nhạc AI bị đăng tải gây hiểu lầm dưới tên của cô ấy.

"Bảo vệ danh tính của nghệ sĩ là ưu tiên hàng đầu của chúng tôi và chúng tôi tiếp tục đầu tư mạnh mẽ vào việc phát hiện và ngăn chặn," Spotify nói với tôi. "Chúng tôi đang áp dụng phương pháp tiếp cận đa tầng kết hợp giữa thực thi, kiểm soát của nghệ sĩ và tăng cường tính minh bạch. Bảo vệ Hồ sơ Nghệ sĩ (Artist Profile Protection), công cụ đầu tiên thuộc loại này từ một dịch vụ phát trực tuyến, cho phép nghệ sĩ chọn tham gia để xem xét và phê duyệt hoặc từ chối các bản phát hành sắp tới trước khi chúng xuất hiện trên hồ sơ của họ. Chúng tôi cũng đang làm việc trực tiếp với các nhà phân phối để ngăn chặn các nội dung gửi xấu ngay từ nguồn, và bộ lọc thư rác của chúng tôi hoạt động để gắn cờ và ngừng đề xuất các nội dung tải lên hàng loạt, trùng lặp và các nội dung chất lượng thấp khác. Khi công nghệ AI phát triển, chúng tôi sẽ tiếp tục xây dựng dựa trên những nỗ lực này."

Vào tháng 8, Spotify nói với tôi rằng một điều thường bị bỏ qua trong cuộc thảo luận về nhạc do AI tạo ra trên các nền tảng phát trực tuyến là "việc phát hiện đáng tin cậy nhạc do AI tạo ra vẫn là một vấn đề kỹ thuật chưa có lời giải trên toàn ngành", nghĩa là Spotify và các nền tảng khác không thể chỉ sử dụng AI để phát hiện và dán nhãn nhạc do AI tạo ra. "Các mô hình phát hiện thường không thể khái quát hóa trên các phiên bản AI tạo sinh khác nhau, dễ bị đánh lừa bởi các quy trình xử lý âm thanh cơ bản và có thể trở nên lỗi thời gần như chỉ sau một đêm khi các công ty AI cập nhật mô hình của họ. Hậu quả thực tế là các kết quả dương tính giả gây hại cho các nghệ sĩ thực thụ," Spotify nói với tôi.

Ví dụ, vào tháng 7, nhạc sĩ người Ukraine Andriana-Yaroslava Saienko cho biết trên Instagram rằng TuneCore, một công ty phân phối nhạc kỹ thuật số khác giống như Distrokid, nói rằng họ sẽ không phân phối một trong những bản nhạc của cô vì nó bị phát hiện là do AI tạo ra. Saienko cho biết cô hoàn toàn tự tạo ra bản nhạc đó, chỉ sử dụng giọng hát của mình và một vài nhạc cụ tích hợp trong phần mềm sản xuất âm nhạc phổ biến Ableton. Bản nhạc có tên Praying hiện có sẵn trên Soundcloud của cô nếu bạn muốn tự mình đánh giá.

"Tôi hoàn toàn ủng hộ việc lọc nhạc do AI tạo ra. Tôi nghĩ điều đó thực sự công bằng," Saienko nói với tôi trong một email. "Nhưng trường hợp của tôi là về một vấn đề khác — sự thiếu vắng giao tiếp giữa con người và bất kỳ cách giải quyết có ý nghĩa nào cho tình huống mà hệ thống phát hiện AI rõ ràng đã mắc sai lầm."

Amazon nói với tôi rằng, cũng như tất cả nội dung trên Amazon Music, họ yêu cầu các nội dung tải lên phải tuân thủ luật pháp hiện hành và các điều khoản dịch vụ hiện có của họ. "Các hệ thống mạnh mẽ của chúng tôi ngăn chặn việc mạo danh, lừa đảo và thư rác, và đã dẫn đến việc xóa hàng chục triệu bản nhạc khỏi dịch vụ của chúng tôi chỉ trong năm qua, bao gồm cả nội dung lừa đảo do AI tạo ra," Amazon nói với tôi trong một email. "Chúng tôi cam kết liên tục cải thiện việc thực thi thông qua các công nghệ phát hiện tiên tiến và các hệ thống giám sát tinh vi, đồng thời chúng tôi thường xuyên đối thoại với các đối tác và chủ sở hữu quyền để đảm bảo rằng chúng tôi đang bảo vệ lợi ích của nghệ sĩ và nhạc sĩ khi bối cảnh thay đổi."

Deezer nói với tôi rằng từ quan điểm của một nền tảng phát trực tuyến, thường rất khó để biết liệu một bản phát hành có hợp pháp hay không vì việc nghệ sĩ thay đổi hãng thu âm hoặc nhà phân phối là chuyện bình thường và không có cơ sở dữ liệu tập trung về những bản phát hành nào là "hợp pháp". Ngoài ra, các nền tảng phát trực tuyến thường phải đối phó với các nghệ sĩ trùng tên trong trường hợp mã IPI, các số nhận dạng duy nhất được gán cho quyền âm nhạc và thanh toán tiền bản quyền, không được cung cấp trong siêu dữ liệu của bản phát hành.

"Việc theo dõi là một nhiệm vụ phức tạp vì chúng tôi thường nhận được hơn 100.000 bản nhạc mới mỗi ngày, và các đánh giá của chúng tôi là thủ công, thông qua công việc hàng ngày của các nhóm biên tập và danh mục của chúng tôi, cũng như các báo cáo từ chủ sở hữu quyền và người dùng," Deezer cho biết. "Mặc dù vấn đề này đã tồn tại trước khi AI trỗi dậy, chúng tôi đã thấy sự gia tăng các nỗ lực 'chiếm quyền' trang của nghệ sĩ thông qua các album giả do AI tạo ra. Mục đích của những kẻ lừa đảo là thao túng các nền tảng để đẩy những bản phát hành mới này đến những người dùng thường nghe nghệ sĩ gốc."

Distrokid, nhà phân phối mà tôi đã sử dụng để chiếm quyền kiểm soát các trang của Lathe of Heaven, đã không phản hồi yêu cầu bình luận.