0粉丝狂卷数十亿播放，靠AI流量欺诈获利近亿！网友：这“刑”得离谱 本播客由扣子空间（coze.cn）一键生成整理｜冬梅、核子可乐 2024 年，全球录制音乐市场迎来里程碑时刻，总收入飙升至 296 亿美元。其中，流媒体经济贡献突出，年收入首次突破 200 亿美元大关。然而，这一蓬勃发展的领域，却因 AI 技术的火爆成为了犯罪分子眼中的 “肥肉”，利用 AI 技术进行的流媒体欺诈问题日益严峻。 利用 AI 诈骗流量，获利千万美元近日，《连线》报道的一起涉嫌利用 AI 欺诈的案件引发热议。 在这起涉及 AI 生成音乐的开创性刑事案件中，一名 52 岁的北卡罗来纳州男子被控利用 AI 创作虚假歌曲，并在 Amazon Music、苹果音乐、Spotify 及 YouTube Music 等音乐平台上进行欺诈性传播以获取非法版税。 去年 9 月 4 日，检察官 Damian Williams 正式对被告人 Michael Smith 提起诉讼，指控其策划一项骗局，共从各热门流媒体平台上非法获取千万美元版税。 检察官 Damian Williams 表示，“据称 Michael Smith 以欺诈方式用 AI 创作歌曲，其播放总量已达数十亿次，产生巨额版税收入。通过明目张胆的欺诈手段，Smith 窃取了大量本应支付给合法音乐家、词曲作者及其他权利人的版税。如今，在联邦调查局及本院检察官的共同努力下，是时候让 Smith 承担责任了。” Smith 被指控利用 AI 创作了数十万首歌曲，并在多个主流音乐平台上发布。之后，他又使用自动账户（即「肉鸡」账户）伪造歌曲播放量。 检察官声称，Smith 的欺诈行为开始于 2017 年。他创建了数千个自动账户，通过编程方式使其持续播放 AI 生成的歌曲。他还买下大量电子邮箱地址，并招募一众海外人员在各种平台上创建听众账户。 起诉书称，“自 2017 年左右至 2024 年，被告人 Michael Smith 策划一项计划，通过欺诈方式增加其 AI 生成作品在 Amazon Music、苹果音乐、Spotify 以及 YouTube Music 等数字流媒体平台（以下简称流媒体平台）的音乐播放量，非法获取数巨额音乐版税。” “Smith 从同谋手中购买了数十万首通过 AI 创作的歌曲，而后上传至流媒体平台。Smith 使用「肉鸡」（自动程序）将这些 AI 生成歌曲播放了数十亿次。” 从起诉书来看，利用这些自动账户外加虚拟专用网络（VPN）模拟不同地理位置，被告人恶意操纵流媒体数据，造成了全球用户都在收听他歌曲的假象。 Smith 承认，他每天可以产生约 66 万 1440 次流媒体播放，每年版税收入超过 120 万美元。为了避免被平台管理员发现，他还将刻意将流量分摊到大量曲目当中。 为了进一步增加利润，Smith 意识到他需要创作更多歌曲。2018 年 12 月 26 日，他给两名同谋发去电子邮件，宣称：“我们需要大量歌曲，才能绕过目前平台上通行的反欺诈政策。” Smith 开始使用 AI 生成音乐来扩展自己的曲目库。他与一家 AI 音乐公司的 CEO 及一位音乐推广人合作，制作了数十万首 AI 生成的曲目。之后，Smith 可以使用“肉鸡”账户以欺诈方式反复播放这些曲目。 刑事诉讼文件显示，该 CEO 知晓这项计划的欺诈意图，但仍定期向 Smith 批量提供 AI 生成的歌曲。这些歌曲往往以随机字母加数字的形式命名。之后，Smith 会为这些曲目指定随机名称，让它们看起来像是由真人、而非 AI 创作。 检察官还强调，被告方会使用高度相似、几乎难以区分的歌曲与艺术家名称来掩盖其行为的恶意本质。 Smith 本人已经于去年 9 月 4 日被捕，预计将在北卡罗来纳州地方法院出庭受审。他面临着电信欺诈共谋、电信欺诈及共谋洗钱等多项指控，任何一项成立都可能判处其最高 20 年监禁。 类似事件还很多过去，一些不法分子常将少量曲目上传至流媒体平台，依靠自动机器人循环播放来骗取版税。可这种手段存在明显漏洞 —— 不知名艺术家的冷门作品，突然斩获数百万播放量，如此异常的数据极易触发平台的警惕。 如今，诈骗者借助 AI 歌曲生成器，向流媒体平台批量投放数百万首假歌曲。不同于以往的 “集中式” 欺诈，这些假歌曲单首播放量仅几千次。这一播放量级，既足以让诈骗者从每首歌中获取版税收益，又因数据表现 “低调”，不易引起平台怀疑与侦查，极大地增加了版权保护与欺诈防范的难度。 Deezer 估计，每天上传到该平台的内容中有 18% 是由人工智能生成的。 国际唱片业联合会（IFPI）全球内容保护与执法总监梅丽莎·莫吉亚（Melissa Morgia）在 2025 年 2 月世界知识产权组织执法咨询委员会（ACE）第十七届会议场外的一个小组讨论会上表示，“人工智能是流媒体欺诈的最终推动者”，因为它可以让不法分子“躲过监管，但仍然可以达到足够的规模，从而使他们的活动有利可图”。 无独有偶， 丹麦媒体去年也披露了一起 “历史性” 案件，一名来自丹麦东日德兰地区的 53 岁男子，因涉嫌通过音乐流媒体网站骗取版税，已经被法院判处一年零六个月有期徒刑，其中三个月需在监狱服刑。 这是丹麦首例此类案件，出于保护隐私，媒体未透露其姓名。 检察官指出，该男子在 2014 年至 2017 年期间，通过人工生成 “数百首” 音乐曲目流，赚取至少 200 万丹麦克朗（约 229,676 英镑）。如此庞大的流量不可能由真实用户产生，极有可能使用了未经授权的技术。 因此奥胡斯法院进一步判定，他侵犯了 37 首曲目的版权，这些曲目均为其他音乐家作品的剪辑版本。 据悉，他盗用其他艺术家的作品，改变其长度和节奏后，以自己的名义出版发行。凭借这些不正当手段，他甚至一度成为丹麦流媒体收入第 46 位最高的作曲家。 除了有期徒刑，法官还没收了 200 万丹麦克朗（约合人民币 209 万元），一半来自于他本人，一半来自于他的公司，并对其另外处以 20 万丹麦克朗（约合人民币 21 万元）的罚款。 这一判决受到音乐家、艺术家、作曲家和版权活动家的广泛欢迎。 丹麦权利联盟首席执行官玛丽亚·弗雷登斯伦德（Maria Fredenslund）评论了此案，她表示：“我们很高兴法院确认流媒体欺诈是严重的犯罪行为。这是一项历史性的判决，它强烈表明了流媒体操纵的严重性。该案还表明，此类欺诈行为是可以发现的，并且版权所有者和相关机构都非常重视这个问题。” 她说，这也为未来树立了一个重要的先例。“这将是一个重要的起点，可以防止未来再次发生类似案件，尤其是在人工智能蓬勃发展的今天。” 丹麦最大的作曲家、词曲作者、作词家和制作人协会 Autor 主席安娜·利德尔 (Anna Lidell) 表示：“这确实是一个重要且具有历史意义的案例，它传达了一个信息：你不能侵犯我们作为词曲作者的权利。” 她补充道：“这个人用作弊手段获得了数百万的收听量，却又通过加速发布歌曲侵犯了版权。这简直是对于那些每天辛苦创作音乐却收入微薄的人来说是一种嘲讽。” 平台不作为？既然此类事件如此频繁，相关平台就没有反击过吗？答案是反击过，但成效甚微。 由 Suno 和 Udio 等人工智能工具生成的歌曲充斥着 Deezer， Deezer 当然也在试图打击这种欺诈行为。 Deezer 今年 2 月表示，用户每天在其平台上添加超过 2 万首完全由人工智能生成的曲目。这些机器人制作的音频目前占“总上传内容”的 18%——几乎是该公司 1 月份公布的 10% 的两倍。 Deezer 首席创新官 Aurelian Herault 表示，人工智能生成的粗俗歌曲泛滥是一个“没有减缓迹象”的问题。 今年 1 月，Deezer 推出了一款检测 AI 生成音乐的工具。该算法可以识别使用几种流行的生成 AI 模型（包括 Suno 和 Udio）创作的歌曲，这些模型可以将基本的文本提示转化为“音乐”。 Herault 表示，得益于该工具，Deezer 已经“从算法推荐中移除了完全由人工智能生成的内容”。该公司在一月份表示，还计划开发一套针对完全由人工智能生成的内容的标签系统。 在业界看来，Deezer 的工具基本上没什么大用，不够强大的防御技术无法抵抗先进的 AI 生成技术带来的攻击。 Deezer 竞争对手平台 Spotify 尚未推出任何类似的工具来追踪 AI 生成的音乐。它也没有尝试对此类内容进行标记，至少没有公开这样做。 Spotify 首席执行官 Daniel Ek 此前曾表示，AI 创作的歌曲在该平台上是可以接受的——除非它们模仿的是真正的艺术家。然而，据多份报告显示，Spotify 在识别和移除这些 AI 模仿作品方面似乎做得很糟糕。 其他音乐流媒体平台，包括 Apple Music、Amazon Music 和 Tidal，对这个话题几乎保持沉默。 流行音乐流媒体平台对此束手无策或许并不令人意外。目前还没有法律来规范人工智能生成歌曲的传播，也没有就哪些类型的人工音乐可以接受或不可接受达成共识。 去年，一群美国唱片公司起诉了 Suno 和 Udio，指控其“大规模”侵犯版权。然而，这两家公司声称，使用受版权保护的音乐来训练他们的模型符合“合理使用”的原则，这是人工智能公司 常见的辩护理由 。 Herault 表示：“生成式人工智能有可能对音乐创作和消费产生积极影响，但我们需要以负责任和谨慎的态度对待这一发展，以维护艺术家和词曲作者的权利和收入，同时为粉丝保持透明度。” 参考链接： https://www.bitdefender.com/en-gb/blog/hotforsecurity/north-carolina-man-charged-with-ai-generated-music-fraud-taking-royalties-of-10-million https://www.wipo.int/web/wipo-magazine/articles/how-ai-generated-songs-are-fueling-the-rise-of-streaming-farms-74310 声明：本文为 AI 前线翻译整理，不代表平台观点，未经许可禁止转载。 活动推荐6 月 27～28 日的 AICon 北京站将继续聚焦 AI 技术的前沿突破与产业落地，围绕 AI Agent 构建、多模态应用、大模型推理性能优化、数据智能实践、AI 产品创新等热门议题，深入探讨技术与应用融合的最新趋势。欢迎持续关注，和我们一起探索 AI 应用的无限可能！ 今日荐文 被高薪吸引却遭愚弄！科学家怒曝AI科研黑幕：多为个人“捞金”，DeepMind百万成果是“垃圾” 新存1000万，为客户子女提供实习机会？字节等回应；宇树更名，王兴兴曾称或赴港上市；韦神新成果正式命名“韦东奕定律” | AI周报 Redis 之父：哪怕被喷我也得说，AI 远远落后于人类程序员！开发者跟评：用大模型气得我自己写代码都有劲儿了 AI生图迎来大升级：图像编辑达到像素级！背后团队大多来自Stable Diffusion模型基础技术发明团队 “炸穿”英伟达财报！因H20“滞销”痛失300亿，老黄气晕：DeepSeek、Qwen用美平台就赢了 你也「在看」吗？??