X’s Original-Content Incentives Could Fuel an AI Slop Surge

“AI垃圾”与“深度伪造”或“AI幻觉”虽有重叠，却并不相同，其区别在于意图与质量。 &sp; “深度伪造”指利用AI伪造或篡改影音，目的在于欺骗，从虚假政治演讲到诈骗语音皆属此类，其关键在于以假乱真。“AI幻觉”则属技术错误，聊天机器人可能引用不存在的研究，或编造法律案例，本质是模型在预测词语时出现了偏差。而“AI垃圾”范围更广，也更随意：当人们用AI批量生产内容却疏于核对准确性与逻辑时，便会产生此类垃圾。它们堵塞信息渠道，抬高广告收益，用重复无意义的内容占据搜索结果。其错误源于敷衍，而非欺骗或技术局限。 　　技术滥用与贪婪心态成推手 　　“AI垃圾”之所以泛滥，一方面因为AI技术日益强大且成本低廉。AI公司开发这些模型，本意是降低创作门槛，让有好点子却缺乏技能或资源的人也能制作出更优质的内容。然而，有些人却滥用AI工具海量生成文本、图片与视频，只为博取点击和广告收入。 　　随着ChatGPT、Gemini、Claude等工具，尤其是Sora、Veo这类新型生成器的出现，几秒内生成可读文本、图像与视频已成为可能。于是，内容农场应运而生。一些人发现，用AI填充网站、社交动态和YouTube频道，远比人工创作更快。 　　AI不在意真相、品位或原创性，它只关注概率。这使得“AI垃圾”易于制作，迅速传播。例如，某个YouTube频道仅凭4个视频，就积累了420万订阅和数亿播放量。 　　平台也在无形中助推此风。算法往往更看重内容的点击与互动数据，而非质量。发布越频繁，获得关注就越多，哪怕内容纯属胡扯。AI让这类操作变得易如反掌。 　　另一方面，利益亦是幕后推手。有些创作者大量发布虚假名人消息或夹带广告的标题党视频；也有人滥用AI内容误导用户，将其引向劣质网站。 [...] 乍看之下，“AI垃圾”似乎无伤大雅——无非是动态里几条劣质帖子，或许还能博人一笑。然而当数量爆发，一切便会不同。随着垃圾信息充斥网络，可信来源在搜索结果中排名下降，真实与虚构的界限也变得模糊。 　　这种信任危机带来切实后果：当无人能辨真假，错误信息便传得更快。 　　应珍视人类的真诚创作 　　目前尚未有完美解决方案，但一些企业已开始尝试。 　　例如，Spotify等平台开始为AI生成内容添加标签，并调整算法以降低劣质内容的推荐权重。谷歌、抖音与OpenAI等公司也承诺推出水印系统，帮助

问题不在于人工智能内容本身就不诚实。事实上，大部分人工智能内容都是诚实的。问题在于，用于创建逼真合成内容的工具发展速度远远超过了用于识别此类内容的工具，而用于弥补这一差距的社会基础设施——媒体素养、平台政策、监管框架——仍在追赶之中。 X 正在构建的体系，尽管目前尚不完善，但它预示着整个行业的未来发展方向：内容来源将被标记、可检测，并日益成为人们的预期。那些将这一未来视为义务而非麻烦的品牌、创作者和平台，将比那些等待强制措施迫使其行动的人更有优势。 对于任何在社交媒体领域运作的人来说——无论是营销人员、内容创作者、记者还是平台建设者——这些发展都值得认真对待。这并非因为任何单一功能会在一夜之间改变一切，而是因为发展方向已经明确，监管期限迫在眉睫，而在此之前建立真正透明机制的窗口期正在迅速缩小。 ## 关于ALM公司 ALM公司 是一家提供全方位服务的数字营销机构，已为客户创造了超过7亿美元的销售额，上线了超过5,700个网站，并为各行各业的企业带来了超过1万条优质销售线索。我们的业务涵盖搜索引擎优化 (SEO)、付费媒体、社交媒体策略、内容创作、网站开发、数据分析和品牌建设——所有这些服务都被整合到以可衡量成果为核心的整体策略中。 本文探讨的发展趋势与我们日常工作息息相关：帮助品牌驾驭瞬息万变的社交媒体平台，而大多数企业自身却难以追踪这些变化。随着X平台和其他平台正式提出人工智能内容披露要求，那些拥有清晰、完善的内容真实性实践的品牌，才能保住信任度、扩大影响力并赢得广告商的信赖。这并非仅仅是为了合规，而是一项战略优势。 [...] 此外，还有更长远的考量。创作者的信任建立在用户感知到的真实性之上。X平台上的用户越来越能够识别人工智能生成的内容，而平台的标签系统也会随着时间的推移增强这种能力。对人工智能使用保持透明的创作者实际上可能会加强与粉丝的关系，而那些欺骗性地使用人工智能并被抓获的创作者则面临着远超平台处罚范围的声誉损害。 ## 分享前摩擦的行为科学 值得探究的是，预先分享提醒方法在理论上为何是合理的，因为其背后的设计逻辑借鉴了大量的行为研究。 这种方法之所以前景可期，其核心发现在于：大多数人分享错误信息并非因为他们认为信息是假的，而是因为在点击分享按钮的那一刻，他们并没有仔细思考信息的真伪。2021年发表在《自然》杂志上的一项研究发现，仅仅要求

# AI劣质内容正在重塑社交媒体，且正遭遇反噬 A treated image of a cat - one half is real, and the other is AI-generated 泰奥多（Théodore）记得那张把他逼到濒临崩溃的人工智能（AI）劣质图片。 那是一张两名瘦骨嶙峋、极度贫困的南亚儿童的影像。奇怪的是，尽管看得出仍是男孩年纪，他们却留着浓密的胡须。其中一人没有双手且只有一只脚；另一人手里拿着一个牌子，写着今天是他的生日并请求按赞。 他们莫名其妙地坐在大雨滂沱、车流繁忙的马路正中央，面前还摆着一个生日蛋糕。整张图充满由AI生成的各种“破绽”；但在脸书（Facebook）上它却爆红了，拿到将近100万个赞与爱心表情。 泰奥多有些崩溃。 “这让我大开眼界。那些荒谬的AI生成影像铺天盖地地出现在脸书上，毫无审查却获得巨大关注，在我看来实在不可思议。”这位来自巴黎的20岁学生说。 泰奥多在X上开设了名为“Insane AI Slop”（变态的AI垃圾）的帐号，开始点名并讽刺那些正在欺骗大众的内容。其他人注意到了，他的收件匣很快就被各种热门“AI 劣质内容”的投稿淹没。 左：泰奥多 右：一张由 AI 生成的图片，内容为两名儿童坐在马路中央，面前放着一个生日蛋糕 常见题材逐渐浮现——宗教、军事，或让人感到窝心的贫困儿童。 “第三世界孩子做出惊人事情，向来很受欢迎——比如非洲某个贫困孩子用垃圾做出超厉害的雕像。我想人们觉得这很暖心，所以创作者就想：‘太好了，继续编吧。’”泰奥多说。 [...] 扎克伯格说：“很快我们将看到大量新的媒体形式爆发，这些更沉浸、更互动的形式只有因为AI的发展才成为可能。” YouTube首席执行官尼尔・莫汉（Neal Mohan）在2026年的展望贴文中写道，仅在12月，就有超过100万个YouTube频道使用平台的AI工具制作内容。 “正如合成器、Photoshop与CGI革新了声音和视觉，AI将造福那些准备拥抱它的创作者。”他写道。 他也承认，对“低品质内容，即AI劣质内容”的担忧正在升高。他表示团队正改进系统，以找出并移除“低品质、重复性内容”。 扎克伯格在演讲 图像来源，Reuters 但他也排除由平台判断哪些内容该被压抑或扶植，指出曾经小众的ASMR（让头皮发麻的舒缓声响）与游戏直

# AI劣質內容正在重塑社交媒體，且正遭遇反噬 A treated image of a cat - one half is real, and the other is AI-generated 泰奧多（Théodore）記得那張把他逼到瀕臨崩潰的人工智能（AI）劣質圖片。 那是一張兩名瘦骨嶙峋、極度貧困的南亞兒童的影像。奇怪的是，儘管看得出仍是男孩年紀，他們卻留著濃密的鬍鬚。其中一人沒有雙手且只有一隻腳；另一人手裡拿著一個牌子，寫著今天是他的生日並請求按讚。 他們莫名其妙地坐在大雨滂沱、車流繁忙的馬路正中央，面前還擺著一個生日蛋糕。整張圖充滿由AI生成的各種「破綻」；但在臉書（Facebook）上它卻爆紅了，拿到將近100萬個讚與愛心表情。 泰奧多有些崩潰。 「這讓我大開眼界。那些荒謬的AI生成影像鋪天蓋地地出現在臉書上，毫無審查卻獲得巨大關注，在我看來實在不可思議。」這位來自巴黎的20歲學生說。 泰奧多在X上開設了名為「Insane AI Slop」（變態的AI垃圾）的帳號，開始點名並諷刺那些正在欺騙大眾的內容。其他人注意到了，他的收件匣很快就被各種熱門「AI 劣質內容」的投稿淹沒。 左：泰奧多 右：一張由 AI 生成的圖片，內容為兩名兒童坐在馬路中央，面前放著一個生日蛋糕 常見題材逐漸浮現——宗教、軍事，或讓人感到窩心的貧困兒童。 「第三世界孩子做出驚人事情，向來很受歡迎——比如非洲某個貧困孩子用垃圾做出超厲害的雕像。我想人們覺得這很暖心，所以創作者就想：『太好了，繼續編吧。』」泰奧多說。 [...] 扎克伯格說：「很快我們將看到大量新的媒體形式爆發，這些更沉浸、更互動的形式只有因為AI的發展才成為可能。」 YouTube首席執行官尼爾・莫漢（Neal Mohan）在2026年的展望貼文中寫道，僅在12月，就有超過100萬個YouTube頻道使用平台的AI工具製作內容。 「正如合成器、Photoshop與CGI革新了聲音和視覺，AI將造福那些準備擁抱它的創作者。」他寫道。 他也承認，對「低品質內容，即AI劣質內容」的擔憂正在升高。他表示團隊正改進系統，以找出並移除「低品質、重複性內容」。 扎克伯格在演講 圖像來源，Reuters 但他也排除由平台判斷哪些內容該被壓抑或扶植，指出曾經小眾的ASMR（讓頭皮發麻的舒緩聲響）與遊戲直

# 人工智能正在摧毁互联网内容生态系统 互联网 GoUpSec 2024-05-10 苹果公司的新iPadPro的广告展示了一台巨型工业液压机如何将人类文化艺术的标志性器具（乐器、书籍、绘画材料等）无情碾压成粉末。该广告一经播出引发了全球文化界的广泛声讨。 美国电影制片人贾斯汀·贝特曼在X上写道：“为什么苹果要做一则碾压艺术的广告？科技和人工智能意味着摧毁整个艺术和社会！”硅谷投资人保罗·格雷厄姆指出：“乔布斯绝不会（允许）发布这样的广告。” 新iPad Pro广告之所以恶评如潮，是因为今天的内容创作者和艺术家普遍面临人工智能的无情剽窃、剥削和挤压。更糟糕的是，人工智能对人类智力活动和文化艺术创作的粗暴碾压，让整个互联网文明陷入了一场空前的生态危机。 在抖音、头条、小红书、X、Facebook上，随处可见AI规模化生成的引流内容，这些内容（包括文章、图片、语音和视频合成）大多并未标注AI标签。虽然近日TikTok宣布将自动标记所有AI生成内容（采用跨行业组织内容来源和真实性联盟C2PA创建的数字水印来识别和标记）。OpenAI也于今年早些时候开始使用内容凭证技术，并计划在未来向公众发布的视频创作人工智能技术Sora中也加入该技术。 但是更多的社交媒体平台对AI生成内容依然缺乏严格的检测、标记和管控措施，导致相关法规（例如工信部的生成式人工智能暂行管理办法）形同虚设。 近日，密码学家布鲁斯施奈尔撰文指出，随着生成式人工智能技术的野蛮生长和泛滥，互联网的原生优质内容生态正在被大规模生产的人工智能合成内容充斥和占领，如果互联网巨头不及时采取行动，我们可能会失去我们所知的互联网，并陷入一个由AI生成的垃圾内容主导的黑暗时代。

“AI垃圾”与“深度伪造”或“AI幻觉”虽有重叠，却并不相同，其区别在于意图与质量。 “深度伪造”指利用AI伪造或篡改影音，目的在于欺骗，从虚假政治演讲到诈骗语音皆属此类，其关键在于以假乱真。“AI幻觉”则属技术错误，聊天机器人可能引用不存在的研究，或编造法律案例，本质是模型在预测词语时出现了偏差。而“AI垃圾”范围更广，也更随意：当人们用AI批量生产内容却疏于核对准确性与逻辑时，便会产生此类垃圾。它们堵塞信息渠道，抬高广告收益，用重复无意义的内容占据搜索结果。其错误源于敷衍，而非欺骗或技术局限。 技术滥用与人性贪婪成推手 “AI垃圾”之所以泛滥，一方面因为AI技术日益强大且成本低廉。AI公司开发这些模型，本意是降低创作门槛，让有好点子却缺乏技能或资源的人也能制作出更优质的内容。然而，有些人却滥用AI工具海量生成文本、图片与视频，只为博取点击和广告收入。 随着ChatGPT、Gemini、Claude等工具，尤其是Sora、Veo这类新型生成器的出现，几秒内生成可读文本、图像与视频已成为可能。于是，内容农场应运而生。一些人发现，用AI填充网站、社交动态和YouTube频道，远比人工创作更快。 AI不在意真相、品位或原创性，它只关注概率。这使得“AI垃圾”易于制作，迅速传播。例如，某个YouTube频道仅凭4个视频，就积累了420万订阅和数亿播放量。 平台也在无形中助推此风。算法往往更看重内容的点击与互动数据，而非质量。发布越频繁，获得关注就越多，哪怕内容纯属胡扯。AI让这类操作变得易如反掌。 利益亦是幕后推手。有些创作者大量发布虚假名人消息或夹带广告的标题党视频；也有人滥用AI内容误导用户，将其引向劣质网站。 [...] 乍看之下，“AI垃圾”似乎无伤大雅——无非是动态里几条劣质帖子，或许还能博人一笑。然而当数量爆发，一切便会不同。随着垃圾信息充斥网络，可信来源在搜索结果中排名下降，真实与虚构的界限也变得模糊。 这种信任危机带来切实后果：当无人能辨真假，错误信息便传得更快。 应珍视人类的真诚创作 目前尚未有完美解决方案，但一些企业已开始尝试。 例如，Spotify等平台开始为AI生成内容添加标签，并调整算法以降低劣质内容的推荐权重。谷歌、抖音与OpenAI等公司也承诺推出水印系统，帮助用户区分人工内容与合成内容。不过，若有人对内容进行截图、转码