微信内测"小微AI社交"——你的AI问候朋友，朋友的AI替你回复，双方甚至不知道这次对话发生过。当AI访问网站的次数已超过真人，互联网正在变成"AI找AI生成的内容、AI读AI写的文本、AI再生成更多AI内容"的闭环。实验显示，模型用自身输出循环训练九轮后，"中世纪建筑"变成了"彩色杰克兔"。 ———— / BEGIN / ———— 你有没有感觉，网上的活人正在消失？ 你可能会反驳，不对啊，刚才我还给朋友发微信了，总不能我朋友不是活人吧？ 现在你还可以这么反驳我，但以后你就面对这个问题：回复你消息的，未必是你的活人朋友，反而有可能是AI。 因为微信正在内测一个叫“小微AI社交”的功能。 具体来说，如果有个朋友你好久没有联系，又想打个招呼，了解一下最近他过得好不好。 很久不见，发这样的消息你会感到有点尴尬，就完全可以把这件事交给“小微AI社交”，让它发消息，它就会去找对方账号上的另一个小微，替你把话问清楚，再把答案带回来。 你的老朋友甚至可能不知道你最近问候过他，因为消息是你的AI发的，回复的是他的AI。 虽然你的朋友没有在这个过程中亲自回复你，甚至未必知道有这么一次打招呼，但对面的AI可能深度学习你朋友的聊天记录，对你朋友相当了解，所以回复的信息有相当准确度。 在这段对话里，问话的和回话的都不是人了，网上社交这种原本应该人和人之间的交流，都可以把人排除出去。 就更不用说网络世界的其他部分了，你看到的任何网上内容甚至操作，都有可能出自AI。 当AI还处在聊天阶段的2024年底，网上AI生成内容就已经超越人类创作内容，这还没算用AI生成初稿然后人类修改的部分内容，AI生产的东西就已经在网上比人出产的多了。 去年下半年开始，OpenClaw等智能体更加自动地帮人类做事情，其中就包括搜索网页、操控电脑等。到了今年，AI访问网站的次数都比真人多了。 我们现在的网络，就是AI找由AI编程生成的网页和App，AI阅读由AI生成的文本、图片，最后继续由AI生成更多代码、文字、图片等等，人啥都不用做，提个要求，就拿到了大结果。 这听上去好像还不错，不需要人费尽心思，AI就能帮人把活都干了。 但这也有问题。 AI学习的材料来自人类的创造，可如今人类的创造在网上，这个AI最容易接触的领域，正在变得越来越少。 久而久之，AI只能拿AI生成的内容训练下一代AI，整个系统开始近亲繁殖。 当AI用AI生成的内容来训练自己，每一次都会损失一点信息，特别是那些罕见但重要的尾部数据。 这些数据里可能含有重要的信息，每次丢掉一点，循环多次就会造成巨大失真。 有实验表明，某款小模型在用自己生成的内容循环训练下一代AI时，只需要九轮循环，输入和中世纪建筑相关的提示词，输出就变成了大量的“黑尾杰克兔、白尾杰克兔、蓝尾杰克兔、红尾杰克兔、黄尾杰克兔”这样和主题毫无关系，也不知道在说什么的彩色杰克兔。 可以想象，若是网上都只有AI的内容，活人销声匿迹，那么很快，AI用网上AI产生的内容训练多轮，产生的东西就会变得非常离谱。 而且是千篇一律的离谱。 活人感太重要了，正是这些粗糙、模糊、离经叛道的东西代表着人类的真实。如果活人在网上不复存在，那么AI也会崩塌。 为了防止这种恐怖的未来，我想应该有两条路。 一条路是让AI不再只存在于网上，而是让AI有身体有手足有感官，与真实世界互动，理解真实世界的物理规律，不至于像现在AI生成的视频那样经常出现违背物理规律的动作。 这就涉及到具身智能“大脑”发展了，而具身智能的实现可能还要耗费很多年。 AI发展造成很多人失业，但是人类内容在网上必不可少，就能导出另一条路，AI承担大量工作的同时，产出足够保证人类的最低生活标准，全民发放基础的生活所需，鼓励所有人把生活记录和日常创造发到网上，供AI训练，最终实现AI与人类的共生。 AI已经改变了生产力，但是调整与其适应的生产关系还需要摸索。 参考资料： AI 开始「互发微信」了，谁来管管它们？| AI 器物志 https://mp.weixin.qq.com/s/xAcr5lyKKTcqhbOdvrru5A AI等机器网络请求量，首超人类 https://mp.weixin.qq.com/s/CFVjTDJdB1YkSnH17rXC9w AI内容首次超越人类创作，占互联网英文内容半数以上_TechWeb https://www.techweb.com.cn/it/2025-10-29/2967327.shtml?sessionid= 警惕！我们正在被“生病”的 AI 包围…… https://mp.weixin.qq.com/s/Qfw7BO8iPN1UpgfTO4Jqaw 本文来自公众号：非凡油条 作者：豆腐乳儿 特别