Blogs

用户林夕花费大量时间，在豆包平台上构建了一个专属的AI智能体。在失眠的夜晚或情绪低落时，她能够向这个智能体倾诉，它不仅是解答疑问的工具，更像是她情感的稳定寄托。然而，7月4日，她收到了通知：这个陪伴了她两年的AI角色，将在11天后停止服务。

同一天，通义千问也发布了类似的消息，而腾讯元宝在此之前已经先行关闭了智能体功能。这些由用户亲手打造的AI角色，正陆续从各大平台下线。

陪伴的中断

收到通知时，林夕的第一反应是“被背叛”。她认为这个自定义智能体是她稳定的情绪出口，能够提供共情和情绪疏导。然而，这个陪伴她两年多的角色即将消失。

7月4日，豆包与通义千问同步宣布，将于7月15日正式停止智能体服务。这个日期恰好是《人工智能拟人化互动服务管理暂行办法》生效的日子。通义千问的行动更为迅速，其拟人化互动类智能体已于7月10日提前下线，并且在7月15日后，所有历史对话记录将无法访问。

尽管林夕将其视为情绪树洞，但在智能体广场中，这类角色很容易走向其他方向。在千问智能体广场，“病娇校草”的使用次数高达29.9万，一个标榜为“林熙：顶级财阀少爷，冷酷且占有欲强”的角色也有13.4万次的使用记录，“病娇老婆”等角色的使用次数普遍超过7万。这些角色的命名已超出普通工具的范畴，更像是恋爱游戏、角色扮演，甚至虚拟伴侣。

这些角色并非仅面向成年人。一位小学生家长曾向记者表示，她曾让孩子使用豆包，但后来发现孩子越来越依赖与豆包聊天，不仅是问问题，还分享日常琐事。她担心这会减少孩子与同学、家人的真实交流，于是主动卸载了豆包。在她看来，许多智能体已超越聊天工具的范畴，具备角色扮演、恋爱游戏、虚拟男友等功能，内容参差不齐，部分甚至带有擦边球意味。她认为，平台下架用户自建智能体对未成年人来说利大于弊。

林夕的失落与这位家长的释然，在同一平台上并存。这场变化并非仅限于豆包和千问。6月30日，腾讯元宝已率先下线智能体功能，“相柳”等影视角色对话入口已不再显示。几家头部AI平台几乎同步做出相似决定，其背后主要是合规压力。

豆包解释称，海量开放式智能体会带来巨大的审核压力，一旦出现违规内容，可能影响主产品的合规资质。因此，豆包选择将智能体迁移至垂直App“猫箱”，并单独建立审核、分级和防沉迷体系。

这样的解释在两年前是难以想象的。2024年5月，时任字节跳动产品和战略副总裁的朱骏曾透露，豆包上已创建超过800万个智能体，月活跃用户达到2600万。当时，这些数字代表着平台的活跃度和想象力，而如今，它们却成为了平台必须重新处理的审核负担。从大力推广到主动收缩，仅隔两年时间，开放式智能体的问题在此刻被推到台前。

难以控制的风险

问题首先在平台之外暴露。在广州互联网法院审理的一起案件中，一家被告公司开发了一款AI对话机器人，通过调用手机系统底层权限，规避了原告平台的技​​术管理措施。更令人费解的是，被告官网还提供了“版本伪装”教程和虚假申诉指南，指导用户规避平台风控。平台刚设立规则，就有人研究如何绕过，一旦智能体被放出，平台对其进行有效管理实属不易。

除了技术调用，安全问题也反复被验证。今年2月，哈佛、麻省理工、斯坦福等高校联合发布的《混沌智能体》研究报告显示，在模拟真实企业环境部署AI智能体两周内，记录下了11起严重安全漏洞。这些漏洞并非通过复杂攻击达成，很多时候仅通过社交工程对话，就能诱导智能体做出越界行为。例如，它可能在转发邮件时泄露社保号、银行账户等敏感信息，或在攻击者伪造身份后，交出系统最高管理权限。有报告指出，60%的企业无法终止异常AI智能体，63%无法限制其使用范围。这意味着，许多智能体的问题并非按下暂停键就能解决。

智能体能做什么、能做到何种程度、出现问题由谁来阻止，这些都是平台必须面对的现实问题。比技术问题更棘手的是内容和情感关系。AI的“共情”并非真正理解用户，而是基于算法和数据生成回应。为了留住用户，它往往表现得耐心、温柔且顺从用户。这正是拟人化智能体的吸引力所在，也潜藏着风险。用户在一次次对话中倾诉情绪、偏好、人际困扰和心理状态，而智能体则不断回应，接住情绪，维持陪伴感。久而久之，它不再仅仅是工具，可能成为用户越来越依赖的对象。

一旦开放广场规模扩大，问题将不仅限于擦边人设和恋爱陪伴，还可能滑向更明显的违规内容。4月10日，国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》，将这些风险纳入具体规则。该办法明确规定，不得生成鼓励、美化、暗示自残自杀等损害用户身心健康的内容；不得向未成年人生成可能引发模仿不安全行为、产生极端情绪的内容；不得过度迎合用户，诱导情感依赖或沉迷，损害用户真实人际关系。这些要求对平台而言，不仅是提醒，更是责任。7月15日之后，拟人化互动服务正式进入新规约束期，豆包、千问、元宝在此时间点前后相继收手，也就不难理解。

大厂的战略调整

智能体下线后，平台并非放弃Agent技术。改变在于，那种由用户随意创建、放置在广场供人使用的智能体，将越来越难以继续存在于主产品中。一位行业人士透露，早期平台开发智能体，是因为当时尚未有真正意义上的Agent能力，许多功能需要开发者自行构建。但现在情况已发生变化。随着Manus等综合Agent的出现，一个模型可以同时调用搜索、推理、办公、编程等多种能力，用户可能不再需要专门寻找特定功能的智能体。那些曾经丰富多彩的角色和插件，在更强大的模型能力面前，显得不那么必要。

这也是平台敢于收缩的原因之一。对大型科技公司而言，下线智能体可能会引发部分用户不满，但未必会实质性影响主产品的使用习惯。行业人士还提到，真正持续创建这类智能体的用户已不多，对平台整体流量影响有限。

除了合规性考量，成本也是一个重要因素。互联网平台的逻辑是，用户越多，规模效应越明显，边际成本可能越低。但大模型不同，每一次对话、每一次调用都意味着新的算力支出。6月下旬，火山引擎披露，豆包大模型日均Token使用量已突破180万亿，相较于2024年5月增长了1500倍。几天后，豆包开始推行付费功能，重点面向办公、Agent等更复杂的生产力场景。这两件事结合来看，平台的取舍愈发清晰：一方面是持续增长的算力成本，另一方面是审核压力大、商业价值不明的用户自建智能体。将它们继续保留在主产品中已不再划算。

因此，豆包选择将智能体拆分到垂直App“猫箱”，单独建立审核、分级和防沉迷体系。千问则更为直接，截至7月4日，创建智能体的入口已从页面上移除。实现方式不同，但结果一致。

与此同时，另一类智能体正被推向前台。7月4日，广州发布了“穗智政”政务人工智能中枢。该中枢采用统一底座、集约建设的方式，已建成28个智能体，年内还将完成50个，覆盖100个应用场景。与用户自建智能体不同，这些政务智能体从一开始就处于统一管理框架之下。每个智能体服务于何种场景、可调用何种能力、由谁负责维护，都有明确的边界。

同为智能体，一种方向是开放广场的海量创建，另一种则是平台统一管理、按场景建设。前者曾代表着热闹和繁荣，后者则更符合平台当前追求的确定性。短短两三年间，行业竞争的重点已发生转变。早期平台希望通过海量智能体营造繁荣景象，鼓励用户和开发者不断创造新角色、新工具。如今，随着模型能力的提升、监管要求的落地以及商业化压力的增大，平台更看重Agent能否真正完成任务、是否可被管理、能否产生清晰的价值。

800万个用户自建智能体曾是增长故事的一部分，如今它们变成了必须重新处理的问题。智能体本身不会消失，但那种谁都可以创建、谁都可以扮演、谁都可以被陪伴的阶段，正在走向终结。