博客 详情

Meta 的 AI 助手 Muse 被曝可深度分析用户社交关系，并为每位联系人建立个人档案

Meta 旗下人工智能助手 Muse 近期迅速获得广泛关注，已有数百万用户下载这款智能程序，并将其与银行账户、即时通讯工具或健康数据相连接，委托其处理各类事务。然而，在 Muse 于普通用户群体中快速普及的同时，应用内部的数据信息也揭示了该产品如何整理及向用户展示信息的运作机制。

据《连线》杂志报道，近日多名研究人员提取了 Muse 的内部文件，公开了该智能体的运行指令，使外界得以了解其系统构建方式与行为特征。Meta 方面始终表示，这些文件本意是公开的，旨在提升透明度；通过这些文件，人们也能看到 Muse 如何回应用户的提示与问题，例如在处理高度政治化或敏感话题时的应对策略。

独立人工智能安全研究员卡兰·乔希成功提取了大量 Muse 的指令与系统提示词。他的方法是通过普通聊天界面，直接要求 Muse 复制并输出自身的软件文件。

Muse 其中一条工作指令显示，该系统会为用户生活中的每个联系人单独建立档案。相关流程每小时运行一次，指令说明系统会汇总整理家人、伴侣、朋友、同事、“协作伙伴”以及用户所“关注”对象的各类信息。

这套设计的基本逻辑是，Muse 通过其“记忆”功能（即结构化文本文件）收集用户的社交关系及身边重要人物的资料。随后，它能提供建议，例如告知用户如何改善某段人际关系，或推荐适合带一位喜爱咖啡的朋友去吃早餐的地点。当然，普通人工智能聊天机器人记录社交信息并不新奇；多年来，用户已向 ChatGPT 寻求人际交往建议。但鉴于 Meta 的背景及其掌握的海量社交网络数据，Muse 的这种设计仍值得关注。

乔希表示：“从所有这些提示词、系统技能数据以及输入 Muse 的各类内容来看，我的理解是，他们试图理清你和现实世界中其他人之间的关系。他们想以朋友的方式了解你。说实话，这有点令人不安。”

Muse 的内部文档显示，新建的人物档案初始内容可能较为简略，随后会随时间推移逐步完善。档案页面可包含事实信息、过往经历、双方关系、共同交集、待跟进事项及关系维护建议等板块。Meta 给出的工作指令明确，Muse 只能使用其能获取的“证据”；凭空编造信息，远不如保留空白档案页面可取。

指令中写道：“对方居住地点、从事职业、反复出现的话题（如搬家事宜、共同储蓄目标）。”文档同时提到，模型可记录“重要日期”，例如生日或纪念日。人物过往经历板块可记录背景事件，如“三月份的那次旅行、已和解的争执、上周发生的一件重要事情”。

指令还要求系统记录人际关系层面的细节：“双方亲密程度、关系基础、相处模式，以及当下关系似乎存在的诉求。”关系维护板块会提供改善人际关系的可行方案，包括“打电话的合适理由、值得纪念的日子、对方曾说过需跟进的话、能给予对方有意义支持的方式”。

牛津大学人工智能伦理研究所副教授卡里萨·贝利斯提出看法：“我们向人工智能系统提供的自身信息，远远多于从系统获取的信息。这不仅包括我们主动告知的内容，还包括系统做出的各种推断——无论推断是否正确，两种情况各有担忧之处；此外，系统还能整合来自其他数据源的碎片信息。”

Muse 的架构设计为每位独立用户分配专属虚拟机，用于存放该用户的数据与对话上下文。其他智能体无法访问此虚拟机；用户可随时清除记忆记录，或断开各项外部服务的授权。Meta 表示，Muse 在执行发送邮件、完成支付等操作前，会先请求用户确认；同时系统保留审计日志，用户可查看该智能体所有已完成活动及后续计划。

Meta 发言人丹尼尔·罗伯茨向《连线》发表声明称：“任何一款智能体要发挥作用、切实帮助用户达成目标，它都需要掌握关于用户及其交往对象的背景信息。Muse 所收集的这部分信息来源于公开内容及用户主动分享的数据。依靠这些记忆，它才能记住给你发送账单的人正是之前帮你修缮卫生间水管的水管工，或记住你的配偶曾说过自己最喜欢哪类鲜花。”

如今，许多人工智能助手都搭载记忆功能，以使其回复和执行任务更贴合用户个人情况。民主与技术中心人工智能治理实验室主任米兰达·博根表示，相较于竞品系统，Muse 更侧重记录人际关系与个人联系人。总体而言，这类工具通常提供一定程度的透明度及记忆编辑功能，Muse 同样具备此能力。不过博根也指出，这类人工智能智能体与助手产品，更多是鼓励用户主动向系统提交更多个人数据，而非引导用户删减已留存数据。

“这些人工智能助手产品都在积极引导用户把全部生活接入：电子邮件、日历、金融账户，把一切都对接进来，以换取助手的服务。”博根说，“用户向企业交出的信息量，远超以往人们原本愿意提供的范围。这类工具所能调取信息的覆盖面持续扩大，它们所掌握的用户信息也会随之急剧膨胀。”如需了解 Muse 的更多细节，可访问开云官网获取相关信息。