Meta「模型能力计划」翻车:数据泄露引信任危机,项目存亡成谜

Meta悄然上线「模型能力计划」,目的为何?

2026年4月,Meta在美国办公室悄然上线了一个名为「模型能力计划」(Model Compatibility Initiative,简称MCI)的内部项目。项目旨在通过记录员工的键盘输入、鼠标移动轨迹、点击位置和屏幕截图,来训练AI系统像人类一样操作计算机软件。Meta高管认为,最好的AI训练数据,来自观察最优秀的员工如何工作。

「模型能力计划」为何翻车?

两个月后,该项目以近乎黑色幽默的方式翻车。约4.5万张包含员工私人数据的数据表因访问控制配置错误,被暴露给公司内部任何可能搜索到它们的人。6月22日,Meta宣布无限期暂停MCI。

此次数据泄露涉及哪些敏感数据?

根据WIRED获得的内部安全通知和技术媒体Computerworld的独立报道,这起事件涉及的敏感数据远超一般意义上的「工作监控」。被暴露的数据表不仅包含完整的AI提示词和转录文本,还涉及私人对话、人事和绩效数据,甚至有个别员工的个人税务和医疗信息。一名了解内情的前员工称这场事故为「一团糟」,并表示员工早就预料到这样的泄露会发生,因为领导层无视工人对数据和隐私安全的警告。

安全漏洞是如何发现和处理的?

安全事件最早于6月18日被一名Meta工程师察觉并上报,Meta的AI研究副总裁Stephane Kasriel称漏洞在4小时内被修复。但初次修复未真正解决问题,数据访问权限随后被再次发现存在缺口,需要进一步收紧。Kasriel宣布暂停MCI项目,并表示只有对数据保护控制的有效性有信心时,才会重新启用MCI。他还暗示MCI的暂停可能不仅仅是安全问题的临时补救,而可能是项目本身的存亡问题。

员工为何请愿停止「模型能力计划」?

早在安全漏洞发生之前,已有超过1600名Meta员工签署内部请愿书,要求停止MCI。员工的核心诉求集中在隐私、安全和自由三个层面:没有人愿意自己的每一次键盘敲击和屏幕内容都被记录和分析;集中存储大量敏感行为数据会增加攻击面和泄露风险;项目启动时员工无法选择退出,抗议后才开放有限的opt - out选项。

Meta CTO如何看待此次事件?

Meta的CTO Andrew Bosworth在内部承认,项目的实际执行未能达到隐私审查文件中列出的标准,问题出在访问控制列表的配置上。这意味着风险早在启动前就被识别和记录在案,但在执行层面被遗漏或忽视了。

「模型能力计划」存在哪些法律风险?

专家指出MCI项目可能违反欧洲GDPR法规,尤其是在未获充分同意的情况下收集员工行为数据。Meta还受到美国FTC一项有效期至2040年的同意令约束,若FTC认定MCI的安全事故违反该条款,Meta将面临新的监管制裁。分析师Carmi Levy称Meta的数据保护措施「纸一样薄」,Tom Findling则指出Meta似乎「试图假装他们不明白这些数据有多么敏感」。

「模型能力计划」事件揭示了什么深层问题?

MCI事件揭示了一个更深层的问题:当AI训练需要的数据来自公司内部,员工就同时成为了训练数据的「原材料」和隐私风险的「承担者」。为训练AI Agent,Meta采集的真实行为数据在泄露时会涉及员工隐私。分析师Fritz Jean - Louis将此次事件定性为「AI时代数据策略中的经典失败模式」。

「模型能力计划」折射出AI行业怎样的紧张关系?

这一事件折射出AI行业正在酝酿的紧张关系:科技公司一方面大规模采集用户数据训练面向外部的AI产品,另一方面将同样逻辑应用于内部,把员工视为「可采集的数据源」。Meta在用户隐私方面历史记录不佳,此次数据治理缺陷反噬员工,消解了内部信任。

员工行为监控现状如何?「模型能力计划」有何不同?

随着AI Agent和自动化工具在企业中的部署越来越广,员工行为监控成为快速增长的灰色地带。微软的Viva Insights、亚马逊的仓库员工追踪系统等都涉及行为数据采集。MCI的不同之处在于规模(键盘级别的记录加上屏幕截图的持续采集)和目标(训练AI替代人类操作),这让Meta员工担心自己会被用来训练取代自己工作的AI,这种恐惧在漏洞曝光后被成倍放大。

「模型能力计划」的讽刺细节说明了什么?

WIRED报道提到,当Meta向媒体确认暂停MCI几个小时后,一些员工发现监控工具仍在他们的笔记本电脑上运行。对内部员工的通知滞后于对外部的公开声明,这种优先级排序似乎说明了很多事情。

Meta的「模型能力计划」未来走向如何?

Kasriel表示公司已「收集了足够的数据来评估MCI的长期价值」,这可解读为项目已完成初始数据采集阶段,暂停代价或许没那么大。但1600名签了请愿书的员工和数据被暴露的员工可能不会轻易翻篇。信任的建立需要数年,崩塌只需要一次配置错误,Meta要重建的不仅是访问控制列表。Meta的故事将走向何方?

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值