Meta Engineering

9 篇内容

工程实践Meta Engineering

How We’re Building Scam Alert on WhatsApp With End-to-End Encryption and Verifiability Guarantees

本文介绍 WhatsApp 的 Scam Alert 可选功能,其在设备端运行机器学习模型,对非联系人消息做诈骗分类,不将消息内容上传,也不自动举报。系统遵循仅设备端、无自动上报和用户控制三项原则,核心保障包括基于可信执行环境和差分隐私的机密联邦分析管道,只向 Meta 提供聚合后的告警与用户操作计数。模型发布采用第三方只追加透明账本与匿名下载,防止定向分发,并公开模型权重和客户端日志供独立验证。文中还给出了威胁模型与纵深防御设计,包括 OHTTP 中继、匿名凭证和远程证明等。当前功能处于有限 Beta 阶段,作者强调欢迎安全研究社区反馈,尚未全面上线。

推荐收录。本文不是产品发布,而是给出了从设计原则到技术实现的完整链路:设备端推理、基于 TEE 的机密联邦分析、差分隐私聚合、模型哈希上链与匿名下载、客户端验证和公开权重,且包含威胁模型。对从事隐私保护、安全工程、移动端机器学习或可信分析系统的读者有直接参考价值,其方案与边界可作为同类系统设计的范例。当前仍为有限 Beta,需注意实际生产验证尚不足。

工程实践Meta Engineering

From User Sequences to Scaling Laws: A Multi-Stage Architecture for Meta’s Ads Ranking

本文介绍了 Meta 广告排序系统在大规模序列学习上的两项架构创新:多阶段序列模型将计算密集的离线用户建模与对延迟敏感的在线排序解耦,通过异步处理长用户历史并缓存嵌入,在不线性增加服务资源的前提下提升模型容量;密集 tokenization 和目标感知多头注意力让模型直接从数据中学习稀疏特征与行为序列的交互,取代手动特征工程。该设计带来了可预测的 LLM 式扩展规律,即性能随计算量呈对数线性增长,并总结出模型形状平衡、多阶段可调性、序列组成多样性和语义特征表征四个扩展杠杆。文章给出了在 Instagram 和 Facebook 上的转化率与点击率提升数据,并指出该架构已作为 GEM 模型的核心组件,可泛化至各类广告排序任务。

推荐收录,因为文章不仅公开了关键技术细节(离线/在线解耦、密集 tokenization、目标感知注意力),还系统论证了在广告推荐领域建立起可预测扩展规律的方法与实验证据。对于推荐系统、广告架构及大规模模型服务的工程师和研究者,文中分离建模阶段以平衡复杂度与延迟的思路具有很强的可迁移性,而扩展规律的识别路径可为探索其他大规模机器学习系统提供参考。

工程实践Meta Engineering

GEM Training: How Meta Doubled the Efficiency of Its LLM-Scale Ads Foundation Model

本文介绍了Meta如何将广告推荐基础模型GEM的训练规模提升至LLM级别,并在12个月内将端到端训练效率提升一倍至20-25%模型算力利用率(MFU),同时训练算力规模扩大4倍。文章从计算效率和扩展效率两个维度分别展开:计算效率通过定制化推荐内核库(Jagged Flash Attention、Generalized Dot-Product Attention、BlockAttention)和混合超低精度训练(MXFP8注意力与MLP)实现;扩展效率则依靠拓扑感知的5D并行策略(2D FSDP加专家并行处理稠密参数,全分片2D模型并行处理稀疏参数)配合SM-free通信、自动激活检查点及序列长度感知负载均衡。所提方案针对推荐系统特有的变长序列、非对称交互和数值敏感性等挑战进行了专门设计,其方法论和具体技术对大规模推荐模型训练具有参考价值,但部分优化(如内核定制)与特定GPU架构强相关,迁移时需适配自身硬件和数据特性。

本文是真实的工业级工程案例,完整展示了在数千GPU上训练万亿参数推荐模型的全栈优化过程,涵盖内核、精度、并行、网络和内存的协同设计,而非孤立技巧罗列。适合负责大规模深度学习训练、推荐系统基础设施或GPU性能优化的工程师,可迁移价值在于其将MFU分解为计算效率和扩展效率的分析框架,以及针对混合架构和变长数据的特定解决方案,对类似规模系统的构建与调优具有直接借鉴意义。

工程实践Meta Engineering

Exploring Hierarchical Interest Representation For Meta Ads Deep Funnel Optimization

本文介绍了 Meta 广告漏斗深度优化中的层级兴趣表征系统,旨在通过统一嵌入连接用户、广告主与产品。系统基于大规模异构交互图,融合多模态世界知识(由 LLM 处理)以缓解稀疏信号问题,并采用 Transformer 架构实施层级编码:引入图结构偏差的注意力机制(使用 FlexAttention 实现内存高效计算)、自监督跨视图蒸馏(结合 Sinkhorn-Knopp 均衡)与交互预测联合训练。最终输出通用嵌入和“意义包”离散令牌,可服务于检索、排序等下游任务。文章详细阐述了图构建、在线基础设施、因果性保证与规模化训练流水线,提供了工业级推荐系统在复杂图学习上的工程实践,但方法高度依赖 Meta 内部平台与数据规模,迁移时需考虑领域适配。

推荐收录。本文来自 Meta 工程博客,系统披露了用于大规模广告推荐的上游层级兴趣表征系统,完整覆盖从图构建、多模态知识融合、Transformer 层级编码到在线推理的工程细节,并公开了 FlexAttention、跨视图蒸馏等具体设计决策与缩放经验。适合推荐系统、图学习及大规模 ML 基础设施方向的研究者和工程师参考,可迁移至处理稀疏信号、层级表征与工业级图应用的场景。需注意部分架构深度绑定 Meta 生态,但核心思想与权衡思路具备通用价值。

工程实践Meta Engineering

Modernizing the Meta Ads Service With an Open-Source Kernel Scheduler

文章介绍 Meta 广告服务在 Linux 内核升级至 6.9 时遭遇 EEVDF 调度器导致的延迟回归,影响广告排序。团队利用开源的 sched_ext(BPF 扩展调度框架)构建了面向广告交付的自定义调度策略,通过将 CPU 软分区为延迟关键池和非关键池,并根据负载动态调整池大小,显著提升最后一级缓存局部性。初始部署在最大广告服务器上后,广告检索的 p99 延迟降低 28%,功耗节省 3.28 兆瓦,加权广告排名提升 1.1%,后续两次用户空间策略更新进一步降低延迟并减少超时错误。该方案将调度优化从依赖内核发版的路径中解耦,使迭代周期从数月缩短至数天,并将 sched_ext 从短期修复发展为持续优化平台,同时已上游化至 Linux v6.12。文章未探讨该策略对其他混部负载的公平性影响,且定制策略需依工作负载特性重新设计。

推荐收录,因为它提供了一个完整的高负载服务调度优化工程案例,从问题诊断、基于 sched_ext 的自定义策略实现到量化效果验证,证据充分。适合基础设施、后端性能优化和 SRE 读者,文中展示的软分区、缓存局部性利用以及借助 BPF 快速迭代的方法可迁移至其他延迟敏感系统。

工程实践Meta Engineering

Meta’s AI Storage Blueprint at Scale

文章系统复盘了 Meta 为 AI 工作负载重构 BLOB 存储的过程,目标是同时提升 GPU 利用率与研究迭代速度。旧架构沿用多层状态化元数据与全局默认复制,面对闪存级低延迟和 pMax 要求时,跨层查询与跨地域访问会把元数据延迟放大到毫秒乃至百毫秒级,直接造成 GPU stall。新方案将元数据压平为统一 schema 并由 ZippyDB 支撑,去掉数据面代理,改为客户端 SDK 直接从 Tectonic 拉取数据,同时按区域部署以贴近 GPU。为应对热点和突发流量,文中引入 GPU 主机分布式缓存、read-plan 缓存、hedged read 与动态并发控制,并通过预取、显式 hydration 和分层缓存把跨地域等待降到分钟级。文章也明确了边界:该架构更适合写一次、多次读取的训练数据与检查点场景,未来还需继续解决更高规模的网络上限与推理负载。

推荐收录,因为文章给出了从旧版全局存储到 AI 友好型区域化存储的完整重构证据,包括元数据压平、客户端直连、缓存分层和并发控制等可验证设计。适合做大规模训练存储、GPU 利用率优化和数据分发架构的参考,迁移价值高,但也明确依赖写多读多、可预取的训练型负载。

工程实践Meta Engineering

Privacy-Aware Infrastructure in the AI-Native Era: An Asset Classification Case Study

文章以 Meta 的隐私感知基础设施为案例,讨论在 AI 原生产品中如何做资产分类,核心目标是先准确识别数据“是什么”,再谈保留、访问、共享和匿名化等控制。作者指出仅靠字段名会产生误判,因此系统先汇聚代码解析、血缘、归属、语义注释和使用模式,形成 evidence brief,再让模型处理歧义与冷启动。生产路径采用“确定性规则优先、LLM 兜底”的两段式架构:大部分请求由版本化规则在毫秒级完成,少量新颖或模糊资产才进入模型推理。文章强调评估必须与优化解耦,参考标签不能由模型自举生成,并通过校准、kappa、宏 F1、对抗遮蔽和独立人工复核来防止自我验证。最后,系统把稳定模式蒸馏成可审计、可回放的确定性规则,并用灰度、黑名单和内容寻址发布保证规则升级不会悄然降低保护强度;其边界是依赖高质量上下文、明确政策口径和持续人工治理。

收录理由直接且充分:文章给出了隐私资产分类的完整工程链路,包括上下文聚合、LLM 兜底、规则蒸馏、独立评估与可回放发布,而不是泛泛谈 AI+隐私。适合做隐私治理、AI 基础设施和高风险分类系统的设计参考,但前提是有清晰 taxonomy、人工标注和严格的版本控制。

工程实践Meta Engineering

How Meta Engineered Ultra-Narrow Batteries for AI Glasses

这篇文章围绕 Meta 为 AI 眼镜定制超窄钢壳电池的工程实践,解释了为什么传统软包电池难以适配眼镜镜腿这种极窄空间,以及他们如何通过改变电芯形态、极片结构和制造公差来提升可用体积与峰值供电能力。文中还讨论了双电池系统的同步、交叉充电风险、不同代际产品的容量提升与系统级续航优化,展示了硬件、固件和结构设计协同迭代的思路。

推荐收录,因为它不是单纯的产品宣传,而是给出了在极端尺寸约束下重做电池形态、降低内阻、处理双电池协同的具体工程思路。对可穿戴设备、嵌入式硬件和低功耗系统设计读者都有较强迁移价值。

工程实践Meta Engineering

Adopting AV1 for Real-Time Communication (RTC) at Scale

这篇文章系统复盘了 Meta 在实时通信场景大规模引入 AV1 的全过程,覆盖编码器/解码器选择、移动端功耗与内存约束、二进制体积控制、Android 设备准入、以及基于编码/解码延迟的动态码率与码流切换策略。作者进一步讲解了面向 RTC 的关键质量优化,包括更精确的 CBR rate control、VBV delay 评估、Temporal Layer、自适应 FEC 和 Long-Term Reference 等抗丢包机制,并说明这些设计如何在低带宽、弱网络和低端设备上兼顾清晰度、时延与稳定性。文章最后给出当前覆盖进展与后续扩展到群聊、硬件 AV1 的边界和方向。

推荐收录,因为它不是泛泛介绍 AV1 优势,而是完整呈现了一个大规模 RTC 系统从选型、落地到持续优化的工程路径,尤其适合关注端侧性能、网络适应和多约束权衡的读者。文章对 device eligibility、rate control、error resilience 的处理方式具有较强迁移价值,能为音视频、移动端和实时通信系统提供可复用的方法论。