Meta Engineering

16 篇内容

工程实践Meta Engineering

Bringing Private Processing to Meta AI Glasses

文章介绍 Meta 将 Private Processing 扩展到 AI 眼镜的工程方案:因眼镜本地算力有限且 AI 助手需长期有状态与个性化,计算必须上云,但传统云架构会在使用时暴露内存数据。Meta 基于 CPU/GPU 的 TEE 与机密虚拟机 CVM,让模型在硬件隔离环境中执行,并提出硬件隔离、失败关闭、公开可验证、不可定向和加密存储五项要求。请求路径通过盲签名令牌与第三方 OHTTP 中继解耦身份,设备用 RA-TLS 远程证明核对二进制哈希与公开透明账本,数据仅在 TEE 内处理。持久化存储被放入 TEE 边界,以避免访问模式泄露与远程加密查询性能崩溃;可观测性只能依赖聚合健康指标。文章还说明第三方审计与漏洞奖励,但未给出性能数据、实现细节和失败案例,且方案与 Meta 基础设施强绑定。

推荐收录。文章不是产品发布稿,而是给出了可验证的隐私计算系统设计证据:五项工程要求、盲签名令牌/OHTTP 非定向路由、RA-TLS 证明与公开账本、TEE 内加密存储,以及在无法调试环境下的聚合可观测性方案。对做 AI 基础设施、隐私/安全架构和机密计算的读者,这些信任边界与运维取舍有迁移价值;不足是缺少性能数据和更细的实现验证。

工程实践Meta Engineering

Open-Sourcing Rebalancer: A Generic, High-Performance Library for Solving Assignment Problems

Meta 开源了内部使用九年多的通用指派问题求解库 Rebalancer,并配套 OSDI'24 论文。文章把指派问题抽象为对象、箱子、约束与目标,核心设计是解耦问题描述与求解过程:先用维度、分区、作用域、利用率等建模原语刻画现实策略,再通过表达式 API 与高层 spec API 表达约束和目标,最终编译成表达式图 DAG。求解提供两条路径:最优解器把图翻译成 MIP,靠变量聚合、可互换性与对称性破缺压缩模型,最坏规模为 O(|objects|*|bins|);局部搜索解器直接在图上游走,邻域最坏 O(|objects|+|bins|),可并行、每秒数百万次评估并支持剪枝。文中给出生产数据(每日约 4000 万次求解、30 多种问题形式、P99 12 秒)以及调试用 Web UI Rebalancer Explorer,并以 Apache 2.0 开源。

推荐收录:文章提供了可复用的优化系统设计证据——描述与求解解耦的建模原语、表达式图,以及 MIP 与局部搜索两条路径的复杂度、规模上限和选型建议,还有每日 4000 万次求解、P99 12 秒等生产数据与 OSDI'24 论文支撑。适合从事资源调度、容量规划、负载均衡和组合优化落地的工程与算法读者,其中“先用最优解器原型、再迁移到局部搜索”的经验可直接迁移。

工程实践Meta Engineering

Inside Petal: Building the World’s First Petabit-Class Transoceanic Subsea Cable

Meta 介绍规划中的跨洋海缆 Petal:连接法国与美国约 7000 公里,目标 2029 年投运,实现 1 Pbps 容量,成为首个皮比特级跨洋系统。其核心是采用 2-core fiber,在 24 光纤对中达到等效 48 对的空分复用容量,并通过超纯石英、折射率控制和反向传输来降低衰减与串扰。中继器使用 96 芯单体内放大和 FIFO 将双芯转换为单芯再恢复,结合泵浦共享把功耗控制在 18 kV 供电限制内。文章还梳理从 Marea、Amitié、Anjana 到 Petal 的容量演进及 NEC、住友电工、Orange 的分工。不足是公告性强,缺少独立测试、成本和长期运维数据。

推荐收录。文章虽带有 Meta 基础设施发布色彩,但给出了 Petal 的容量目标、2-core fiber 与 24 对光纤等效 48 对的 SDM 设计、FIFO 中继器、96 芯放大和 18 kV 供电边界等具体工程约束。适合网络基础设施、光通信与海缆系统读者参考,其容量扩展路径和功耗/工艺取舍可迁移到大规模互联系统评估。

工程实践Meta Engineering

ZGateway: Learnings from Putting a Proxy in Front of ZippyDB

ZGateway 是 Meta 为 ZippyDB 键值存储新增的无状态代理层,目的是改变超百万客户端直接连数据库产生的稠密连接网格及其可靠性风险。它把客户端与后端收敛成两跳,使连接扇入扇出规模由代理层可控,并通过跨客户端批处理和合并降低 RPC 开销、缓解热键冲撞。代理层同时承载租户级准入控制、按 CPU 自适应的负载均衡、带实时失效的读缓存,以及可配置的跨区域容灾;迁移采用分服务、分前缀的百分比开关实现可逆灰度。文章给出的实测边界是:ZGateway 承载约 40% ZippyDB 流量、平均约 6% 计算开销,压测中丢弃只作用于少数噪声租户,其他租户成功率保持 99.9%。最后作者展望了多进程隔离、控制面外置与 AI 辅助调优等方向。

本文来自 Meta 生产环境的系统级工程复盘并包含明确数据和机制,不只是架构简介。它展示了一个代理层如何同时解决连接管理、高可用、租户隔离与流量治理,适合关注分布式系统、基础架构和可靠性设计的读者。文中的扇入扇出建模、灰度迁移和自适应负载均衡思路可以迁移到其他大规模代理或网关场景,但需注意 Meta 内部基础设施的耦合与规模化条件。

工程实践Meta Engineering

An Organizational Second Brain: Building an AI That Learns From Experts

本文由 Meta 工程团队分享,介绍他们为组织级专家知识构建的一个 AI 代理系统,使其成为可长期积累的“组织第二大脑”。系统核心由两层组成:一是结构化的、可审计的知识架构,将专家知识预先蒸馏为带依赖图的文本文件(如立场文件、路由索引、网关门),并区分高密度、高频知识放于精编知识库,稀疏、低频知识通过 RAG 检索补充;二是可组合的“食谱”(recipes)程序化推理层,将分析流程拆解为多阶段步骤,实现“知道什么”与“如何推理”的分离。此外,系统还包含一个自我改进飞轮:专家反馈经历诊断、编译、验证、落地四阶段,自动生成最小化且经回归测试的文件编辑,无需重训模型。文中报告六周后专家评估输出几乎总是有用,单次评估时间从数天降至分钟,且零回归。该架构适用于合规、安全审查、金融风险等需要机构性专业知识的领域,但前提是具备可编辑的知识文件、程序化流程、自动化评测和人工监督。

推荐收录。文章给出了一个可落地的企业级 AI 代理设计范式,重点展示了知识架构与推理层分离、基于依赖图的文本知识库、以及专家反馈自动转化为经过验证的文件编辑等完整的工程循环。直接证据包括 Meta 实际部署后的量化结果(数天到分钟、零回归)和领域无关的适用条件。适合从事 LLM 应用、AI Agent、知识工程或企业级 AI 平台的工程师参考,其“以文本文件为持久化知识并用自动化编译维护”的思想具有很高可迁移价值,但需注意其依赖严格的人工审核与评估基础设施,复制成本不低。

工程实践Meta Engineering

MetaRoCE: A New RDMA Transport Built for AI-Scale Ethernet

Meta发布自研RDMA传输协议MetaRoCE,面向AI规模GPU集群,运行于普通以太网,并计划通过OCP开放规范、参考实现和一致性测试套件。其核心是将网络智能从交换机移向NIC,支持原生乱序投递、逐路径喷发、免PFC的丢失容忍传输,以及发送端AIMD与接收端速率提示的拥塞控制。在64节点AMD GPU集群测试中,相比RoCEv2,MetaRoCE在all-reduce和all-to-all上吞吐更高、流完成时间更低,1%丢包时保持约86%吞吐,多平面扩展近线性,平面故障可自动恢复。现有RDMA Verbs应用无需修改即可使用,文章也承认在机内、跨数据中心和存储/KV缓存等场景仍需后续优化。

推荐收录。文章来自Meta工程博客,详细阐述了MetaRoCE的动机、设计权衡和实测数据,包括与RoCEv2的对比、损失下的优雅降级和多平面弹性,证据链完整。适合网络协议开发者、AI基础设施架构师和分布式系统工程师参考,其端点智能、逐路径拥塞控制等思路可迁移到其他高性能网络设计。需要注意文章同时是产品发布稿,基准规模和场景有限,实际部署效果需独立验证。

工程实践Meta Engineering

MTIA 300: Meta’s First Training Chip with Built-in NICs and Communication-Offloading Engines

文章介绍 Meta 自研训练与推理加速器 MTIA 300,它针对推荐排序模型训练中的通信瓶颈,将网络接口直接集成进芯片封装,通过两个包含 6 个 800 Gbps RDMA NIC 的 chiplet 提供 1.2 TB/s 总带宽,避免 PCIe 和 CPU 中介开销。芯片加入 16 个独立消息引擎和近存计算单元,以超过 2.8 TB/s 归约吞吐实现线速 AllReduce/ReduceScatter,与计算网格隔离,并行运行 GEMM 时计算吞吐损失小于 0.5%。通信库 HCCL 与硬件协同设计,采用编译通信模型,将集合通信编译为依赖子图后由消息引擎自主执行,无需主机参与,并支持拓扑感知算法和 PyTorch 接口集成。在生产环境中,1500 亿参数推荐模型跨 40 个加速器训练时,通信时间比等效 GPU 集群快 3.9 倍。文章也讨论了架构对未来推理工作负载的适应性,并指出当前设计主要面向推荐模型。

本文是 Meta 工程团队对其训练芯片的深度技术解析,公开了芯片架构、NIC 集成、通信卸载引擎及 HCCL 编译模型的具体设计和性能数据,直接给出与 GPU 的量化对比(0.5% 干扰、3.9 倍加速)。适合 AI 基础设施、分布式训练、芯片设计与高性能网络方向的工程师和研究者阅读。其通信一体化和软硬件协同设计思路可迁移到其他 AI 加速系统,但性能数据来自厂商自测,需保持一定批判性。

工程实践Meta Engineering

How We’re Building Scam Alert on WhatsApp With End-to-End Encryption and Verifiability Guarantees

本文介绍 WhatsApp 的 Scam Alert 可选功能,其在设备端运行机器学习模型,对非联系人消息做诈骗分类,不将消息内容上传,也不自动举报。系统遵循仅设备端、无自动上报和用户控制三项原则,核心保障包括基于可信执行环境和差分隐私的机密联邦分析管道,只向 Meta 提供聚合后的告警与用户操作计数。模型发布采用第三方只追加透明账本与匿名下载,防止定向分发,并公开模型权重和客户端日志供独立验证。文中还给出了威胁模型与纵深防御设计,包括 OHTTP 中继、匿名凭证和远程证明等。当前功能处于有限 Beta 阶段,作者强调欢迎安全研究社区反馈,尚未全面上线。

推荐收录。本文不是产品发布,而是给出了从设计原则到技术实现的完整链路:设备端推理、基于 TEE 的机密联邦分析、差分隐私聚合、模型哈希上链与匿名下载、客户端验证和公开权重,且包含威胁模型。对从事隐私保护、安全工程、移动端机器学习或可信分析系统的读者有直接参考价值,其方案与边界可作为同类系统设计的范例。当前仍为有限 Beta,需注意实际生产验证尚不足。

工程实践Meta Engineering

From User Sequences to Scaling Laws: A Multi-Stage Architecture for Meta’s Ads Ranking

本文介绍了 Meta 广告排序系统在大规模序列学习上的两项架构创新:多阶段序列模型将计算密集的离线用户建模与对延迟敏感的在线排序解耦,通过异步处理长用户历史并缓存嵌入,在不线性增加服务资源的前提下提升模型容量;密集 tokenization 和目标感知多头注意力让模型直接从数据中学习稀疏特征与行为序列的交互,取代手动特征工程。该设计带来了可预测的 LLM 式扩展规律,即性能随计算量呈对数线性增长,并总结出模型形状平衡、多阶段可调性、序列组成多样性和语义特征表征四个扩展杠杆。文章给出了在 Instagram 和 Facebook 上的转化率与点击率提升数据,并指出该架构已作为 GEM 模型的核心组件,可泛化至各类广告排序任务。

推荐收录,因为文章不仅公开了关键技术细节(离线/在线解耦、密集 tokenization、目标感知注意力),还系统论证了在广告推荐领域建立起可预测扩展规律的方法与实验证据。对于推荐系统、广告架构及大规模模型服务的工程师和研究者,文中分离建模阶段以平衡复杂度与延迟的思路具有很强的可迁移性,而扩展规律的识别路径可为探索其他大规模机器学习系统提供参考。

工程实践Meta Engineering

GEM Training: How Meta Doubled the Efficiency of Its LLM-Scale Ads Foundation Model

本文介绍了Meta如何将广告推荐基础模型GEM的训练规模提升至LLM级别,并在12个月内将端到端训练效率提升一倍至20-25%模型算力利用率(MFU),同时训练算力规模扩大4倍。文章从计算效率和扩展效率两个维度分别展开:计算效率通过定制化推荐内核库(Jagged Flash Attention、Generalized Dot-Product Attention、BlockAttention)和混合超低精度训练(MXFP8注意力与MLP)实现;扩展效率则依靠拓扑感知的5D并行策略(2D FSDP加专家并行处理稠密参数,全分片2D模型并行处理稀疏参数)配合SM-free通信、自动激活检查点及序列长度感知负载均衡。所提方案针对推荐系统特有的变长序列、非对称交互和数值敏感性等挑战进行了专门设计,其方法论和具体技术对大规模推荐模型训练具有参考价值,但部分优化(如内核定制)与特定GPU架构强相关,迁移时需适配自身硬件和数据特性。

本文是真实的工业级工程案例,完整展示了在数千GPU上训练万亿参数推荐模型的全栈优化过程,涵盖内核、精度、并行、网络和内存的协同设计,而非孤立技巧罗列。适合负责大规模深度学习训练、推荐系统基础设施或GPU性能优化的工程师,可迁移价值在于其将MFU分解为计算效率和扩展效率的分析框架,以及针对混合架构和变长数据的特定解决方案,对类似规模系统的构建与调优具有直接借鉴意义。

工程实践Meta Engineering

Exploring Hierarchical Interest Representation For Meta Ads Deep Funnel Optimization

本文介绍了 Meta 广告漏斗深度优化中的层级兴趣表征系统,旨在通过统一嵌入连接用户、广告主与产品。系统基于大规模异构交互图,融合多模态世界知识(由 LLM 处理)以缓解稀疏信号问题,并采用 Transformer 架构实施层级编码:引入图结构偏差的注意力机制(使用 FlexAttention 实现内存高效计算)、自监督跨视图蒸馏(结合 Sinkhorn-Knopp 均衡)与交互预测联合训练。最终输出通用嵌入和“意义包”离散令牌,可服务于检索、排序等下游任务。文章详细阐述了图构建、在线基础设施、因果性保证与规模化训练流水线,提供了工业级推荐系统在复杂图学习上的工程实践,但方法高度依赖 Meta 内部平台与数据规模,迁移时需考虑领域适配。

推荐收录。本文来自 Meta 工程博客,系统披露了用于大规模广告推荐的上游层级兴趣表征系统,完整覆盖从图构建、多模态知识融合、Transformer 层级编码到在线推理的工程细节,并公开了 FlexAttention、跨视图蒸馏等具体设计决策与缩放经验。适合推荐系统、图学习及大规模 ML 基础设施方向的研究者和工程师参考,可迁移至处理稀疏信号、层级表征与工业级图应用的场景。需注意部分架构深度绑定 Meta 生态,但核心思想与权衡思路具备通用价值。

工程实践Meta Engineering

Modernizing the Meta Ads Service With an Open-Source Kernel Scheduler

文章介绍 Meta 广告服务在 Linux 内核升级至 6.9 时遭遇 EEVDF 调度器导致的延迟回归,影响广告排序。团队利用开源的 sched_ext(BPF 扩展调度框架)构建了面向广告交付的自定义调度策略,通过将 CPU 软分区为延迟关键池和非关键池,并根据负载动态调整池大小,显著提升最后一级缓存局部性。初始部署在最大广告服务器上后,广告检索的 p99 延迟降低 28%,功耗节省 3.28 兆瓦,加权广告排名提升 1.1%,后续两次用户空间策略更新进一步降低延迟并减少超时错误。该方案将调度优化从依赖内核发版的路径中解耦,使迭代周期从数月缩短至数天,并将 sched_ext 从短期修复发展为持续优化平台,同时已上游化至 Linux v6.12。文章未探讨该策略对其他混部负载的公平性影响,且定制策略需依工作负载特性重新设计。

推荐收录,因为它提供了一个完整的高负载服务调度优化工程案例,从问题诊断、基于 sched_ext 的自定义策略实现到量化效果验证,证据充分。适合基础设施、后端性能优化和 SRE 读者,文中展示的软分区、缓存局部性利用以及借助 BPF 快速迭代的方法可迁移至其他延迟敏感系统。

工程实践Meta Engineering

Meta’s AI Storage Blueprint at Scale

文章系统复盘了 Meta 为 AI 工作负载重构 BLOB 存储的过程,目标是同时提升 GPU 利用率与研究迭代速度。旧架构沿用多层状态化元数据与全局默认复制,面对闪存级低延迟和 pMax 要求时,跨层查询与跨地域访问会把元数据延迟放大到毫秒乃至百毫秒级,直接造成 GPU stall。新方案将元数据压平为统一 schema 并由 ZippyDB 支撑,去掉数据面代理,改为客户端 SDK 直接从 Tectonic 拉取数据,同时按区域部署以贴近 GPU。为应对热点和突发流量,文中引入 GPU 主机分布式缓存、read-plan 缓存、hedged read 与动态并发控制,并通过预取、显式 hydration 和分层缓存把跨地域等待降到分钟级。文章也明确了边界:该架构更适合写一次、多次读取的训练数据与检查点场景,未来还需继续解决更高规模的网络上限与推理负载。

推荐收录,因为文章给出了从旧版全局存储到 AI 友好型区域化存储的完整重构证据,包括元数据压平、客户端直连、缓存分层和并发控制等可验证设计。适合做大规模训练存储、GPU 利用率优化和数据分发架构的参考,迁移价值高,但也明确依赖写多读多、可预取的训练型负载。

工程实践Meta Engineering

Privacy-Aware Infrastructure in the AI-Native Era: An Asset Classification Case Study

文章以 Meta 的隐私感知基础设施为案例,讨论在 AI 原生产品中如何做资产分类,核心目标是先准确识别数据“是什么”,再谈保留、访问、共享和匿名化等控制。作者指出仅靠字段名会产生误判,因此系统先汇聚代码解析、血缘、归属、语义注释和使用模式,形成 evidence brief,再让模型处理歧义与冷启动。生产路径采用“确定性规则优先、LLM 兜底”的两段式架构:大部分请求由版本化规则在毫秒级完成,少量新颖或模糊资产才进入模型推理。文章强调评估必须与优化解耦,参考标签不能由模型自举生成,并通过校准、kappa、宏 F1、对抗遮蔽和独立人工复核来防止自我验证。最后,系统把稳定模式蒸馏成可审计、可回放的确定性规则,并用灰度、黑名单和内容寻址发布保证规则升级不会悄然降低保护强度;其边界是依赖高质量上下文、明确政策口径和持续人工治理。

收录理由直接且充分:文章给出了隐私资产分类的完整工程链路,包括上下文聚合、LLM 兜底、规则蒸馏、独立评估与可回放发布,而不是泛泛谈 AI+隐私。适合做隐私治理、AI 基础设施和高风险分类系统的设计参考,但前提是有清晰 taxonomy、人工标注和严格的版本控制。

工程实践Meta Engineering

How Meta Engineered Ultra-Narrow Batteries for AI Glasses

这篇文章围绕 Meta 为 AI 眼镜定制超窄钢壳电池的工程实践,解释了为什么传统软包电池难以适配眼镜镜腿这种极窄空间,以及他们如何通过改变电芯形态、极片结构和制造公差来提升可用体积与峰值供电能力。文中还讨论了双电池系统的同步、交叉充电风险、不同代际产品的容量提升与系统级续航优化,展示了硬件、固件和结构设计协同迭代的思路。

推荐收录,因为它不是单纯的产品宣传,而是给出了在极端尺寸约束下重做电池形态、降低内阻、处理双电池协同的具体工程思路。对可穿戴设备、嵌入式硬件和低功耗系统设计读者都有较强迁移价值。

工程实践Meta Engineering

Adopting AV1 for Real-Time Communication (RTC) at Scale

这篇文章系统复盘了 Meta 在实时通信场景大规模引入 AV1 的全过程,覆盖编码器/解码器选择、移动端功耗与内存约束、二进制体积控制、Android 设备准入、以及基于编码/解码延迟的动态码率与码流切换策略。作者进一步讲解了面向 RTC 的关键质量优化,包括更精确的 CBR rate control、VBV delay 评估、Temporal Layer、自适应 FEC 和 Long-Term Reference 等抗丢包机制,并说明这些设计如何在低带宽、弱网络和低端设备上兼顾清晰度、时延与稳定性。文章最后给出当前覆盖进展与后续扩展到群聊、硬件 AV1 的边界和方向。

推荐收录,因为它不是泛泛介绍 AV1 优势,而是完整呈现了一个大规模 RTC 系统从选型、落地到持续优化的工程路径,尤其适合关注端侧性能、网络适应和多约束权衡的读者。文章对 device eligibility、rate control、error resilience 的处理方式具有较强迁移价值,能为音视频、移动端和实时通信系统提供可复用的方法论。