13 篇内容
本文介绍 LinkedIn 自研图数据库 LIquid 如何支撑其经济图谱（2700 亿条边、200 万 QPS）的实时访问。文章以 People You May Know 功能为例，说明从遗留系统 GAIA 迁移到 LIquid 的架构：用声明式 Datalog 查询做图遍历，再由 Venice 和 Pinot 提供特征与排序。迁移后 QPS 从 120 提升到 18000，延迟降到平均 50ms 以下，CPU 降低 3 倍以上，并支持更细粒度、可解释的推荐和快速 A/B 实验。作者也指出当前同质化架构在数据规模扩大时的低效问题，以及未来分层存储与工作负载优化的方向。
文章以真实生产系统为例，提供了从离线批量到实时图查询的完整迁移路径和可量化性能结果，证据具体、架构清晰。适合关注大规模图数据库、实时推荐或高并发基础设施的工程师借鉴，其关于声明式查询、索引优化和成本控制的方法具有跨团队可迁移价值。
文章详细介绍了 LinkedIn 如何集成 SGLang 来优化其基于 LLM 的推荐系统，重点解决长输入短输出场景下的推理延迟问题。作者提出了多项目评分（MIS）方法，通过自定义注意力掩码复用成员前缀，将单个请求的延迟降低 69%，并进一步通过 FA3 内核和逐 token FP8 量化获得额外加速。此外，文章还介绍了 Knock-Knock 技术，利用预取成员上下文 KV 缓存并与项目检索并行，将整体延迟从 520ms 降低到 200ms。文中包含具体性能数据和开源贡献，展示了从内核到系统层面的优化路径。
文章展示了 LinkedIn 在真实生产环境中优化推荐系统推理的完整工程案例，提供了多项目评分、FP8 精细量化、延迟隐藏等可复用的技术方案和量化指标。适合从事推荐系统、LLM 推理优化和基础设施建设的工程师参考，其从内核到系统的优化顺序和取舍思路可迁移至类似长上下文低延迟场景。
本文介绍了 Meta 广告排序系统在大规模序列学习上的两项架构创新：多阶段序列模型将计算密集的离线用户建模与对延迟敏感的在线排序解耦，通过异步处理长用户历史并缓存嵌入，在不线性增加服务资源的前提下提升模型容量；密集 tokenization 和目标感知多头注意力让模型直接从数据中学习稀疏特征与行为序列的交互，取代手动特征工程。该设计带来了可预测的 LLM 式扩展规律，即性能随计算量呈对数线性增长，并总结出模型形状平衡、多阶段可调性、序列组成多样性和语义特征表征四个扩展杠杆。文章给出了在 Instagram 和 Facebook 上的转化率与点击率提升数据，并指出该架构已作为 GEM 模型的核心组件，可泛化至各类广告排序任务。
推荐收录，因为文章不仅公开了关键技术细节（离线/在线解耦、密集 tokenization、目标感知注意力），还系统论证了在广告推荐领域建立起可预测扩展规律的方法与实验证据。对于推荐系统、广告架构及大规模模型服务的工程师和研究者，文中分离建模阶段以平衡复杂度与延迟的思路具有很强的可迁移性，而扩展规律的识别路径可为探索其他大规模机器学习系统提供参考。
文章介绍了 Netflix 的 GenRec，一个基于内部基础 LLM 并经过后训练的推荐排序模型。它将用户历史、物品元数据和上下文通过“上下文工程”转化为自然语言提示，添加目录感知的评分头，并采用奖励加权的多目标损失（排序、语言建模、与长期满意度对齐）进行训练。在离线评估和大规模在线 A/B 测试中，GenRec 在仅使用少量 Phase-2 标注数据和输入信号的情况下，超越了成熟的生产级排序器，并在短期和长期指标上取得统计显著提升。该工作展示了从特征工程到上下文工程、从定制架构到共享基础骨架的范式转变，以及通过预填充推理和上下文压缩控制服务成本的方法。文章还讨论了数据与模型缩放规律、各训练阶段的贡献以及上下文长度优化，为大规模个性化推荐系统提供了可迁移的设计思路和工程权衡。
强烈推荐收录，因为本文提供了真实生产环境中将 LLM 应用于推荐排序的端到端工程案例，覆盖架构设计、训练策略、成本优化和实验验证，并揭示了从特征工程到上下文工程的范式转变。适合推荐系统工程师、ML 架构师和关注 LLM 工程化的读者，文中关于数据效率、缩放定律和上下文压缩的实践经验具有高迁移价值。
本文介绍了 Meta 广告漏斗深度优化中的层级兴趣表征系统，旨在通过统一嵌入连接用户、广告主与产品。系统基于大规模异构交互图，融合多模态世界知识（由 LLM 处理）以缓解稀疏信号问题，并采用 Transformer 架构实施层级编码：引入图结构偏差的注意力机制（使用 FlexAttention 实现内存高效计算）、自监督跨视图蒸馏（结合 Sinkhorn-Knopp 均衡）与交互预测联合训练。最终输出通用嵌入和“意义包”离散令牌，可服务于检索、排序等下游任务。文章详细阐述了图构建、在线基础设施、因果性保证与规模化训练流水线，提供了工业级推荐系统在复杂图学习上的工程实践，但方法高度依赖 Meta 内部平台与数据规模，迁移时需考虑领域适配。
推荐收录。本文来自 Meta 工程博客，系统披露了用于大规模广告推荐的上游层级兴趣表征系统，完整覆盖从图构建、多模态知识融合、Transformer 层级编码到在线推理的工程细节，并公开了 FlexAttention、跨视图蒸馏等具体设计决策与缩放经验。适合推荐系统、图学习及大规模 ML 基础设施方向的研究者和工程师参考，可迁移至处理稀疏信号、层级表征与工业级图应用的场景。需注意部分架构深度绑定 Meta 生态，但核心思想与权衡思路具备通用价值。
本文详细介绍了得物推荐系统诊断Agent“推查查”的设计与工程实践。针对推荐系统异常排查中人工依赖高、经验难沉淀的痛点，设计了一种混合智能体架构：Highway模式通过预编排的Story标准化流水线快速处理80%常见问题，ATV模式基于ReAct循环自主推理解决20%长尾复杂问题，中间由智能调度器无缝切换。技术实现上，通过插件化Skill工具集、Story编排、ReAct约束机制以及结合OpenViking与Graphify的知识库，保障了诊断的确定性与可扩展性。进化层从排查记录中自动提炼通用方法并生成新Story，实现系统自进化。实战案例验证了方案的有效性，也指出了知识检索触发策略等现有局限。
展示了一个推荐系统智能诊断系统的完整工程落地过程，包含架构设计、关键技术实现和进化机制，对于从事推荐系统、AI工程化或系统可靠性的工程师具有可迁移的参考价值。文章细节丰富，从问题定义到方案权衡再到验证，体现了工程实践的深度，值得收录。
文章梳理得物推荐团队自研 AI Harness 的工程化实践，核心目标不是让 AI 只会写代码，而是把需求、开发、评测和复盘纳入 PDCA 闭环，让 AI 在复杂推荐系统中按目标生产。作者将流程拆成 Plan/Do/Check/Act 的七阶段护栏：用结构化 Contract 约束需求，用零等待环境支撑执行，用 AI 评测平台做 7x24 体验检查，并把 Bad Case 回流为可复用经验。文中还提出 L1/L2/L3 知识治理与 Highway+ATV 混合 Agent 架构，用确定性代码覆盖高频路径、用受控探索处理长尾问题。文章给出了补充注释后准确率提升、token 消耗下降等结果，但整体更偏体系框架与方法论，具体实现细节仍留待后续篇章展开。
文章直接展示了将 LLM/Agent 纳入推荐系统生产链路的完整工程框架，并给出 Contract、7x24 评测和混合 Agent 的落地证据。适合做 AI 工程化、推荐系统和研发流程治理的参考，尤其对想把生成式 AI 变成稳定生产能力的团队有迁移价值。
文章介绍 Netflix 将首页推荐重构为端到端生成式系统 GenPage：把用户历史、画像和请求上下文序列化为提示词，再由单个 decoder-only Transformer 自回归生成整页首页，包括行、实体和布局。训练上沿用 LLM 方案，先做 next-token 预训练学习“首页语言”，再用加权二分类或强化学习做后训练，以对齐用户满意度和页面级奖励。工程上作者重点解决了实时延迟、冷启动、目录更新、业务规则约束和增量训练等问题，采用领域定制分词、语义 embedding 融合、fallback token、约束解码与混合行解码来兼顾可控性与效率。离线实验显示，丰富上下文往往比单纯扩大模型更有效，RL 还能提升页面多样性；在线 A/B 中，GenPage 在核心参与度指标上显著优于成熟多阶段基线，同时将端到端延迟降低约 20%。文章也指出当前仍依赖部分手工摘要，长上下文与更通用的语言/多模态能力仍是后续方向。
推荐收录，因为它给出了把推荐系统改造成生成式 Transformer 的完整工程链路：数据表示、训练范式、RL 对齐、业务规则约束与线上验证都有直接证据。适合做个性化推荐、AI 工程化和大模型落地的读者参考，尤其可迁移的是“先丰富上下文再扩模型”“用约束解码保业务规则”“用混合解码降延迟”的方法。
这篇文章介绍了 Netflix 在个性化通知系统上的一次架构重构：将原本耦合的单一发送决策拆分为“慢策略”和“快策略”两层。慢层负责按周尺度为用户制定消息频率和渠道节奏等长期计划，快层负责在实时机会到来时选择具体发送内容，从而同时兼顾短期点击与长期疲劳、退订风险。文章还解释了效用函数如何把正向参与信号、负反馈信号和统一消息成本结合起来，以及如何通过 feature store 在两层之间异步传递策略状态。
推荐收录，因为它不仅讲“怎么建模”，更讲清了推荐/通知系统中长期目标与短期决策冲突的工程化解法，具有很强的可迁移性。对于做推荐系统、消息触达、AI 产品决策或策略分层架构的读者，这篇文章能直接提供可复用的设计思路和权衡框架。
文章复盘了 Instacart 广告召回系统从“对固定候选集打分”转向“按 token 自回归生成”的重构过程。作者先分析了旧式 BERT 检索在词表膨胀、冷启动和候选结构漂移上的瓶颈，再介绍用 Semantic IDs 作为新产品词汇、用上下文模板组织训练输入、以及通过 beam search 生成候选并映射回商品索引的完整方案。为了支撑新模型，团队还重建了 GPU serving 栈（TensorRT-LLM、Triton、Go-native 服务），最终在两条发现型广告位上取得了约 +5% CTR、+34% add-to-carts 的线上收益，并显著提升了长尾类目和品牌多样性。
推荐收录，因为它不是单纯的产品宣传，而是把广告召回从建模、表示、训练、检索到推理基础设施完整串起来，呈现了一个可迁移的工业级重构范式。对于做推荐系统、检索系统和大模型推理落地的读者，这篇文章能直接提供“何时从打分转向生成”“如何重做表示层”“如何为生成式召回重建 serving 栈”的判断框架。
文章介绍了 Instacart 如何在海量商品目录中构建 semantic IDs，用离散代码来表达商品语义关系，从而解决冷启动、长尾覆盖和类目标注错误等问题。核心方法是基于产品 embedding 训练残差向量量化器，并加入利用目录树结构的对比学习正则，使代码前缀与商品语义层级对齐；同时作者还区分了面向精确替代的 ESCI 与面向探索发现的 ESCI+Gemma 两种表示策略。文章还给出了离线评估方式、失效案例和生产落地收益，说明该方案不仅能支持召回和推荐，也能反向用于目录质量审计。
推荐收录，因为文章把一个大规模推荐/检索系统中的表示学习、量化压缩、对比训练和评估方法串成了完整工程方案，而不是停留在概念介绍。它对做推荐系统、商品理解、向量检索和 AI 工程化的读者都有可迁移价值，尤其适合理解“如何把连续 embedding 变成可生产的离散语义 ID”。
文章围绕 Instacart 的 Carrot Ads 在新零售伙伴接入时遇到的冷启动问题展开，核心是如何把 Marketplace 中海量第一方点击数据的经验迁移到目标伙伴站点的 pCTR 预测上。作者提出了 Domain Adaptive Learning 方案，从神经网络层复用并微调共享 embedding 和深层表示，同时在训练数据层对齐分类体系、归一化信号并裁剪低价值特征，以兼顾效果和实时拍卖延迟。文中还给出了评估结论：在低数据和高数据场景下都能提升 CTR、点击量和广告收入，但 schema 映射与模型对齐仍需要人工审核，以避免 negative transfer。
推荐收录，因为它不是泛泛介绍迁移学习，而是结合广告排序、冷启动、特征对齐和延迟约束，讲清了一个可落地的跨域建模方案。对做推荐、广告、增长或多租户模型复用的工程团队都有直接参考价值，尤其适合借鉴其“模型层 + 数据层”双重适配思路。
本文讲述 Instacart 将 LLM 引入 Shopping Hub 推荐页的早期实践，目标是突破传统“静态内容库+统一排序”在个性化、页面一致性和快速迭代上的限制。作者先比较了自底向上与自顶向下两种生成范式，最终选择分阶段的自顶向下流水线：先生成页面主题与用户意图，再将主题映射为可检索关键词，随后做质量、多样性与业务约束过滤，最后接入既有排序系统。实现上使用了教师-学生微调、RAG、结构化约束解码以及 LLM-as-a-judge 和轻量分类器等多层评估与过滤手段，以控制成本并保证线上安全。文章还总结了将任务拆小、把评估前置、用结构化输入输出提升稳定性的经验。其边界在于当前仍处于早期阶段，效果主要来自离线评估和初步 A/B，尚未完全替代原有推荐体系。
收录价值明确：文章给出了 LLM 介入推荐系统的完整工程链路，包括分层生成、RAG、教师-学生训练和多级评估，且说明了为何放弃单模型端到端方案。适合做 AI 推荐、生成式内容和线上评估体系设计的参考，但需注意它仍是早期实验，结论以初步离线/A/B 结果为主。