工程实践 SelectDB 技术分享
文章针对大模型应用中专用向量库成本高、混合查询难的问题，深入剖析 Apache Doris 4.1 原生向量检索的工程设计。作者先比较专用向量数据库、关系型数据库扩展和分析型数据库原生支持三条路径，论证原生集成路线的优势。随后详细阐述 IVF 索引降低内存、IVF_ON_DISK 冷热分层、SQ/PQ 量化压缩以及 ANN Index Only Scan 优化查询性能的具体实现和 DDL 示例。文章还演示了结构化过滤联合查询与基于 RRF 的多路召回融合在 SQL 中的落地方式，并给出 VectorDBBench 基准数据。测试表明该方案在 100 万 768 维向量上取得 900 QPS、97% 召回率，构建速度最快，形成成本与性能的均衡。不过文中基准硬件规格不一，实际部署需根据工作负载进行验证。
推荐收录，因为文章不是简单的功能罗列，而是系统拆解了 Doris 4.1 向量检索的工程实现，包括 IVF 降本、磁盘索引、量化压缩、Index Only Scan 等关键设计，并提供了混合检索的 SQL 实现和基准数据。适合数据库内核、AI 基础设施和 RAG 系统开发者参考，其存储分层、覆盖索引和融合排序思路可迁移到其他 OLAP 或向量检索场景。需注意部分内容来自厂商，基准配置存在差异，应结合自身负载验证。
工程实践 知乎 - SmartCode 得物技术 2026/08/13
文章系统介绍得物知识问答产品的复合检索 Agent 设计实践。作者基于 AgentScope 2.0 HarnessAgent，利用 ReAct 循环、Middleware 和并行工具调用，构建多源并行检索流程，融合企业知识库与个人飞书文档、消息、妙记数据，并通过权限注入实现数据隔离。检索质量上，采用查询扩展生成自然语言变体，并设计 FastPass、Reranker、LLM Grading 三阶段过滤 Pipeline，解决向量相似不等于语义相关的问题。系统还支持图片多模态输入、自动模型切换，以及多实例 SSE 断点续传和模型容灾，提升生产可靠性。文章最后总结六个创新点，并展望精细化检索策略和个人知识助手方向；当前方案依赖企业内部知识管理平台和飞书生态，长期记忆能力尚未启用。
推荐收录，因为文章并非泛泛介绍 RAG 套壳，而是给出了基于 AgentScope 的自主决策检索系统完整工程方案，包含多源并行检索、三阶段质量过滤、多模态输入和生产级 SSE 断点续传等关键设计，并附有代码片段和评测结果。对正在构建企业知识问答、Agent 检索或 RAG 工程化系统的读者，文中关于关注点分离、权限隔离和断点续传架构取舍的做法可迁移，但需注意其对 AgentScope 和飞书生态的依赖。
技术文章 TiDB 社区博客 - 技术解读 2026/08/12
文章系统讨论 AI Agent 的记忆体系，借鉴认知科学将记忆分为短期、语义和情景三层，并补充全文检索记忆需求。作者批评用 Redis、MySQL、向量库和 Elasticsearch 拼接的方案存在数据一致性、混合查询困难和运维复杂等痛点，提出应在同一数据库内核中原生融合关系、向量和全文检索能力。文章以 TiDB 8.5 为例，展示通过 VECTOR 列、向量索引和全文索引在单条 SQL 中组合结构化过滤、语义检索和关键词匹配的实现方式，并说明平凯云服务的 Serverless 弹性、HTAP 能力和全球部署优势。文章适合关注 Agent 记忆系统、RAG 或数据库选型的开发者，但需注意其官方博客的产品宣传色彩和方案边界。
推荐收录。文章不仅解释了 Agent 记忆的分类和需求，还具体分析了多系统拼接架构的工程痛点，并给出使用 TiDB 原生融合关系、向量和全文检索的 SQL 示例，证据具体、有可操作价值。适合构建有状态 AI Agent、RAG 应用或需要混合检索能力的开发者参考，可迁移架构思路，但需注意其中隐含的厂商推广和 TiDB 特定实现约束。
技术文章 知乎 - SmartCode 得物技术 2026/07/23
文章系统梳理了RAG（检索增强生成）的核心检索技术链路，从LLM的局限性引出RAG的必要性，依次阐述了文档切分策略（Chunking）、文本向量化（Embedding）的原理与对比学习训练方式、向量相似度度量（以余弦相似度为主）、以及近似最近邻搜索算法HNSW的分层图设计与贪心搜索机制。在此基础上，完整介绍了查询改写、元数据过滤、多路召回（ANN+BM25）、RRF排名融合与Cross-Encoder重排序（Rerank）的协同工作流程，并强调了混合检索与各环节工程取舍的重要性。全文提供了具体的参数选择、算法复杂度和实践建议，适合构建高质量RAG系统的开发者参考。边界：未涉及具体模型微调与超大规模部署，但覆盖了核心概念与实用策略。
本文深入浅出地讲解了RAG检索系统的核心原理与工程考量，从Embedding到HNSW再到混合检索，每一环节均有理论解释和实际示例，避免空泛介绍。适合AI工程师、后端开发者以及希望优化检索效果的技术人员。文中关于Chunking策略、HNSW参数调优、多路召回融合等可迁移经验具有较高的实践指导价值，因此推荐收录。
科研议题 Microsoft Research Blog 2026/06/29
文章介绍了微软研究院提出的 Memora，一种面向长程 AI agent 的记忆框架，核心目标是同时保留细节与可检索性。作者指出，现有方案要么把对话切成碎片化事实，要么压缩成过度粗糙的摘要，都会在“抽象性”和“具体性”之间丢失一端。Memora 通过将“存什么”和“怎么取”解耦：用 primary abstraction 作为检索锚点、用 memory value 保存丰富内容，再借助 cue anchors 提供多路径召回，并配合 policy-guided retriever 做迭代式检索与多跳推理。在 LoCoMo 和 LongMemEval 上，它分别取得 86.3% 和 87.4% 的 LLM-judge 准确率，并相对全上下文推理最多减少 98% token 消耗。文章适合作为理解长时记忆、agent 记忆架构和检索策略设计的研究案例，但结论主要来自长对话基准，真实业务中的稳定性、更新策略和跨域泛化仍需进一步验证。
推荐收录，因为文章明确给出了可复用的记忆架构：将内容存储与检索机制解耦、用 primary abstraction 与 cue anchors 组织记忆，并用迭代式策略检索支持多跳召回。它对长上下文 agent、记忆系统和检索式 AI 工程都有直接参考价值，但读者也应注意其效果主要建立在长对话基准上。
工程实践 知乎 - 阿里巴巴大淘宝技术 2026/06/24
这篇文章系统梳理了 RAG 在 Agent 场景中的全链路工程实践，覆盖文档加载、智能切分、向量索引、检索优化、生成调优、Graph RAG 和自动化评测等关键环节。文章不仅解释了各环节的核心原理，还结合 Query 改写、HyDE、Doc2Query、重排序、Ragas 指标与测试集生成等方法，强调通过“可测、可调、可信赖”的闭环提升 RAG 的业务确定性与降低幻觉。适用边界也较清晰：它更偏向工程落地与系统方法论，而非单点算法创新。
推荐收录，因为它不是泛泛介绍 RAG 概念，而是把知识库构建、召回、生成和评测串成了完整的方法链，具有很强的工程参考价值。对于正在做 Agent、企业知识问答或检索增强系统的团队，这篇文章能直接迁移到方案设计、问题定位和效果评估中。
工程实践 知乎 - 千问云 2026/06/24
文章围绕工程知识库在检索、组织和同步上的结构性瓶颈展开，系统比较了 Naive RAG、LLM Wiki、Graphify 和 GraphRAG 四种范式，并指出单纯向量检索容易出现“每次从零推导”“无法连点成线”“粒度混乱”等问题。作者进一步提出“金字塔”式知识库方案：按原则、架构、规范、实现、经验五层组织知识，用图谱关系和角色感知路由来提升上下文选择质量，并给出增量同步、审计机制和一组小规模评测结果。
推荐收录，因为这篇文章不是泛泛谈 RAG，而是围绕工程知识库的结构化组织、检索路由、同步更新和评测方法给出了一套可落地的设计框架。它对正在构建 AI 知识库、内部文档问答或 Agent-native context layer 的读者具有较强的迁移价值。
工程实践 Elastic Security Labs 2026/06/23
文章介绍了 Elastic 安全团队如何用 Elastic Agent Builder 搭建一个生成式 AI 代理，把原始漏洞报告自动整理成可审阅的 CVE 安全公告草稿。系统通过 RAG 将 MITRE 的 CWE 与 CAPEC 目录抓取并索引到 Elasticsearch 中，再结合产品文档、代码检索和一套严格的提示词约束，完成弱点分类、攻击方法选择、CVSS 草案评分和缓解建议生成，同时避免 LLM 幻觉和过度披露实现细节。文中还详细说明了爬虫配置、工具调用顺序、内存安全语言的分类禁忌、CAPEC 只能表示方法而非影响、以及人类审阅如何把关最终发布，体现出适合落地到安全公告、合规文档和其他结构化写作任务的通用模式。
推荐收录，因为它不是泛泛而谈“用 AI 提效”，而是给出了从权威数据抓取、检索增强、提示词护栏到人工审核的完整工程链路，具有很强的可迁移价值。对做安全运营、知识库自动化、结构化文档生成或企业内 LLM 落地的读者，这篇文章提供了可直接借鉴的系统设计与风险控制方法。
工程实践 知乎 - SmartCode 得物技术 2026/06/11
文章介绍了一个为 Claude Code 增加“长期记忆”和“自我进化”能力的工程系统，核心由行为观测、模式提炼和记忆注入三层组成。作者通过 Hook 机制稳定采集工具调用日志，再用统计规则与模型语义分析提炼 Instinct，并结合本地 Embedding 和向量检索把项目记忆在新会话中自动注入，从而让助手跨会话保持上下文、逐步修正行为。文章还给出了数据分片、置信度衰减、去重聚合、隐私边界和效果量化等设计，说明这套方案适合需要频繁与 AI 编程助手协作的个人或团队，但更适合作为定制化工程实践而非通用产品方案。
推荐收录，因为它不是泛泛讨论“AI 记忆”的概念，而是给出了可落地的 Claude Code 工程实现：从 Hook 采集、规则提炼、向量召回到上下文注入，链路完整且有真实运行数据。对想要改造 AI 编程助手、构建个性化工作流或理解 agent 记忆系统边界的读者，都有较强的迁移价值。
工程实践 知乎 - 腾讯技术工程 2026/06/02
这篇文章系统拆解了 Chromium 在 AI Coding 上的整体工程体系，重点分析了 AI Policy、分层 Prompts、按需激活的 Skills、Agentic RAG 知识库、Eval 评估套件以及面向大规模改造的 Projects 六个部分。作者不仅展示了目录结构与关键文件，还解释了这些机制如何共同约束 AI 生成代码、减少幻觉、保证可测试性，并通过“实现页面分屏”等案例说明各层能力如何协同工作。文章的结论是：大型代码库落地 AI 编码，关键不在于单点模型能力，而在于把责任边界、上下文管理、专业技能和回归评估工程化。
推荐收录，因为它不是泛泛谈“AI 写代码”，而是以 Chromium 这一超大开源项目为例，给出了可复用的 AI 工程化架构：如何管控责任、组织上下文、沉淀技能、做知识检索和建立评估回归。对正在建设代码助手、IDE Agent、企业级 AI 编码规范或大仓库自动化流程的读者，都有直接参考价值。
工程实践 Instacart Tech Blog 2026/02/26
本文讲述 Instacart 将 LLM 引入 Shopping Hub 推荐页的早期实践，目标是突破传统“静态内容库+统一排序”在个性化、页面一致性和快速迭代上的限制。作者先比较了自底向上与自顶向下两种生成范式，最终选择分阶段的自顶向下流水线：先生成页面主题与用户意图，再将主题映射为可检索关键词，随后做质量、多样性与业务约束过滤，最后接入既有排序系统。实现上使用了教师-学生微调、RAG、结构化约束解码以及 LLM-as-a-judge 和轻量分类器等多层评估与过滤手段，以控制成本并保证线上安全。文章还总结了将任务拆小、把评估前置、用结构化输入输出提升稳定性的经验。其边界在于当前仍处于早期阶段，效果主要来自离线评估和初步 A/B，尚未完全替代原有推荐体系。
收录价值明确：文章给出了 LLM 介入推荐系统的完整工程链路，包括分层生成、RAG、教师-学生训练和多级评估，且说明了为何放弃单模型端到端方案。适合做 AI 推荐、生成式内容和线上评估体系设计的参考，但需注意它仍是早期实验，结论以初步离线/A/B 结果为主。
工程实践 Dropbox Tech 2026/01/28
这篇文章是 Dropbox Dash 工程副总裁对其检索与智能问答架构的一次系统性拆解，重点讲了如何把多源工作内容接入“context engine”。作者先说明连接器、内容标准化、OCR/多模态理解、嵌入与知识关系建模，再进入 BM25 词法索引与向量库的混合检索，并通过多轮排序实现个性化和权限控制。文章还比较了 federated retrieval 与 index-based retrieval 的取舍，解释了为什么在 Dropbox 规模下更偏向预索引、离线富化和跨应用知识图谱，而不是纯实时拉取。随后作者讨论了 MCP 在上下文窗口、工具定义和延迟上的问题，以及通过“super tool”、子代理和本地存储工具结果来控成本。最后用 LLM as a judge、RAG as a judge 和 DSPy 展示了如何通过评测和提示优化持续提升检索相关性，但也明确指出这些方案高度依赖工程投入、数据新鲜度治理和复杂的离线/在线评估体系。
推荐收录，因为文中给出了 Dropbox Dash 的真实架构取舍：索引式检索、知识图谱 bundle、MCP 工具收敛、LLM 评测和 DSPy 优化都不是概念性描述，而是带有明确约束与结论的工程实践。适合正在做 RAG、企业搜索或 agent 平台的读者参考，但需要注意其方案建立在大规模数据接入和长期基础设施投入之上，不能直接照搬。
工程实践 Instacart Tech Blog 2025/11/13
文章复盘了 Instacart 用 LLM 重构 Query Understanding 的全过程，目标是提升购物搜索中长尾、口语化和歧义查询的意图识别能力。作者先指出传统方案依赖噪声标签、多个独立模型和碎片化流水线，难以同时兼顾召回、精度与维护成本。新方案以 LLM 为核心，分三层推进：用 RAG 和提示工程注入类目、转化等业务上下文，用后处理 guardrails 约束幻觉和类目偏差，再对关键场景做 LoRA 微调，把领域知识固化到小模型里。文章分别展示了类目分类、query rewrite 和 SRL 三个任务的改造方式，尤其强调“teacher 生成离线高质量数据 + student 承担实时长尾推理”的混合架构。最终他们在 8B 模型上达到接近大模型的 F1，并通过缓存、H100、adapter merge、量化取舍和 autoscaling 把延迟压到约 300ms，证明该路线既能提升搜索质量，也能控制成本，但前提是业务上下文足够丰富且可被持续治理。
收录依据很明确：文章不仅讲了 LLM 替代传统 QU 的思路，还给出了 RAG、guardrails、微调、缓存与延迟优化的完整落地链路，以及精度/召回/成本的结果。适合做搜索、推荐或垂直场景 LLM 工程的参考，尤其对需要处理长尾查询和实时推理约束的团队有直接迁移价值。
技术文章 Anthropic Engineering 2025/09/28
这篇文章把“context engineering”定义为比 prompt engineering 更完整的 LLM/Agent 设计问题：不只是写好提示词，而是持续管理系统指令、工具、示例、历史消息和外部检索信息，尽量把有限上下文窗口里的 token 用在最有信号的地方。作者用上下文退化、注意力预算和 Transformer 的 n² 关系解释了为什么长上下文并不等于高质量上下文，模型在信息检索和长程推理上仍会随长度增长而变差。文章进一步给出一套实操框架：系统提示要保持清晰、简洁且处于合适抽象层级，工具要少而明确，示例要选典型而非穷举边界。对于长周期任务，作者重点介绍了 compaction、结构化笔记、just-in-time 检索和子代理架构，说明它们分别适合持续对话、迭代开发和复杂研究。整体结论是，构建可靠 Agent 的核心不是堆上下文，而是不断筛选、压缩和动态加载最必要的信息，但这些策略仍受任务类型、工具设计和模型能力边界约束。
文章直接给出了上下文管理、工具设计、compaction 和子代理等可落地方法，是构建长程 Agent 的系统性经验总结。适合做 AI 应用、Agent 编排和检索增强设计的参考；其价值在于方法可迁移，但前提是读者理解上下文窗口与任务自治之间的权衡。
科研思考 Stanford Hazy Research 2023/04/18
这篇文章围绕“基础模型能否支撑私有化、个性化系统”展开，讨论了隐私、质量、成本三者之间的张力。作者指出，传统方案主要依赖联邦学习或在少量私有数据上微调公有模型，但前者往往需要牺牲部分隐私，后者在小数据场景里又很脆弱。文章进一步提出，基础模型的上下文学习能力可以把个性化任务转移到推理阶段，从而在不暴露私有数据的情况下完成本地适配。作者用 AMA、Evaporate 和基于检索的公开/私有混合数据系统等工作说明，开放模型的提示策略、推理成本压缩和多数据分布检索，都是推动私有个性化落地的关键方向。文章也明确了边界：现阶段强能力模型多为大规模闭源模型，某些任务仍依赖海量事实记忆，而训练数据的隐私与合法性问题仍未彻底解决。
文章直接给出了把基础模型用于私有个性化系统的研究框架，并用 AMA、Evaporate 和多隐私域检索的实证结果支撑观点，不是泛泛而谈。适合研究者、隐私计算/LLM 系统方向读者，以及需要判断“本地推理、检索与隐私边界”可迁移性的工程团队参考。