技术栈
下列名称来自 Xiaohongshu 署名论文和官方/一线工程分享。同一能力可能有多代并存(传统精排与 GenRank、BERT QP 与 QP-OneModel)。把它当成「这一层用哪类系统」。
L0 客户端 · 双列 / 搜索框 / 埋点
L1 接入 · 网关 / 图片 CDN
L2 社区 · 笔记 / 关系 / 交易
L3 双引擎 · 推荐漏斗 + 搜索漏斗
L4 理解 · NoteLLM / 转码 / 审核
L5 数据 · Kafka / Flink / 样本
L6 存储 · 多云对象 / KV / 倒排 / 向量
端与接入
| 能力 | 技术 | 出处与要点 |
|---|---|---|
| 发现页 / 搜索 | 独立 API | 没有 Query 走 Explore Feed;有 Query 走搜索 / 问一问。 |
| 媒体 | 多云对象存储 + CDN | Flink Forward'21:OSS / COS / OBS 分属阿里云、腾讯云、华为云。 |
| 入口 | API 网关 | 鉴权、限流、把推荐、搜索、广告打到不同集群。 |
推荐与内容理解
| 能力 | 技术 | 出处与要点 |
|---|---|---|
| I2I 表征 | NoteLLM | WWW'24 Companion,arXiv:2403.01744。笔记压缩 prompt + GCL + CSFT。 |
| 多模态 I2I | NoteLLM-2 | KDD'25,arXiv:2405.16789。mICL + late fusion,补视觉。 |
| 发现页精排 | GenRank | arXiv:2505.04180。生成式排序架构,线上 A/B。 |
| 召回 | 协同 / 双塔 / I2I | 内容表征召回用来和新笔记公平比较(NoteLLM 文中的生产动机)。 |
搜索
| 能力 | 技术 | 出处与要点 |
|---|---|---|
| 查询理解 | QP-OneModel | arXiv:2602.09901。统一生成式 QP,已全量服务搜索结果页。 |
| 相关性 | GRM + RL + SAM | arXiv:2512.00968。生成式相关性,蒸馏后上线。 |
| 生成式检索 | GDR 等探索 | 工程分享:可生成笔记 ID / 类;与稀疏、密集检索并存。 |
| 问答 | 问一问(RAG) | QCon:基于站内笔记做结构化总结,并标来源。 |
数据与训练
| 能力 | 技术 | 出处与要点 |
|---|---|---|
| 消息 | Kafka / RocketMQ | 打点进队列;数仓分享里出现过 RocketMQ。 |
| 流计算 | Flink + 百川(Baichuan) | 归因、画像、FeatureJoiner;Native Flink on K8s。 |
| 调度 | Volcano + Firefly | CNCF Volcano 博文:批流与训练作业调度。 |
| 稀疏训练 | TensorFlow + LarC | 同一篇 Volcano 博文:搜推广大规模离散特征。 |
| 分析 / 样本 | Hive · ClickHouse · Hologres | 离线样本与实时 OLAP。 |