learntoall

技术栈

下列名称来自 Xiaohongshu 署名论文和官方/一线工程分享。同一能力可能有多代并存(传统精排与 GenRank、BERT QP 与 QP-OneModel)。把它当成「这一层用哪类系统」。

L0 客户端 · 双列 / 搜索框 / 埋点
L1 接入 · 网关 / 图片 CDN
L2 社区 · 笔记 / 关系 / 交易
L3 双引擎 · 推荐漏斗 + 搜索漏斗
L4 理解 · NoteLLM / 转码 / 审核
L5 数据 · Kafka / Flink / 样本
L6 存储 · 多云对象 / KV / 倒排 / 向量
架构图 · 这些名字分别挂在哪一层

端与接入

能力技术出处与要点
发现页 / 搜索独立 API没有 Query 走 Explore Feed;有 Query 走搜索 / 问一问。
媒体多云对象存储 + CDNFlink Forward'21:OSS / COS / OBS 分属阿里云、腾讯云、华为云。
入口API 网关鉴权、限流、把推荐、搜索、广告打到不同集群。

推荐与内容理解

能力技术出处与要点
I2I 表征NoteLLMWWW'24 Companion,arXiv:2403.01744。笔记压缩 prompt + GCL + CSFT。
多模态 I2INoteLLM-2KDD'25,arXiv:2405.16789。mICL + late fusion,补视觉。
发现页精排GenRankarXiv:2505.04180。生成式排序架构,线上 A/B。
召回协同 / 双塔 / I2I内容表征召回用来和新笔记公平比较(NoteLLM 文中的生产动机)。

搜索

能力技术出处与要点
查询理解QP-OneModelarXiv:2602.09901。统一生成式 QP,已全量服务搜索结果页。
相关性GRM + RL + SAMarXiv:2512.00968。生成式相关性,蒸馏后上线。
生成式检索GDR 等探索工程分享:可生成笔记 ID / 类;与稀疏、密集检索并存。
问答问一问(RAG)QCon:基于站内笔记做结构化总结,并标来源。

数据与训练

能力技术出处与要点
消息Kafka / RocketMQ打点进队列;数仓分享里出现过 RocketMQ。
流计算Flink + 百川(Baichuan)归因、画像、FeatureJoiner;Native Flink on K8s。
调度Volcano + FireflyCNCF Volcano 博文:批流与训练作业调度。
稀疏训练TensorFlow + LarC同一篇 Volcano 博文:搜推广大规模离散特征。
分析 / 样本Hive · ClickHouse · Hologres离线样本与实时 OLAP。