learntoall

技术栈

下列名称来自字节开源、论文和火山引擎工程分享。同一能力可能有多代并存(Kafka 与 BMQ、Abase 1.0/2.0)。把它当成「这一层用哪类系统」,而不是某天的服务目录。

打电话 RPC
Kitex
记小本本 KV
Abase
谁关注谁
ByteGraph
猜你会看完
Monolith
传纸条
BMQ
做视频拷贝
BMF
小白对照 · 打电话、记小本、猜菜、传纸条各用哪件工具
L0 客户端 · 播放 / 预加载 / 埋点
L1 接入 · 网关 / CDN / 就近
L2 业务 · 用户 / 社交 / 搜索
L3 推荐 · 召回-粗排-精排-重排
L4 媒体 · 转码 / 审核 / 多码率
L5 数据 · 队列 / Flink / 训练
L6 存储 · KV / 图 / 表 / 对象
架构图 · 这些名字分别挂在哪一层上

端与接入

能力技术工程要点
移动端网络MNet统一移动网络库:协议、弱网、安全;API 走动态加速。
流量调度DNS / GTM / TrafficRouteGEO + ISP 就近、同城多活、异地切流。
边缘融合 CDN · DCDN · 边缘计算点播静态加速,API 动态加速,直播边缘推拉流。
入口L4/L7 LB · API 网关TLS、鉴权、限流、单元纠偏。媒体字节不走 JSON 通道。

微服务通信

能力技术工程要点
RPCKitex + Thrift / gRPC / TTHeaderCloudWeGo。公开:2018 约 7–8k 服务,2021-05 超 5 万。
HTTPHertz网关与 REST。与 Kitex 共用发现、熔断、限流、重试。
治理Service Mesh + 框架切面单元化路由、超时、Backup Request 切长尾。
序列化Protobuf · Thrift · Sonic JSON特征日志常用 PB;大 Topic 会裁 IDL 减 CPU。

推荐与检索

能力技术工程要点
在线学习Monolith(Worker–PS)Cuckoo Hash embedding;训练 PS 分钟级增量同步 serving PS。
特征平台Darwin + Flink SQL/State窗口计数与序列;结果推进 KV。单作业状态公开到 60TB+。
向量召回ANN 向量库双塔 user/item embedding 近邻检索。
倒排 / 热门检索引擎 · 热池 KV关键词、音乐、话题;热门走单独召回路。

存储

能力技术工程要点
大容量 KVAbase / Abase2覆盖约 90% KV。兼容 Redis;2.0 无主多写 + CRDT。
强一致表ByteKV + ByteSQLRange 分区;快照隔离事务与全局二级索引。
ByteGraphVLDB'22:百亿点、万亿边;大 V 用 edge-tree。
对象 / 缓存TOS · Redis源片与转码产物;Feed 与超热 Key 走内存缓存。

流、离线与媒体

能力技术工程要点
消息队列Kafka → BMQSoCC'24 存算分离;称迁移 99.76% Kafka 集群,成本约降 70%。
流计算 / 湖仓Flink · Hive / Hudi / Spark实时特征、样本拼接、离线训练与回溯。
转码BMF + 工作流 + 函数计算DAG 拆成转码/抽帧/增强,弹性队列调度。
直播RTMP/RTC + HTTP-FLV/HLS音视频走 CDN;弹幕礼物走独立扇出。