AI Infra / RISC-V / 向量检索

把公开的技术报告,
拆成能看懂的结构。

把公开的论文、厂商技术报告和实测数据拆成能看懂的结构图。不堆结论,先给证据,再给判断。

大模型推理优化
KV cache 压缩、注意力机制、prefill / decode 分离、kernel 融合与内存层级
RISC-V 与微架构
香山处理器、向量扩展、自定义指令全链路、difftest 差分验证
向量检索与内存子系统
Milvus / Knowhere、SIMD 加速、io_uring 与底层 IO 路径
2026-10-30 AI Infra / 推理优化 / KV Cache / MoE

参数之后,带宽为王

Qwen3.8-Flash-Next 与 DeepSeek-V4.1-Flash 的架构拆解:竞争计量单位已从 FLOPs 换成每 token 的 HBM 字节数、跨节点互联与内存层级效率。

AI Infra推理优化KV CacheMoE