Spcodhu的个人博客网站
技术更新太快,能沉淀下来的是思考的方式。我在这里整理实践中的经验与反思,也记录代码之外的生活片段,希望每篇文章都言之有物。
大模型部署中的 PD 分离是指什么?
本文从 token、自回归、KV Cache 三个基础概念切入,指出 KV Cache 是大模型服务的第一资源约束。随后分析 Prefill 阶段(计算密集,决定 TTFT)与 Decode 阶段(显存带宽密集,决定 TPOT)的资源瓶颈差异,说明一体化部署存在互相干扰、资源错配、扩缩容浪费三大问题。由此引出 PD 分离架构:将两阶段拆到不同机器,KV Cache 经 RDMA 高速传输,核心难点在传输效率与故障预案。文章还给出分离的适用边界及混合部署思路,并附相关论文与开源实现。
最近遇到的大厂后端面试题
作者复盘了近期大厂面试的高强度经历,整理了七道高频题目:短链接系统设计(发号器、多级缓存、302跳转)、n人相遇点(区间交集解法)、SSE是否占满Tomcat线程(异步与WebFlux方案)、链表判环、Spring Bean生命周期(含三级缓存与AOP自调用失效)、Redisson分布式锁(看门狗机制与坑)、Spring IoC与AOP及事务失效场景。文章结合流程图与代码,深入剖析每道题的解题思路与面试追问要点。
本站 SEO 优化介绍
作者将博客迁移为自建 Vue+Spring 后外部流量为零,遂系统记录 SEO 改造流程。文章先解释搜索引擎发现、抓取、渲染、索引与排名的原理,再介绍动态生成 sitemap.xml 和 robots.txt 并提交 Google/Bing 控制台;随后把 CSR 重构为 SSR,完善页面 meta、canonical 与 JSON-LD,解决爬虫抓取空页面问题。最后补充 slug、feed.xml、301 重定向及 sitemap 时间真实性等细节,帮助提升网站收录与自然流量。
记录一下我在开发Agent时踩到的坑
本文复盘了开发AI数据库助手DB-Genius时踩过的六个典型技术坑:多模型接入必须动态配置并流式计量token与思考内容;SSE推送需逐层消除缓存与线程池阻塞,避免打字机效果卡顿;Agent执行轨迹要借OpenTelemetry打点实现可观测与成本归因;上下文控制不能简单按条数截断,应基于token计量并配合分层压缩与前端引导;多模型协同需通过路由和能力元数据让视觉、推理等模型各司其职;模型降级输出异常标记时,需用反解析恢复真实调用并加空参护栏,而非一味过滤。文章提炼了一张自检清单,强调Agent开发需融合流式传输、成本工程与兜底防御。
分享一副本人的手迹,自我感觉良好!
分享一副本人的手迹,自我感觉良好!
Tau 内部原理:从一条命令到上下文压缩
Tau 是 Pi 极简 coding-agent 架构的 Python 移植(github.com/huggingface/tau)。这份笔记自下而上读了一遍代码,回答四个问题:`tau` 命令怎么启动、代码怎么分层、多模型供应商怎么接入和切换、上下文压缩怎么工作。文中引用均为 `文件:行号`,可直接跳过去对照。
Vue&Vite Conf 2026 参会快闪/ Plog
Vue&Vite Conf 2026 于 2026 年 7 月 18 日在上海举行,是第十届 Vue Conf ,也是国内第一届 Vite Conf。以下笔记受限于笔者水平和现场记忆,可能会有不充分或者错误的部分,读者海涵。
上下文窗口和消耗的 Token 有什么区别?
上下文窗口和消耗的 Token 有什么区别?
Cloudflare Turnstile 人机验证的并发竞态问题解决
Cloudflare Turnstile 人机验证的并发竞态问题解决
【最佳实践】Linux上部署openclaw并对接钉钉
本文介绍了在云服务器上部署 OpenClaw 并对接钉钉的教程。文章推荐 2 核 4GB 配置,通过 NVM 安装 Node.js 22,使用官方脚本安装 OpenClaw,安装钉钉插件后修改配置文件填入钉钉凭证和百炼 API 密钥即可完成部署。