专注前沿技术学习开发
独立开发者,深耕 AI 工程化、系统编程与 Web3 基础设施。 记录学习路径,分享实践心得,构建有影响力的技术工具。
// current_focus
- Rust 异步运行时优化
- LLM 应用架构设计
- Web3 数据索引协议
技术动态
Rust 异步运行时性能对比:tokio vs smol
对 tokio 与 smol 在单线程、多线程场景下的吞吐量与延迟进行基准测试对比。 发现在高并发短连接场景下,tokio 多线程调度优势明显,而 smol 在低负载场景内存占用更优。
从零构建一个轻量 LLM Agent 框架
用 TypeScript 实现了一个最小化的 LLM Agent 运行时,支持工具调用链、记忆管理 与多轮对话。核心不到 500 行,适合理解 Agent 底层原理。已开源至 GitHub。
WebAssembly 边缘计算实战:在 CDN 上跑推理
利用 WASI 运行时在 Cloudflare Workers 上部署轻量 ML 推理, 延迟从 200ms 降至 15ms。技术栈:Rust + wasm-bindgen + ONNX Runtime。
开源项目
async-bench
异步运行时性能基准测试工具,支持 tokio / smol / async-std 横向对比,自动生成可视化报告。
mini-agent
最小化 LLM Agent 框架,支持工具调用与记忆管理。TypeScript 实现,核心小于 500 行。
edge-infer
WebAssembly 边缘推理运行时,支持在 CDN Worker 上部署 ONNX 模型,延迟低于 20ms。
技术主题
AI 工程化
LLM 应用架构、RAG、Agent 设计模式
系统编程
Rust 异步运行时、内存管理、性能优化
Web3 基础设施
数据索引协议、智能合约、去中心化存储
边缘计算
WebAssembly、CDN Worker、轻量推理