Agent并发神器Fiber体系详解

Fiber纤程 / 用户态线程本质上是用户空间user-space的轻量级线程。它比 OS thread 更轻、更快、更适合高并发调度。例如“Fast stackful fibers with a NUMA-aware work-stealing scheduler”Agent 使用 ClickHouse silk是现代高性能 AI Runtime / Agent Runtime方向了。1. Fiber 是什么传统线程OS Thread由操作系统调度kernel schedulerFiberUser-space scheduled execution context由程序自己调度。核心特点特性ThreadFiber调度者OS用户态 runtime切换成本高极低栈MB级KB级创建成本高很低上下文切换syscalluser-space并发数量千级十万级2. Fiber 的核心思想线程OS 抢占式调度Fiber协作式调度cooperative即主动 yield例如fiber_yield();runtime 才会切换。3. Fiber vs Coroutine最容易混淆的。Coroutine是语言级 suspend/resume 机制例如C20 coroutinePython asyncio coroutineRust async本身不是 schedulerFiber是完整执行上下文包括stackregistersexecution context可以任意函数深度 suspend因此stackful4. Stackful vs Stacklessasyncio / Rust async属于stackless coroutine只能在 await 点 suspendFiber属于stackful coroutine可以任意深度 yield例如foo()-bar()-baz()-yield整个调用栈都会保存。5. 为什么 Fiber 很快因为不进入内核线程切换save registers kernel mode scheduler TLB/cache disruptionFibersave few registers switch stack pointer continue通常几十 ns ~ 数百 ns6. Fiber 的运行模型M:N 调度经典M fibers mapped onto N threads例如100000 fibers running on 16 worker threads7. Fiber Scheduler核心runtime scheduler负责ready queuesleeping queueIO waitwork stealingNUMA affinity8. Fiber IOFiber 最大价值同步写法 异步性能例如autodatasocket.read();看起来阻塞。实际上fiber suspend thread 去执行别的 fiber9. Fiber 与 io_uring现代 Linux 及相关任务黄金组合Fiber io_uring流程fiber 发起 IO ↓ io_uring async submit ↓ fiber suspend ↓ worker 执行别的 fiber ↓ IO completion ↓ fiber resume这是现代高性能 runtime 核心10. 为什么数据库喜欢 Fiber例如ClickHouseScyllaDBMeta follyTencent libco因为高 IO 高并发Fiber 非常适合。11. ClickHouse Silk即silk非常先进。它的方向高性能 stackful fibers work stealing NUMA aware low latency为什么适合 AgentAgent runtime 本质大量微任务例如tool callHTTPDBwebsocketstreamingmemory retrieval特点IO-bound task graph high concurrencyFiber 非常适合。12. Fiber 在 Agent Runtime 中的意义未来 AI infra 正在从thread pool转向fiber runtime因为Agent 任务极碎片化例如Planner ↓ Searcher ↓ Retriever ↓ Coder ↓ Executor每个短生命周期 大量等待 IOThread 太重。Fiber 非常合适。13. Fiber vs asyncio特性asyncioFiber语言Python多为 C类型stacklessstackfulawait required是否调度event loopscheduler性能高极高调试容易较难系统级 runtime一般很强14. Fiber vs GoroutineGo goroutine本质也是 fiber runtimeGo runtimeGMP scheduler就是fiber scheduler15. Fiber vs TokioRust Tokiostackless async runtime不是 fiber。Rust fiber 类mayglommiomonoio但 Rust 主流async/await16. Fiber 在现代 AI Runtime 的趋势越来越重要推理系统vLLM schedulerasync batchingtoken streamingAgentOpenHandsOpenManusOpenClawbrowser agent数据系统ClickHouseVeloxDuckDB asyncRobotics研究ROS2VLA实时 pipeline未来也会fiberized runtime因为sensor IO extremely concurrent17. Fiber 最大难点(1) Debugstack trace 难。(2) Blocking syscall如果 fiber 所在线程被 syscall 阻塞整个 worker 卡住。所以需要non-blocking IO(3) TLSthread-local storage 问题。(4) NUMA跨 NUMAcache miss 非常严重因此NUMA-aware scheduler非常关键。18. 现代高性能 Fiber Runtime 代表CBoost.FiberFolly FiberslibacoSilkGogoroutineRusttokiostacklessmonoioglommio19. 最佳理解路径第一阶段先彻底理解asyncio↓event loop↓cooperative scheduling第二阶段再看fiber runtime↓work stealing↓NUMA scheduling第三阶段最后io_uring↓high-performance agent runtime20. AI趋势现代 AI infra 正在逐渐演化成Distributed Operating System而Fiber Runtime正在成为AI OS 的核心调度层这也是ClickHouse SilkTokioGo runtimeSeastarRayvLLM scheduler这些系统越来越重要的原因。