Iterate.ai 推出 Lifeboat：面向 Agent 长会话的推理引擎，主打更高 GPU 并发与机密计算

这次有什么变化

Iterate.ai 10 月 5 日推出 Lifeboat，一款针对长时间、多轮 Agent 会话设计的推理引擎，加入公平调度、准入控制、缓存优化与机密计算，并提供 OpenAI 兼容 API。厂商宣称部分工作负载可把单 GPU 同时承载的 Agent 会话数提升 2–6 倍；其一项 RTX PRO 6000 Blackwell + Qwen 30B-A3B 测试记录了 2,048 个并发会话。性能数字来自厂商测试，不能外推为所有模型和硬件上的通用优势。