一个编程智能体可能只有约 5% 的时间在用 CPU,因为它大部分时间都在等模型,所以 Agent37 让多个智能体共享同一批物理核心。

这种共享让它能以每小时 0.68 美元运行 100 个智能体。 所以这个设计是用共享 CPU 换取低价。