From LLM Apps to Agent Systems: Building an AI Operating System with Octos

如果你能像苏格拉底的守护灵一样设计Agent——不是一个，而是多个呢？一个守护灵监视你的项目演变，在周一会议前生成幻灯片。另一个将你的早间新闻策划成个性化的电台节目，用你喜欢的声音朗读。第三个在夜间编排一个研究流水线，八个工作节点并行展开。每条臂独立思考，所有臂共享一个大脑。

Octos——开放认知任务编排系统——将这一架构变为现实。一个仅31MB的Rust二进制文件，在Mac Mini上为200多名用户提供服务。无需Python、Docker或运行时依赖。15个LLM提供商配备3层故障转移，确保你的守护灵永不沉默。12个消息通道，让它们在人们所在的地方与之会面。三层记忆，让它们记住重要的事情。智能工具管理让Agent保持敏锐——30多种能力可用，但任何时刻只有15个处于活跃状态，就像章鱼选择伸出哪些触臂。

在本次演讲中，我们将探索构建超越聊天的Agent应用背后的设计原则——从多通道存在到主动编排，从提供商弹性到赋予Agent多条触臂而不失其心智的难题。

你将带着一个新的思维模型离开：Agent不是你使用的工具，而是你设计的守护灵。