有货
Factory Floor
一切背后的自动驾驶系统:本地 AI、看门狗以及为您自有 GPU 机器提供的自愈运维。
- Linux
- NVIDIA GPU
- ARM64 or x86-64

功能介绍
Factory Floor 是这样一个层级:它让一个人就能运行数百个定时任务,而无需时刻盯着。它正是支撑我们自己的设备集群在夜间持续工作的核心:它为其他所有套件所依赖的语言模型提供服务,察觉那些悄然死掉的任务,修复它已知的故障类型,并且除非真正需要你介入,否则保持沉默。
- 本地模型即服务。在一到两台 GPU 机器上,通过最少连接数代理提供 OpenAI-compatible 端点,并在切换模型前运行工具调用测试,确保升级不会破坏你的智能体。
- 针对静默故障的看门狗。已启用但未运行的服务、失败的单元、停止触发的定时器、每次重置后仍持续失败的单元:每种情况都有对应的检测器,而对于已知原因的故障,则配有修复规则。
- 机器防护机制。内存和温度防护机制会在机器崩溃前暂停重型任务,并在恢复后继续执行;磁盘防护机制会在空间耗尽前发出警告。
- 一封邮件,而非上百封。警报经过分组、去重,并以人类可读的方式撰写:出了什么问题、已经尝试过什么、你需要做什么。
- 循环执行的目标。给本地智能体一个目标;它在沙箱中一轮接一轮地工作,撰写日志,检查自身结果,并在你发出指令时停止。
套件包含哪些内容
看门狗
针对已死、失败和延迟单元的探测器,外加一个可读取和编辑的修复规则文件。通过一个安装脚本作为 systemd 定时器安装。
模型服务
针对一到两台机器的代理和启动配置、健康检查以及工具调用评估框架。
机器防护机制
用于暂停和恢复重型任务的内存与温度防护机制,以及磁盘空间防护机制。
警报
具备分组、重复抑制和静默时段功能的邮件发送器,以及每日摘要。
目标引擎
一个沙箱运行器,针对目标一轮接一轮地工作,包含冻结检查、坏轮次回滚以及每日摘要。
运维手册
安装和恢复指南,基于我们实际经历的故障事件编写。
系统要求
- Ubuntu 22.04 或 24.04,配备 systemd,x86-64 或 ARM64 架构。
- Python 3.10 或更新版本。
- 本地模型:配备 24 GB 或更多显存的 NVIDIA GPU(DGX Spark 级机器最为理想),或任何 OpenAI-compatible 端点。
- 用于接收警报的 SMTP 邮箱。
- 对于 Goal Engine:需单独安装 opencode,以及一个具备可靠工具调用能力的模型(附带的测试可告知您模型是否达标)。
须知
- 自动修复会重启服务。请先以仅报告模式启动,阅读规则,然后再开启修复功能。
- 不包含模型权重:您需自行下载所选模型,并遵守其各自的许可证。
- 您的许可证涵盖您自己的机器和您自己的业务。
常见问题
支持单台机器吗?
支持。第二台机器是可选的;代理只需有一个后端即可。
支持哪些模型?
任何通过 OpenAI-compatible API 提供的模型。在您切换之前,工具使用测试会告知您该模型是否足以胜任代理任务。
其他套件需要它吗?
不需要,但有了它会更好:每个重度依赖 AI 的套件都可以使用 Factory Floor 提供的端点和看门狗。
已更新: