Factory Floor
Le pilote automatique sous tout le reste : IA locale, chiens de garde et opérations auto-réparatrices pour votre propre machine GPU.
- Linux
- NVIDIA GPU
- ARM64 or x86-64
Ce qu'il fait
Factory Floor est la couche qui permet à une seule personne de gérer des centaines de tâches planifiées sans les surveiller. C'est ce qui maintient notre propre parc opérationnel la nuit : il sert les modèles de langage utilisés par tous les autres Kits, détecte les tâches qui meurent en silence, répare les classes de pannes connues et reste silencieux sauf si quelque chose nécessite vraiment votre intervention.
- Modèles locaux en tant que service. Servez un point de terminaison OpenAI-compatible depuis un ou deux boîtiers GPU derrière un proxy à moindre connexion, et lancez un test d'utilisation d'outils avant de changer de modèle, afin qu'une mise à niveau ne casse jamais vos agents.
- Chiens de garde pour les pannes silencieuses. Services activés mais morts, unités en échec, minuteurs qui ont cessé de se déclencher, tâches bloquées pendant des heures : chacun dispose d'un détecteur et, lorsque la correction est connue, d'une réparation.
- Garde-fous pour la machine. Les garde-fous mémoire, disque et température mettent en pause les tâches lourdes avant que la machine ne tombe, puis les reprennent.
- Un seul e-mail, pas cent. Les alertes sont regroupées, dédupliquées et rédigées pour un humain : ce qui a cassé, ce qui a déjà été tenté, ce que vous devez faire.
- Objectifs en boucle. Donnez un objectif à un agent local ; il y travaille tour après tour dans un bac à sable, écrit un journal, vérifie son propre résultat et s'arrête quand vous le décidez.
Ce qui est inclus
Unités et minuteurs
Modèles systemd pour les workers, minuteurs avec jitter, limites de ressources et règles de redémarrage.
Chiens de garde
Détecteurs pour les unités mortes, en échec ou en retard, ainsi qu'un fichier de règles de réparation que vous pouvez lire et modifier.
Serveur de modèles
Configurations de proxy et de lancement pour un ou deux boîtiers, et l'outil d'évaluation de l'utilisation d'outils.
Garde-fous machine
Garde-fous mémoire, disque et thermique avec mise en pause et reprise des tâches lourdes.
Alertes
Un expéditeur d'e-mails avec regroupement et heures calmes, et un résumé quotidien de ce qui a tourné.
Runbooks
Guides d'installation, de mise à niveau et de récupération, rédigés à partir d'incidents réellement survenus.
Prérequis
- Ubuntu 22.04 ou 24.04 avec systemd, x86-64 ou ARM64.
- Python 3.10 ou plus récent.
- Pour les modèles locaux : un GPU NVIDIA avec 24 Go ou plus (les machines de classe DGX Spark sont idéales), ou tout point de terminaison OpenAI-compatible.
- Une boîte aux lettres SMTP pour les alertes.
À savoir
- La réparation automatique redémarre les services. Commencez en mode rapport uniquement, lisez les règles, puis activez les réparations.
- Les poids des modèles ne sont pas inclus : le script d’installation télécharge les modèles que vous choisissez, sous leurs propres licences.
- Votre licence couvre vos propres machines et votre propre entreprise.
Questions
Fonctionne-t-il avec une seule machine ?
Oui. La deuxième machine est optionnelle ; le proxy n’a simplement qu’un seul backend.
Quels modèles prend-il en charge ?
Tout ce qui est servi via une API OpenAI-compatible. Le test d’utilisation d’outils vous indique si un modèle est suffisamment bon pour les agents avant que vous ne basculiez.
Les autres kits en ont-ils besoin ?
Non, mais ils s’améliorent avec lui : chaque kit à forte composante IA peut utiliser le point de terminaison et les chiens de garde fournis par Factory Floor.
Mis à jour: