Factory Floor
De autopilot onder alles: lokale AI, watchdogs en zelfherstellende operaties voor je eigen GPU-box.
- Linux
- NVIDIA GPU
- ARM64 or x86-64
Wat het doet
Factory Floor is de laag waarmee één persoon honderden geplande taken kan uitvoeren zonder erbij te hoeven kijken. Het houdt onze eigen vloot ’s nachts aan het werk: het bedient de taalmodellen die alle andere kits gebruiken, merkt taken op die stilzwijgend falen, repareert de bekende foutklassen en blijft stil tenzij er echt iets aan de hand is.
- Lokale modellen als dienst. Serveer een OpenAI-compatible endpoint vanaf één of twee GPU-boxes achter een least-connection proxy, en voer een tool-use test uit voordat je van model wisselt, zodat een upgrade je agents nooit breekt.
- Watchdogs voor stilzwijgende fouten. Services die zijn ingeschakeld maar niet draaien, units die zijn mislukt, timers die zijn gestopt met vuren, units die na elke reset blijven falen: voor elk type is er een detector, en fouten met een bekende oorzaak hebben een reparatieregel.
- Bewakers voor de machine. Geheugen- en temperatuurbewakers pauzeren de zware taken voordat de box omvalt en hervatten ze zodra deze herstelt; de schijfbewaker waarschuwt voordat de ruimte opraakt.
- Eén e-mail, niet honderd. Meldingen worden gegroepeerd, ontdubbeld en voor mensen geschreven: wat er kapot is, wat er al is geprobeerd en wat jij moet doen.
- Doelen die in lussen draaien. Geef een lokaal agent een doel; het werkt er ronde na ronde aan in een sandbox, schrijft een logboek, controleert het eigen resultaat en stopt wanneer jij dat zegt.
Wat zit erin
Watchdogs
Detectors voor dode, mislukte en te late units, plus een reparatieregelbestand dat je kunt lezen en bewerken. Geïnstalleerd als systemd timers door één installatiescript.
Model serving
Proxy- en opstartconfiguraties voor één of twee boxes, een health check en de tool-use evaluatieharness.
Machinebewakers
Geheugen- en hittebewakers die zware taken pauzeren en hervatten, en een schijfruimtebewaker.
Meldingen
Een e-mailverzorger met groepering, onderdrukkende herhalingen en stille uren, plus een dagelijkse samenvatting.
Goal Engine
Een sandboxed runner die ronde na ronde aan een doel werkt, met bevroren checks, terugdraaien van slechte rondes en een dagelijkse digest.
Runbooks
Installatie- en herstergidsen, geschreven vanuit incidenten die we daadwerkelijk hebben meegemaakt.
Vereisten
- Ubuntu 22.04 of 24.04 met systemd, x86-64 of ARM64.
- Python 3.10 of nieuwer.
- Voor lokale modellen: een NVIDIA GPU met 24 GB of meer (DGX Spark-achtige machines zijn ideaal), of een OpenAI-compatibel endpoint.
- Een SMTP-postbus voor waarschuwingen.
- Voor de Goal Engine: opencode, apart geïnstalleerd, en een model met betrouwbare tool calls (de meegeleverde test laat dit zien).
Goed om te weten
- Auto-repair start services opnieuw. Begin in alleen-rapportagemodus, lees de regels en zet de reparaties daarna aan.
- Modelgewichten zijn niet inbegrepen: je downloadt de modellen die je kiest, onder hun eigen licenties.
- Je licentie dekt je eigen machines en je eigen bedrijf.
Vragen
Werkt het met één machine?
Ja. De tweede machine is optioneel; de proxy heeft simpelweg één backend.
Welke modellen worden ondersteund?
Alles wat wordt aangeboden via een OpenAI-compatibele API. De tool-use test laat je weten of een model goed genoeg is voor agents voordat je overschakelt.
Hebben de andere kits het nodig?
Nee, maar ze worden er beter van: elke AI-intensieve kit kan het endpoint en de watchdogs van Factory Floor gebruiken.
Bijgewerkt: