Factory Floor
Automaatio kaiken alla: paikallinen tekoäly, vahtikoirat ja itsekorjautuvat toiminnot omalla GPU-laitteellasi.
- Linux
- NVIDIA GPU
- ARM64 or x86-64
Mitä se tekee
Factory Floor on kerros, jonka avulla yksi henkilö voi pyörittää satoja ajastettuja töitä ilman, että niitä tarvitsee seurata. Se pitää yllä omaa laivastoamme öisin: se palvelee kielimalleja, joita kaikki muut paketit käyttävät, huomaa hiljaa kuolevat työt, korjaa tuntemansa virheluokat ja pysyy hiljaa, ellei jotain todella tarvitse sinua.
- Paikalliset mallit palveluna. Tarjoa OpenAI-yhteensopiva päätepiste yhdestä tai kahdesta GPU-laatikosta vähäisimmän yhteyden välityksellä ja aja työkalukäyttötesti ennen mallien vaihtoa, jolloin päivitys ei riko agenttejasi.
- Vahdit hiljaisille vioille. Palvelut, jotka ovat käytössä mutta eivät käynnissä, epäonnistuneet yksiköt, ajastimet, jotka lakkaavat laukeamasta, ja yksiköt, jotka epäonnistuvat jatkuvasti nollauksen jälkeen: jokaiselle on tunnistin, ja tunnetun syyn omaavilla vioilla on korjaussääntö.
- Turvarajat koneelle. Muisti- ja lämpötilaturvarajat pysäyttävät raskaat työt ennen kuin laatikko kaatuu ja jatkavat niitä, kun se toipuu; levytilaturvaraja varoittaa ennen kuin tila loppuu.
- Yksi sähköposti, ei sataa. Hälytykset ryhmitellään, päällekkäiset poistetaan ja ne kirjoitetaan ihmiselle: mikä rikkoutui, mitä on jo yritetty ja mitä sinun pitää tehdä.
- Silmukat, jotka pyörivät silmukoissa. Anna paikalliselle agentille tavoite; se työskentelee sen parissa kierros kierrokselta hiekkalaatikossa, kirjoittaa lokin, tarkistaa tuloksensa ja pysähtyy, kun sanot niin.
Mitä paketissa on
Vahdit
Tunnistimet kuolleille, epäonnistuneille ja myöhästyneille yksiköille sekä luettavissa ja muokattavissa oleva korjaussääntötiedosto. Asennetaan systemd-ajastimina yhdellä asennusskriptillä.
Mallien tarjoilu
Välityspalvelin- ja käynnistyskonfiguraatiot yhdelle tai kahdelle laatikolle, kuntoilu ja työkalukäytön arviointikehys.
Koneen turvarajat
Muisti- ja lämpötilaturvarajat, jotka pysäyttävät ja jatkavat raskaita töitä, sekä levytilaturvaraja.
Hälytykset
Sähköpostin lähettäjä ryhmittelyllä, toistojen vaimennuksella ja hiljaisilla tunneilla sekä päivittäinen yhteenveto.
Tavoitemoottori
Hiekkalaatikkosuoritin, joka työskentelee tavoitteen parissa kierros kierrokselta, jäädytetyillä tarkistuksilla, huonojen kierrosten palautuksella ja päivittäisellä koosteella.
Toimintaohjeet
Asennus- ja palautusoppaat, kirjoitettu oikeista tapahtumista, joita meillä oli.
Vaatimukset
- Ubuntu 22.04 tai 24.04, jossa systemd, x86-64 tai ARM64.
- Python 3.10 tai uudempi.
- Paikalliset mallit: NVIDIA GPU, jossa on vähintään 24 GB (DGX Spark -luokan koneet ovat ihanteellisia), tai mikä tahansa OpenAI-yhteensopiva päätepiste.
- SMTP-postilaatikko hälytyksiä varten.
- Goal Engine: opencode, asennettuna erikseen, sekä malli, joka tuottaa luotettavia työkalukutsuja (mukana oleva testi kertoo tämän).
Tietoa
- Automaattinen korjaus käynnistää palvelut uudelleen. Aloita vain raportointitilassa, lue säännöt ja ota korjaukset sitten käyttöön.
- Mallipainot eivät sisälly pakettiin: lataat valitsemasi mallit niiden omien lisenssiehtojen mukaisesti.
- Lisenssi kattaa omat koneesi ja oman yrityksesi.
Kysymykset
Toimiiko se yhdellä koneella?
Kyllä. Toinen kone on valinnainen; välityspalvelimessa on yksinkertaisesti vain yksi taustapalvelin.
Mitä malleja se tukee?
Kaikkia malleja, jotka tarjotaan OpenAI-yhteensopivan API:n kautta. Työkalukäyttötesti kertoo, onko malli riittävän hyvä agentteja varten ennen vaihtoa.
Tarvitsevatko muut paketit sitä?
Eivät, mutta ne toimivat sen kanssa paremmin: jokainen tekoälypainotteinen paketti voi käyttää päätepistettä ja Factory Floorin tarjoamia vahteja.
Päivitetty: