Factory Floor

Co robi

Factory Floor to warstwa, która pozwala jednej osobie uruchamiać setki zaplanowanych zadań bez konieczności ich nadzorowania. To dzięki niej nasza własna flota działa w nocy: obsługuje modele językowe używane przez inne zestawy, wykrywa zadania, które cicho padają, naprawia znane klasy błędów i milczy, dopóki coś naprawdę nie wymaga Twojej uwagi.

• Modele lokalne jako usługa. Udostępnij endpoint zgodny z OpenAI z jednego lub dwóch serwerów GPU za pośrednictwem proxy z równoważeniem obciążenia opartym na najmniejszej liczbie połączeń i uruchom test użycia narzędzi przed przełączeniem modeli, aby aktualizacja nigdy nie zepsuła Twoich agentów.
• Watchdogi dla cichych awarii. Usługi włączone, ale nieuruchomione, jednostki, które się nie powiodły, timery, które przestały się odpalać, jednostki, które nadal się nie powiodą po każdym resecie: dla każdej z nich istnieje detektor, a awarie ze znaną przyczyną mają regułę naprawy.
• Zabezpieczenia dla maszyny. Zabezpieczenia pamięci i temperatury wstrzymują ciężkie zadania, zanim serwer padnie, i wznawiają je po odzyskaniu sprawności; zabezpieczenie dysku ostrzega, zanim skończy się miejsce.
• Jeden e-mail, a nie sto. Alerty są grupowane, deduplikowane i pisane dla człowieka: co się zepsuło, co już próbowano i co musisz zrobić.
• Cele działające w pętlach. Podaj lokalnemu agentowi cel; pracuje nad nim runda po rundzie w środowisku izolowanym, zapisuje log, sprawdza własny wynik i zatrzymuje się, gdy tak postanowisz.

Co zawiera zestaw