Factory Floor

Што прави

Factory Floor е слојот што овозможува една личност да управува со стотици закажани задачи без да ги надгледува. Тоа е она што ја држи нашата сопствена флота да работи ноќе: ги опслужува јазичните модели што ги користи секој друг комплет, ги забележува задачите што умираат тивко, ги поправа познатите класи на грешки и молчи освен ако нешто навистина не бара вашето внимание.

• Локални модели како услуга. Ослужувајте OpenAI-compatible крајна точка од едно или две GPU кутија зад прокси со најмалку врски, и извршете тест за користење алатки пред да смените модели, за да не скршите агенти при надградба.
• Watchdogs за тивките грешки. Услуги што се овозможени но не работат, единици што не успеаја, тајмери што престанаа да се активираат, единици што постојано не успеваат после секое ресетирање: секоја има детектор, а грешките со позната причина имаат правило за поправка.
• Заштитни механизми за машината. Заштитните механизми за меморија и температура ги паузираат тешките задачи пред машината да падне и ги продолжуваат кога ќе се опорави; заштитниот механизам за диск предупредува пред просторот да се исцрпи.
• Еден е-маил, не стотина. Предупредувањата се групирани, отстранети дупликати и напишани за човек: што се скрши, што веќе е пробано, што треба да направите.
• Цели што се извршуваат во циклуси. Дајте цел на локален агент; тој работи на неа рунда по рунда во песочник, пишува дневник, го проверува својот резултат и запира кога ќе кажете.

Што има внатре