Factory Floor
Ավտոպիլոտը ամեն ինչի տակ՝ տեղային AI, վոչդոգներ և ինքնաբուժվող օպերացիաներ ձեր սեփական GPU սարքի համար։
- Linux
- NVIDIA GPU
- ARM64 or x86-64
Ինչ է անում
Factory Floor-ը այն շերտն է, որը թույլ է տալիս մեկ մարդու կառավարել հարյուրավոր ժամանակացույցով աշխատող առաջադրանքներ՝ առանց դրանք հետևելու։ Այն է, որ պահում է մեր սեփական ֆլիտը գիշերային աշխատանքի մեջ. այն մատուցում է լեզվական մոդելները, որոնք օգտագործում են մյուս բոլոր հավաքածուները, նկատում է լռությամբ կանգ առնող առաջադրանքները, վերականգնում է իրեն հայտնի խափանումների դասերը և լռում է, եթե իրոք ձեզնից մի բան չի պահանջվում։
- Տեղական մոդելներ որպես ծառայություն։ Մեկ կամ երկու GPU-ով սարքերի հետևում նվազագույն կապերի պրոքսիի միջոցով մատուցեք OpenAI-compatible endpoint և կատարեք գործիքների օգտագործման թեստ մինչև մոդելները փոխելը, որպեսզի բարձրացումը երբեք չխափանի ձեր agent-ները։
- Վոչդոգներ լռակյաց խափանումների համար։ Ծառայություններ, որոնք միացված են, բայց չեն աշխատում, միավորներ, որոնք ձախողվել են, տայմերներ, որոնք դադարել են գործարկվել, միավորներ, որոնք շարունակում են ձախողվել յուրաքանչյուր վերականգնումից հետո. յուրաքանչյուրն ունի հայտնաբերիչ, և հայտնի պատճառով խափանումներն ունեն վերականգնման կանոն։
- Պահպանիչներ մեքենայի համար։ Հիշողության և ջերմաստիճանի պահպանիչները կանգնեցնում են ծանր առաջադրանքները, նախքան սարքը կխափանվի, և վերսկսում են դրանք, երբ այն վերականգնվում է. սկավառակի պահպանիչը նախազգուշացնում է, նախքան տարածքը կսպառվի։
- Մեկ էլ. հեղեղ, ոչ թե հարյուր։ Ծանուցումները խմբավորված են, կրկնօրինակները հեռացված և գրված մարդու համար. ինչը խափանվեց, ինչն արդեն փորձվեց, ինչը պետք է անել։
- Նպատակներ, որոնք աշխատում են ցիկլերով։ Տեղական agent-ին տվեք նպատակ. այն աշխատում է դրա վրա շրջան առ շրջան ավազարկղում, գրում է մատյան, ստուգում է իր արդյունքը և կանգ է առնում, երբ դուք ասում եք։
Ինչ կա ներսում
Վոչդոգներ
Հայտնաբերիչներ մեռած, ձախողված և ուշացած միավորների համար, ինչպես նաև վերականգնման կանոնների ֆայլ, որը կարող եք կարդալ և խմբագրել։ Տեղադրվում է որպես systemd timers մեկ տեղադրման սկրիպտով։
Մոդելների մատուցում
Պրոքսի և մեկնարկի կոնֆիգուրացիաներ մեկ կամ երկու սարքերի համար, առողջության ստուգում և գործիքների օգտագործման գնահատման հարթակ։
Մեքենայի պահպանիչներ
Հիշողության և ջերմության պահպանիչներ, որոնք կանգնեցնում և վերսկսում են ծանր առաջադրանքները, և սկավառակի տարածքի պահպանիչ։
Ծանուցումներ
Էլ. հասցեագրիչ՝ խմբավորմամբ, կրկնօրինակների ճնշմամբ և լռության ժամերով, ինչպես նաև ամենօրյա ամփոփում։
Նպատակի շարժիչ
Ավազարկղում աշխատող մեկնարկիչ, որը աշխատում է նպատակի վրա շրջան առ շրջան, սառեցված ստուգումներով, վատ շրջանների հետադարձմամբ և ամենօրյա ամփոփագրով։
Շահագործման ուղեցույցներ
Տեղադրման և վերականգնման ուղեցույցներ, գրված մեր իրական ունեցած դեպքերից։
Պահանջներ
- Ubuntu 22.04 կամ 24.04՝ systemd-ով, x86-64 կամ ARM64:
- Python 3.10 կամ ավելի նոր:
- Տեղական մոդելների համար՝ NVIDIA GPU՝ 24 ԳԲ կամ ավելի (DGX Spark դասի մեքենաները իդեալական են), կամ ցանկացած OpenAI-compatible endpoint:
- SMTP փոստի արկղ՝ ծանուցումների համար:
- Goal Engine-ի համար՝ opencode, տեղադրված առանձին, և մոդել՝ հուսալի գործիքային կանչերով (ներառված թեստը ձեզ կասի դա):
Օգտակար է իմանալ
- Ավտո-վերանորոգումը վերագործարկում է ծառայությունները: Սկսեք միայն հաշվետվությունների ռեժիմով, կարդացեք կանոնները, ապա միացրեք վերանորոգումները:
- Մոդելների կշիռները ներառված չեն. դուք ներբեռնում եք ձեր ընտրած մոդելները՝ ըստ դրանց սեփական լիցենզիաների:
- Ձեր լիցենզիան ծածկում է ձեր սեփական մեքենաները և ձեր սեփական բիզնեսը:
Հարցեր
Արդյո՞ք այն աշխատում է մեկ մեքենայով:
Այո: Երկրորդ մեքենան կամավոր է; պրոքսին պարզապես ունի մեկ բեքենդ:
Ո՞ր մոդելներն է այն աջակցում:
Ցանկացած բան, որը մատուցվում է OpenAI-compatible API-ի միջոցով: Գործիքների օգտագործման թեստը ձեզ ասում է, թե արդյոք մոդելը բավարար է ագենտների համար, նախքան փոխանակելը:
Արդյո՞ք մյուս հավաքածուները կարիք ունեն դրա:
Ոչ, բայց դրանք ավելի լավն են դառնում դրա հետ. յուրաքանչյուր AI-ով ծանրաբեռնված հավաքածու կարող է օգտագործել endpoint-ը և Factory Floor-ի ապահոված վոչդոգները:
Թարմացված է: