Factory Floor
Ο αυτόματος πιλότος κάτω από τα πάντα: τοπική AI, φύλακες και αυτοθεραπευόμενες λειτουργίες για το δικό σας μηχάνημα με GPU.
- Linux
- NVIDIA GPU
- ARM64 or x86-64
Τι κάνει
Το Factory Floor είναι το επίπεδο που επιτρέπει σε ένα άτομο να εκτελεί εκατοντάδες προγραμματισμένες εργασίες χωρίς να τις παρακολουθεί. Είναι αυτό που κρατά την δική μας στολή να λειτουργεί τη νύχτα: εξυπηρετεί τα γλωσσικά μοντέλα που χρησιμοποιούν όλες οι άλλες Εργαλειοθήκες, εντοπίζει τις εργασίες που πεθαίνουν σιωπηλά, επισκευάζει τις κατηγορίες βλαβών που γνωρίζει και παραμένει σιωπηλό εκτός αν κάτι πραγματικά χρειάζεται εσένα.
- Τοπικά μοντέλα ως υπηρεσία. Εξυπηρετήστε ένα OpenAI-compatible endpoint από ένα ή δύο κουτιά GPU πίσω από έναν proxy με ελάχιστες συνδέσεις, και εκτελέστε μια δοκιμή χρήσης εργαλείου πριν αλλάξετε μοντέλα, ώστε μια αναβάθμιση να μην χαλάσει ποτέ τους πράκτορές σας.
- Φύλακες για τις σιωπηλές βλάβες. Υπηρεσίες που είναι ενεργοποιημένες αλλά δεν τρέχουν, μονάδες που απέτυχαν, Χρονοδιακόπτες που σταμάτησαν να πυροδοτούνται, μονάδες που συνεχίζουν να αποτυγχάνουν μετά από κάθε επαναφορά: καθεμία έχει έναν ανιχνευτή, και οι βλάβες με γνωστή αιτία έχουν έναν κανόνα επισκευής.
- Μηχανισμοί ασφαλείας για τη μηχανή. Οι μηχανισμοί ασφαλείας μνήμης και θερμοκρασίας παύουν τις βαριές εργασίες πριν πέσει το κουτί και τις επαναφέρουν όταν ανακάμψει· ο μηχανισμός ασφαλείας δίσκου προειδοποιεί πριν εξαντληθεί ο χώρος.
- Ένα email, όχι εκατό. Οι ειδοποιήσεις ομαδοποιούνται, αφαιρούνται οι διπλότυπες και γράφονται για άνθρωπο: τι χάλασε, τι δοκιμάστηκε ήδη, τι χρειάζεται να κάνετε.
- Στόχοι που τρέχουν σε βρόχους. Δώστε σε έναν τοπικό πράκτορα έναν στόχο· εργάζεται πάνω σε αυτόν γύρο μετά τον γύρο σε ένα sandbox, γράφει ένα αρχείο καταγραφής, ελέγχει το δικό του αποτέλεσμα και σταματά όταν το πείτε εσείς.
Τι περιέχει
Φύλακες
Ανιχνευτές για νεκρές, αποτυχημένες και καθυστερημένες μονάδες, συν ένα αρχείο κανόνων επισκευής που μπορείτε να διαβάσετε και να επεξεργαστείτε. Εγκαθίστανται ως Χρονοδιακόπτες systemd με ένα σενάριο εγκατάστασης.
Εξυπηρέτηση μοντέλων
Ρυθμίσεις proxy και εκκίνησης για ένα ή δύο κουτιά, έλεγχος υγείας και η υποδομή αξιολόγησης χρήσης εργαλείων.
Μηχανισμοί ασφαλείας μηχανής
Μηχανισμοί ασφαλείας μνήμης και θερμότητας που παύουν και επαναφέρουν τις βαριές εργασίες, και ένας μηχανισμός ασφαλείας χώρου δίσκου.
Ειδοποιήσεις
Ένας αποστολέας email με ομαδοποίηση, καταστολή επαναλήψεων και ώρες ησυχίας, καθώς και μια ημερήσια σύνοψη.
Μηχανή Στόχων
Ένας εκτελεστής σε sandbox που εργάζεται σε έναν στόχο γύρο μετά τον γύρο, με παγωμένους ελέγχους, αναίρεση κακών γύρων και ένα ημερήσιο δελτίο.
Εγχειρίδια λειτουργίας
Οδηγοί εγκατάστασης και αποκατάστασης, γραμμένοι από περιστατικά που είχαμε πραγματικά.
Απαιτήσεις
- Ubuntu 22.04 ή 24.04 με systemd, x86-64 ή ARM64.
- Python 3.10 ή νεότερη έκδοση.
- Για τοπικά μοντέλα: κάρτα γραφικών NVIDIA με 24 GB ή περισσότερο (μηχανήματα κατηγορίας DGX Spark είναι ιδανικά), ή οποιοδήποτε OpenAI-compatible endpoint.
- Ένας λογαριασμός SMTP για ειδοποιήσεις.
- Για το Goal Engine: opencode, εγκατεστημένο ξεχωριστά, και ένα μοντέλο με αξιόπιστες κλήσεις εργαλείων (η συμπεριλαμβανόμενη δοκιμή σας το επιβεβαιώνει).
Χρήσιμο να γνωρίζετε
- Η αυτόματη επισκευή επανεκκινεί τις υπηρεσίες. Ξεκινήστε σε λειτουργία αναφοράς μόνο, διαβάστε τους κανόνες και στη συνέχεια ενεργοποιήστε τις επισκευές.
- Τα βάρη των μοντέλων δεν περιλαμβάνονται: κατεβάζετε τα μοντέλα που επιλέγετε, βάσει των δικών τους αδειών χρήσης.
- Η άδεια χρήσης σας καλύπτει τους δικούς σας υπολογιστές και την επιχείρησή σας.
Ερωτήσεις
Λειτουργεί με έναν μόνο υπολογιστή;
Ναι. Ο δεύτερος υπολογιστής είναι προαιρετικός· ο proxy απλώς έχει ένα backend.
Ποια μοντέλα υποστηρίζει;
Οποιοδήποτε εξυπηρετείται μέσω OpenAI-compatible API. Η δοκιμή χρήσης εργαλείων σας λέει αν ένα μοντέλο είναι αρκετά καλό για agents πριν το εναλλάξετε.
Το χρειάζονται οι άλλες Εργαλειοθήκες;
Όχι, αλλά βελτιώνονται χάρη σε αυτό: κάθε Εργαλειοθήκη με έντονη χρήση AI μπορεί να χρησιμοποιήσει το endpoint και τους Φύλακες που παρέχει το Factory Floor.
Ενημερώθηκε: