Factory Floor

Ne yapar

Factory Floor, tek bir kişinin yüzlerce zamanlanmış işi izlemesine gerek kalmadan çalıştırmasını sağlayan katmandır. Kendi filomuzun gece boyunca çalışmasını sağlayan da budur: diğer tüm Paketlerin kullandığı dil modellerini sunar, sessizce ölen işleri fark eder, bildiği arıza sınıflarını onarır ve gerçekten sizin müdahalenizi gerektiren bir durum olmadıkça sessiz kalır.

• Yerel modelleri hizmet olarak sunun. En az bağlantı proxy’sinin arkasındaki bir veya iki GPU kutusundan OpenAI-compatible bir uç nokta sunun ve modelleri değiştirmeden önce bir araç kullanımı testi çalıştırın; böylece bir yükseltme ajanlarınızı asla bozmaz.
• Sessiz arızalar için Gözetim mekanizmaları. Etkinleştirilmiş ancak çalışmayan servisler, başarısız olan birimler, ateşlemeyi bırakan Zamanlayıcılar ve her sıfırlamadan sonra başarısız olmaya devam eden birimler: her biri için bir algılayıcı var ve bilinen bir nedene sahip arızalar için bir onarım kuralı mevcut.
• Makine için Güvenlik kısıtları. Bellek ve sıcaklık Güvenlik kısıtları, kutu devrilmeden önce ağır işleri duraklatır ve toparlandığında yeniden başlatır; disk Güvenlik kısıtı, alan tükenmeden önce uyarır.
• Yüz e-posta değil, tek bir e-posta. Uyarılar gruplanır, yinelenenler ayıklanır ve bir insan için yazılır: ne bozuldu, ne denendi ve sizin ne yapmanız gerekiyor.
• Döngüler halinde çalışan hedefler. Yerel bir ajana bir hedef verin; bir kum havuzunda tur tur üzerinde çalışır, bir günlük yazar, kendi sonucunu kontrol eder ve siz söylediğinizde durur.

İçinde neler var