Factory Floor
ระบบอัตโนมัติเบื้องหลังทุกอย่าง: AI ในเครื่อง, ตัวตรวจสอบระบบ และการซ่อมแซมตัวเองสำหรับเครื่อง GPU ของคุณ
- Linux
- NVIDIA GPU
- ARM64 or x86-64
ฟีเจอร์หลัก
Factory Floor คือเลเยอร์ที่ช่วยให้คนคนเดียวรันงานตามกำหนดการหลายร้อยงานโดยไม่ต้องคอยเฝ้าดู มันคือสิ่งที่ทำให้ระบบของเราทำงานต่อได้ตลอดคืน: มันให้บริการโมเดลภาษาที่ชุดเครื่องมืออื่น ๆ ใช้งาน, ตรวจจับงานที่ล้มเหลวเงียบ ๆ, ซ่อมแซมประเภทความล้มเหลวที่มันรู้จัก, และจะเงียบไว้เว้นแต่มีเรื่องที่คุณต้องจัดการจริง ๆ
- โมเดลท้องถิ่นแบบบริการ ให้บริการ OpenAI-compatible endpoint จากเครื่อง GPU หนึ่งหรือสองเครื่องที่อยู่หลัง proxy แบบ least-connection และรันการทดสอบการใช้เครื่องมือก่อนสลับโมเดล เพื่อให้การอัปเกรดไม่ทำให้อาเจนต์ของคุณพัง
- ตัวตรวจสอบระบบสำหรับความล้มเหลวเงียบ ๆ บริการที่เปิดใช้งานแต่ไม่ได้รัน, หน่วยที่ล้มเหลว, ตัวจับเวลาที่หยุดทำงาน, และหน่วยที่ล้มเหลวซ้ำหลังรีเซ็ต: แต่ละอย่างมีตัวตรวจจับ และความล้มเหลวที่ทราบสาเหตุมีกฎการซ่อมแซม
- ตัวจำกัดความปลอดภัยสำหรับเครื่อง ตัวจำกัดความปลอดภัยด้านหน่วยความจำและอุณหภูมิจะพักงานหนักก่อนที่เครื่องจะล่ม และทำงานต่อเมื่อเครื่องฟื้นตัว; ตัวจำกัดความปลอดภัยด้านดิสก์จะเตือนก่อนพื้นที่หมด
- อีเมลฉบับเดียว ไม่ใช่ร้อยฉบับ การแจ้งเตือนถูกจัดกลุ่ม, กำจัดรายการซ้ำ และเขียนสำหรับมนุษย์: อะไรพัง, อะไรที่ลองแก้ไปแล้ว, และคุณต้องทำอะไร
- เป้าหมายที่รันเป็นลูป กำหนดเป้าหมายให้อาเจนต์ท้องถิ่น; มันจะทำงานตามเป้าหมายนั้นซ้ำแล้วซ้ำเล่าในแซนด์บ็อกซ์, เขียนบันทึก, ตรวจสอบผลลัพธ์ของมันเอง และหยุดเมื่อคุณสั่ง
มีอะไรอยู่ในชุดเครื่องมือ
ตัวตรวจสอบระบบ
ตัวตรวจจับสำหรับหน่วยที่ตาย, ล้มเหลว และมาช้า รวมถึงไฟล์กฎการซ่อมแซมที่คุณอ่านและแก้ไขได้ ติดตั้งเป็น systemd timers ด้วยสคริปต์ติดตั้งตัวเดียว
การให้บริการโมเดล
การตั้งค่า proxy และ launch สำหรับหนึ่งหรือสองเครื่อง, การตรวจสอบสุขภาพ และชุดทดสอบการใช้เครื่องมือ
ตัวจำกัดความปลอดภัยสำหรับเครื่อง
ตัวจำกัดความปลอดภัยด้านหน่วยความจำและความร้อนที่พักและทำงานต่องานหนัก รวมถึงตัวจำกัดความปลอดภัยด้านพื้นที่ดิสก์
การแจ้งเตือน
ตัวส่งอีเมลพร้อมการจัดกลุ่ม, การระงับการส่งซ้ำ, ช่วงเวลาเงียบ และสรุปผลรายวัน
Goal Engine
ตัวรันในแซนด์บ็อกซ์ที่ทำงานตามเป้าหมายซ้ำแล้วซ้ำเล่า พร้อมการตรวจสอบแบบคงที่, การย้อนกลับรอบที่ผิดพลาด และสรุปผลรายวัน
คู่มือปฏิบัติการ
คู่มือการติดตั้งและการกู้คืน เขียนจากเหตุการณ์ที่เราเคยเจอจริง
ข้อกำหนด
- Ubuntu 22.04 หรือ 24.04 พร้อม systemd, x86-64 หรือ ARM64
- Python 3.10 ขึ้นไป
- สำหรับโมเดลในเครื่อง: การ์ดจอ NVIDIA ที่มี VRAM 24 GB ขึ้นไป (เครื่องระดับ DGX Spark เหมาะสมที่สุด) หรือ endpoint ที่รองรับ OpenAI-compatible
- กล่องจดหมาย SMTP สำหรับแจ้งเตือน
- สำหรับ Goal Engine: opencode ซึ่งติดตั้งแยกต่างหาก และโมเดลที่เรียกใช้เครื่องมือได้อย่างเชื่อถือได้ (การทดสอบที่แนบมาจะบอกคุณเอง)
ข้อมูลที่เป็นประโยชน์
- Auto-repair จะรีสตาร์ทบริการ เริ่มในโหมดรายงานผลเท่านั้น อ่านกฎก่อน แล้วจึงเปิดใช้งานการซ่อมแซม
- ไม่รวมน้ำหนักโมเดล: คุณดาวน์โหลดโมเดลที่เลือกเองภายใต้ใบอนุญาตของโมเดลนั้นๆ
- ใบอนุญาตของคุณครอบคลุมเครื่องของคุณเองและธุรกิจของคุณเอง
คำถาม
ใช้งานกับเครื่องเดียวได้ไหม?
ได้ เครื่องที่สองเป็นตัวเลือกเสริม โดย proxy จะใช้ backend เพียงตัวเดียว
รองรับโมเดลอะไรบ้าง?
รองรับทุกอย่างที่ให้บริการผ่าน API แบบ OpenAI-compatible การทดสอบการใช้เครื่องมือจะบอกคุณว่าโมเดลนั้นดีพอสำหรับเอเจนต์หรือไม่ ก่อนที่คุณจะสลับไปใช้
ชุดเครื่องมืออื่นจำเป็นต้องใช้ไหม?
ไม่จำเป็น แต่จะทำงานได้ดีขึ้นเมื่อมีมัน: ชุดเครื่องมือทุกตัวที่เน้น AI สามารถใช้ endpoint และตัวตรวจสอบระบบที่ Factory Floor จัดให้
อัปเดตแล้ว: