Factory Floor
ከሁሉም በታች ያለው አውቶፓይሎት፦ ሎካል AI፣ የክትትል ስርዓቶች እና ለራስዎ የGPU ማሽን የሚያገለግሉ ራስን የሚያድኑ ኦፕሬሽኖች።
- Linux
- NVIDIA GPU
- ARM64 or x86-64
ምን ያደርጋል
Factory Floor አንድ ሰው ሳይከታተል መቶዎችን የተመደቡ ስራዎችን እንዲያከናውን የሚያስችለው ንብርብር ነው። የራሳችንን የሶፍትዌር ጥቅሎች ስብስብ ሌሊት እየሰራ የሚያቆየው ይህ ነው፡ ሌሎች ሶፍትዌር ጥቅሎች የሚጠቀሙባቸውን የቋንቋ ሞዴሎች ያቀርባል፣ በሽታ የሚሞቱትን ስራዎች ያስተውላል፣ የሚያውቃቸውን የውድቀት ዓይነቶች ያስተካክላል፣ እና እርስዎ በእውነት የሚያስፈልግዎት ነገር ካልሆነ በስተቀር ጸጥ ይላል።
- አካባቢያዊ ሞዴሎች እንደ አገልግሎት። ከአንድ ወይም ሁለት የGPU ማሽኖች በኋላ በዝቅተኛ-ግንኙነት ፕሮክሲ በኩል OpenAI-compatible መዳረሻ ያቅርቡ፣ እና ሞዴሎችን ከመቀየርዎ በፊት የመሳሪያ አጠቃቀም ሙከራ ያካሂዱ፣ ስለዚህ ማሻሻያ ኤጀንቶችዎን ለዘላለም አያበላሽም።
- ለጸጥታ ውድቀቶች የክትትል ስርዓቶች። የተነቃቁ ነገር ግን የማይሰሩ አገልግሎቶች፣ የወደቁ አሃዶች፣ መስራት የቆሙ የጊዜ ሰሌዳዎች፣ እያንዳንዱ ዳግም ማስጀመሪያ ከኋላ እየወደቁ የሚቀጥሉ አሃዶች፡ እያንዳንዱ ማገጃ አለው፣ እና ምክንያቱ የታወቀ ውድቀቶች የጥገና ደንብ አላቸው።
- ለማሽኑ የደህንነት ገደቦች። የማህደረ ትውስታ እና የሙቀት የደህንነት ገደቦች ማሽኑ ከመውደቁ በፊት ከባድ ስራዎችን ያቆማሉ፣ እና ማሽኑ ሲመለስ ያስጀምራሉ፤ የዲስክ የደህንነት ገደብ ቦታ ከመጠነከሩ በፊት ያስጠነቅቃል።
- አንድ ኢሜይል፣ መቶዎች አይደሉም። ማሳወቂያዎች ተሰባስበዋል፣ ድግግሞሽ ተወግዷል እና ለሰው ተጽፈዋል፡ ምን ተበላሸ፣ ምን ቀድሞ ተሞክሮ ነበር፣ ምን ማድረግ እንዳለብዎት።
- በዙር የሚሰሩ ዓላማዎች። ለአካባቢያዊ ኤጀንት ዓላማ ይስጡት፤ በሳንድቦክስ ውስጥ ዙር በዙር ላይ ይሰራል፣ ሎግ ይጽፋል፣ የራሱን ውጤት ያረጋግጣል እና እርስዎ ሲሉት ይቆማል።
ውስጡ ምን አለ?
የክትትል ስርዓቶች
የሞቱ፣ የወደቁ እና የዘገዩ አሃዶች ማገጃዎች፣ እንዲሁም ማንበብ እና ማስተካከል የሚችሉት የጥገና ደንብ ፋይል። በአንድ የማዘጋጃ ስክሪፕት እንደ systemd timers ይጫኑ።
የሞዴል አቅርቦት
ለአንድ ወይም ሁለት ማሽኖች የፕሮክሲ እና የማስጀመሪያ ቅንብሮች፣ የጤና ምርመራ እና የመሳሪያ አጠቃቀም የግምገማ መሳሪያ።
የማሽን የደህንነት ገደቦች
ከባድ ስራዎችን የሚያቆሙ እና የሚያስጀምሩ የማህደረ ትውስታ እና የሙቀት የደህንነት ገደቦች፣ እና የዲስክ ቦታ የደህንነት ገደብ።
ማሳወቂያ
ማሰባሰብ፣ ድግግሞሽ መከልከል እና ጸጥታ ሰዓቶች ያለው የኢሜይል ላኪ፣ እና የዕለት ማጠቃለያ።
የዓላማ ማሽን
ዓላማ ላይ ዙር በዙር የሚሰራ የተከለለ ማሽከርከሪያ፣ የተቆለፉ ምርመራዎች፣ የመጥፎ ዙሮች ወደ ኋላ መመለስ እና የዕለት ማጠቃለያ ያለው።
የአሠራር መመሪያዎች
በእውነት የነበሩን ክስተቶች መሠረት ያደረጉ የማዘጋጃ እና የማገገሚያ መመሪያዎች።
ድንጋጌዎች
- Ubuntu 22.04 ወይም 24.04 ከ systemd ጋር፣ x86-64 ወይም ARM64።
- Python 3.10 ወይም ከዚያ በላይ።
- ለአካባቢያዊ ሞዴሎች፡ 24 GB ወይም ከዚያ በላይ ያለው NVIDIA GPU (DGX Spark ዓይነት ማሽኖች ተመራጭ ናቸው)፣ ወይም ማንኛውም OpenAI-compatible endpoint።
- ለማሳወቂያዎች የ SMTP ማሳወቂያ ሳጥን።
- ለ Goal Engine፡ በተናጠል የተጫነ opencode፣ እና ለአገልግሎት ጥያቄዎች (tool calls) አስተማማኝ የሆነ ሞዴል (የተካተተው ሙከራ ይነግርዎታል)።
መገደብ ያለባቸው ነገሮች
- ራስ-ሰር ጥገና አገልግሎቶችን እንደገና ያስጀምራል። በሪፖርት ብቻ ሁነታ ይጀምሩ፣ ህጎቹን ያንብቡ፣ ከዚያም ጥገናዎችን ያብሩ።
- የሞዴል ክብደቶች (weights) አልተካተቱም፡ የሚመርጧቸውን ሞዴሎች በራሳቸው ፈቃዶች ስር ያውርዱ።
- የፈቃድዎ የራስዎን ማሽኖች እና የራስዎን ንግድ ይሸፍናል።
ጥያቄዎች
ከአንድ ማሽን ጋር ይሰራል?
አዎ። ሁለተኛው ማሽን አማራጭ ነው፤ ፕሮክሲው በቀላሉ አንድ backend ብቻ አለው።
የትኞቹን ሞዴሎች ይደግፋል?
በ OpenAI-compatible API በኩል የሚቀርብ ማንኛውንም ነገር። የ tool-use ሙከራ ከመቀየርዎ በፊት አንድ ሞዴል ለአገልግሎት ጥያቄዎች (agents) በቂ መሆኑን ይነግርዎታል።
ሌሎቹ ሶፍትዌር ጥቅሎች ይፈልጉታል?
አይ፣ ግን ከእሱ ጋር ይሻላሉ፡ እያንዳንዱ AI-ከባድ ሶፍትዌር ጥቅል endpoint እና Factory Floor የሚያቀርባቸውን የክትትል ስርዓቶች መጠቀም ይችላል።
ተሻሽሏል: