Factory Floor

기능 소개

팩토리 플로어는 한 사람이 수백 개의 예약 작업을 감시 없이 운영할 수 있게 해주는 계층입니다. 밤에도 우리 자체 플릿이 계속 작동하도록 유지하는 핵심이기도 합니다. 다른 모든 키트가 사용하는 언어 모델을 서빙하고, 조용히 죽은 작업을 감지하며, 알려진 실패 유형을 복구합니다. 그리고 정말로 사용자의 개입이 필요한 경우에만 알립니다.

• 서비스로서의 로컬 모델. 최소 연결 수 기준 프록시 뒤에 있는 GPU 박스 한두 대에서 OpenAI-compatible 엔드포인트를 서빙하고, 모델 전환 전에 도구 사용 테스트를 실행하여 업그레이드로 인해 에이전트가 깨지지 않도록 합니다.
• 조용한 실패를 위한 워치독. 활성화되었으나 실행되지 않는 서비스, 실패한 유닛, 발화하지 않는 타이머, 재설정 후에도 계속 실패하는 유닛: 각각 감지기가 있으며, 원인이 알려진 실패에는 복구 규칙이 있습니다.
• 기계를 위한 가드. 메모리 및 온도 가드는 박스가 다운되기 전에 무거운 작업을 일시 중지하고, 회복되면 재개합니다. 디스크 가드는 공간이 부족해지기 전에 경고합니다.
• 백 통이 아닌 한 통의 이메일. 알림은 그룹화되고 중복이 제거되며, 사람이 읽기 쉽게 작성됩니다: 무엇이 고장 났는지, 이미 시도한 조치는 무엇인지, 사용자가 해야 할 일은 무엇인지.
• 루프로 실행되는 목표. 로컬 에이전트에 목표를 부여하면, 샌드박스에서 라운드마다 작업을 수행하고, 로그를 작성하며, 결과를 스스로 확인하고, 사용자가 지시할 때 멈춥니다.

구성품