Skip to main content
파이프라인이 파운더리 표면: 인제스트, 클린, 청크, 강화, 인덱스. CLI가 시각적 캔버스를 그대로 반영. 모든 노드, 모든 엣지, 모든 스케줄 실행을 스크립트로 다룰 수 있음. 파이프라인 한살이가 flows 다음으로 큰 CLI 표면. Flow에는 flows use가 있고, 파이프라인은 ID로 따로 참조.

명령 그룹

  • CRUD: pipelines list/get/create/update/delete
  • 노드: pipelines nodes add/list/update/remove
  • 엣지: pipelines edges connect/list/update/delete
  • 스케줄: pipelines schedule set/clear
  • 실행: pipelines dry-run, pipelines run file/document/folder
  • 블록: pipelines blocks test/ingest-local
  • 배포: pipelines publish/rollback, pipelines publications list/live
  • 로그: pipelines logs list/get
  • 한꺼번에: pipelines sync
  • 클라우드 인제스트: pipelines ingest-cloud

파이프라인 CRUD

List / get

list는 파이프라인당 한 줄. get은 전체 메타데이터와 노드·엣지를 출력.

Create

플래그:
  • --name(필수) 표시 이름.
  • --stages(필수) 순서대로 스테이지 이름 쉼표 목록.
  • --id <id> 명시 ID(선택). 안 주면 서버가 발급.
  • --vector-store pgvector|qdrant 출력 스테이지의 인덱스 백엔드.

Update

  • --set-name <n>, --set-stages <s,…>, --set-vector-store <backend>.

Delete

노드와 엣지가 함께 지워짐. 라이브 파이프라인 버전은 유예 기간 동안 ID로 접근됨.

노드

노드가 파이프라인 캔버스의 낱개 블록. 팔레트 항목(src_local, chunk_markdown, embed_openai 등)마다 노드 인스턴스가 됨.

List

모든 노드를 JSON으로 출력.

Add

플래그:
  • --palette-id(필수) 팔레트 항목 ID.
  • --stage(필수) 어느 파이프라인 스테이지.
  • --title, --icon, --tone(필수) 표시.
  • --order(필수) 스테이지 안 시각 순서.
  • --id <id> 명시 ID. 생략하면 서버가 발급.
  • --sublabel <text> 제목 아래 작은 캡션.
  • --config <json> 블록별 설정.
  • --notes <text> 자유 텍스트 노트.
  • --output-ports <json> 팔레트의 기본 출력 포트 덮어쓰기.

Update

--set-* 플래그: --set-title, --set-sublabel, --clear-sublabel, --set-stage, --set-order, --set-config, --set-notes, --clear-notes, --set-output-ports.

Remove

엣지

List / connect / update / delete

connect 플래그: --from-node-id, --to-node-id(필수), --id <id>, --from-port <port>, --label <text>.

스케줄

Set

  • --cron <expr> 5필드 cron.
  • --tz <IANA> 타임존.
  • --target <tag> 실행마다 처리할 폴더 태그.
  • --sample <n> 스케줄 실행당 항목 상한.
넘긴 플래그만 바뀜. --cron을 생략하면 지금 것 유지, 예를 들어 타겟만 변경.

Clear

모든 스케줄 필드를 지움. 파이프라인이 수동 전용이 됨.

파이프라인 실행

인라인 텍스트에 dry-run

준 텍스트에 파이프라인을 처음부터 끝까지 돌리되 출력은 저장 안 함. 스테이지별 결과를 출력.

파일에 실행

파일을 multipart로 올리고 파이프라인을 돌림.

저장된 문서에 실행

이미 라이브러리에 있는 문서에 돌림.

폴더에 실행

billing 태그가 붙은 모든 문서에 돌림(--max-documents까지).

블록 하나 테스트

팔레트 블록 하나를 떼어 테스트. 파이프라인이 필요 없음. 청커나 강화기 설정을 반복해 볼 때 좋음. 돌고 있는 파이프라인의 src_local 노드용:
로컬 파일시스템 스캔을 시작.

파이프라인 배포

파이프라인도 Flow처럼 버전으로 관리·배포됨.

Publish

DRAFT를 라이브 버전으로 얼림. 스케줄 실행과 하류 소비자가 라이브 버전을 씀.

Rollback

라이브 포인터를 버전 seq=5로 옮김.

Publications

list가 이력을 표시. live가 지금 라이브 페이로드를 가져옴.

로그

실행 나열

필터:
  • --status ok|error
  • --search <text> 로그 페이로드 전문 검색.
  • --since <ISO> / --until <ISO>
  • --run-kind <kind> 어느 진입점으로 필터.
  • --limit <n> 최대 줄.
  • --json 기계가 읽을 수 있게.

하나 가져오기

실행 하나의 전체 스테이지별 세부.

한꺼번에 sync

JSON 파일에서 파이프라인의 이름·스테이지·노드·엣지를 교체. 멱등. 배포마다 CI에서 돌려도 안전.

클라우드 인제스트

src_cloud 노드(Google Drive, S3 등)용 수동 대량 인제스트를 시작. 아니면 스케줄로만 돎.

레시피

스크립트 하나로 최소 파이프라인 부트스트랩

CI: git에서 파이프라인 sync

가장 최근 실패 실행 가져오기

유지보수 위해 스케줄 끄기