내부 리소스

내부 리소스는 사내 LLM 엔드포인트와 SQL 데이터베이스를 한 번 등록해두는 곳입니다. 등록해두면 어느 블록에서든 이름으로 부르면 되고, 연결 문자열을 블록마다 다시 넣지 않아도 됩니다. 목록에는 리소스의 분류(LLM / DB), 이름, 주소가 나오고, 각 줄에서 수정·삭제합니다.

​

엔드포인트 추가

[추가] 버튼을 누른 뒤 [엔드포인트] 버튼을 눌러 등록합니다.

• 이름 블록에서 부를 이름(예: GPU 서버 A)
• 주소 OpenAI 호환 베이스 URL(예: http://localhost:11434/v1)
• 용도(선택) 엔드포인트가 맡는 일. Inference, Embedding, Reranker, Retrieval, OCR, Voice, Image 중에서 선택합니다.
• 커스텀 헤더(선택) 각 행이 요청마다 보낼 HTTP 헤더 하나입니다. 인증도 여기에 넣습니다(예: Authorization: Bearer sk-...). 빈 행은 저장 시 삭제됩니다.

연결 테스트는 위 주소·헤더로 GET /v1/models(fallback: /api/tags · /models)를 서버에서 호출합니다. 브라우저 CORS 영향이 없습니다.

​

GPU 설정

비어 있는 GPU 서버라면 GPU 설정으로 사이드카를 원클릭 설치합니다. 토큰이 발급되면 설치 명령을 GPU 장비에서 실행하세요. 사이드카가 뜨면 엔드포인트가 스스로 등록됩니다.

​

데이터베이스 추가

[추가] 버튼을 누른 뒤 [데이터베이스] 버튼을 눌러 등록합니다.

• 이름 예: prod-orders
• 데이터베이스 URL postgres://… · mysql://… · mariadb://…

연결 테스트는 짧은 풀을 열어 SELECT 1을 왕복합니다. 실패해도 캐시되지 않아 고친 뒤 다시 테스트해도 안전합니다.

​

블록에서 쓰기

• SQL 툴 데이터베이스 드롭다운에서 등록한 리소스를 선택합니다. 쿼리는 그 연결로 실행됩니다(Tool 블록 참고).
• LLM 엔드포인트 사내 모델이 돌 수 있는 곳에서 선택합니다. Ask AI 온프레미스 라우팅과 루프의 온프레미즈 런타임입니다.