업데이트: 2026-06-06Dify는 워크플로우, 에이전트, 지식 베이스, 내부 AI 애플리케이션 플랫폼을 구축하는 데 적합합니다. Crazyrouter와 연동할 때는 먼저 Dify의 OpenAI 호환 모델 공급자 경로를 통해 채팅 모델을 먼저 정상적으로 동작시킨 뒤, 점차 임베딩이나 다른 기능을 추가하는 것을 권장합니다.
개요
Dify의 모델 공급자 설정을 통해 Crazyrouter를 OpenAI 호환 업스트림으로 연동할 수 있습니다.- 권장 프로토콜:
OpenAI-compatible API - 권장 진입점:
설정 / Settings→모델 공급자 / Model Provider - Base URL:
https://api.crazyrouter.com/v1 - 인증 방식:
sk-...토큰 - 최초 검증 권장 모델:
gpt-5.5
Dify 공식 문서에서는 커스텀
API Base URL을 프록시나 호환 업스트림 시나리오에서의 선택 사항으로 취급합니다. Crazyrouter와 연동할 때는 Crazyrouter를 이러한 OpenAI 호환 업스트림으로 간주하고 https://api.crazyrouter.com/v1을 입력해야 합니다. 또한 모델 공급자 설정은 일반적으로 워크스페이스 관리자 또는 Owner 권한이 필요합니다. 진입점이 보이지 않는다면 먼저 현재 계정의 역할을 확인하세요.이런 분들께 적합합니다
- 워크플로우, 에이전트, 지식 베이스 애플리케이션을 구축하려는 분
- 채팅 모델과 임베딩 모델을 Crazyrouter로 통합하여 연동하려는 팀
- 업무 부서에 시각화된 AI 오케스트레이션 플랫폼을 제공하려는 분
- 테스트와 프로덕션 모델을 환경별로 관리하려는 분
사용 프로토콜
권장 프로토콜:OpenAI-compatible API
Dify에서 Crazyrouter를 연동할 때 일반적으로 입력하는 OpenAI 호환 base URL은 다음과 같습니다.
https://api.crazyrouter.comhttps://api.crazyrouter.com/v1/chat/completions
사전 조건
권장 초기 화이트리스트:
gpt-5.5claude-opus-4-8text-embedding-3-largetext-embedding-3-small
5분 빠른 시작
1
Dify 전용 토큰 생성
Crazyrouter 백엔드에서 새 토큰을 생성하고, 이름은
dify로 지정하는 것을 권장합니다. 처음에는 gpt-5.5와 임베딩 모델 하나(예: text-embedding-3-large)만 허용하세요.2
모델 공급자 설정으로 이동
워크스페이스 관리 권한이 있는 계정으로 Dify에 로그인하고,
설정 / Settings → 모델 공급자 / Model Provider로 이동합니다.3
OpenAI 호환 공급자 추가
OpenAI 또는 OpenAI-compatible 유형의 공급자 진입점을 선택하고 다음을 입력합니다.API Key: 사용할sk-...API Base URL:https://api.crazyrouter.com/v1
4
채팅 모델 하나만 먼저 설정
처음에는 LLM 하나만 추가하세요. 예:
모델 이름 / Model:gpt-5.5모델 유형 / Type:LLM
5
최초 검증 완료
애플리케이션에서
Reply only OK를 보내보세요. 정상적으로 응답이 오고 Crazyrouter 백엔드에 로그가 남는다면 채팅 경로가 정상적으로 연동된 것입니다. 그 후 임베딩이나 다른 모델을 추가하세요.임베딩 및 지식 베이스 권장 사항
Dify에서 지식 베이스, RAG 또는 문서 검색을 사용하려는 경우, 두 번째 단계로 임베딩 모델을 추가하는 것을 권장합니다.
권장 순서:
- 먼저 채팅 모델을 검증합니다
- 그다음 임베딩을 검증합니다
- 마지막으로 지식 베이스 임포트와 검색 튜닝을 진행합니다
권장 모델 설정
권장 순서: 채팅 모델을 먼저 정상 동작시킨 후 임베딩 모델을 추가하세요.
토큰 설정 모범 사례
검증 체크리스트
-
모델 공급자 / Model Provider에 Crazyrouter 설정을 저장했습니다 -
API Base URL을https://api.crazyrouter.com/v1로 설정했습니다 - LLM 최소 하나를 성공적으로 추가했습니다
- 첫 번째 Dify 애플리케이션 요청이 성공적으로 응답을 받았습니다
- Crazyrouter 백엔드 로그에서 해당 요청을 확인할 수 있습니다
- 지식 베이스가 필요하다면 임베딩 모델 최소 하나를 성공적으로 설정했습니다
- 토큰 할당량과 모델 화이트리스트가 예상과 일치합니다
- 개발/테스트/프로덕션 토큰 분리가 완료되었습니다
자주 발생하는 오류와 해결 방법
성능 및 비용 권장 사항
- 워크플로우는 기본적으로
gpt-5.5로 먼저 테스트한 후 안정화되면 다른 모델을 추가하세요 - 지식 베이스를 처음 도입할 때는 소량의 문서로 검색 품질을 먼저 검증한 후 대량으로 임포트하세요
- 채팅 모델과 임베딩 모델의 비용을 분리하여 계산하면 비용 원인을 파악하기 쉬워집니다
- 배치 작업, 예약 작업, 내부 테스트 환경에는 더 엄격한 할당량 상한을 설정하세요
- 소비가 급증한 경우, 먼저 Crazyrouter 로그를 확인하여 워크플로우 재시도, 지식 베이스 임포트, 또는 여러 애플리케이션의 토큰 공유 중 어느 것이 원인인지 파악하세요
FAQ
Dify는 어떤 Base URL을 입력해야 하나요?
https://api.crazyrouter.com/v1을 입력하세요.
여기서 루트 도메인 입력을 권장하지 않는 이유는 무엇인가요?
Dify의 OpenAI 호환 공급자는 일반적으로 루트 도메인이 아닌 OpenAI 호환 base URL을 요구하기 때문입니다.채팅 모델과 임베딩 중 무엇을 먼저 설정해야 하나요?
먼저 채팅 모델을 설정하고 애플리케이션이 정상적으로 결과를 반환하는지 확인한 후 임베딩을 설정하세요.Rerank 모델을 바로 설정할 수 있나요?
사용 중인 Dify 버전과 현재 사용 가능한 공급자 플러그인에 따라 다릅니다. 먼저 채팅과 임베딩을 정상 동작시킨 후 Rerank를 별도로 연동할 필요가 있는지 판단하는 것을 권장합니다.여기서 채팅 모델 하나만 먼저 설정하도록 강조하는 이유는 무엇인가요?
Dify의 문제는 공급자, 모델 유형, 애플리케이션 파라미터, 지식 베이스 체인에서 동시에 발생하기 쉽기 때문입니다.gpt-5.5 채팅 애플리케이션 하나만 먼저 정상 동작시키면 문제 위치를 훨씬 명확하게 파악할 수 있습니다.
Dify는 토큰을 여러 개로 분리해야 하나요?
분리하는 것을 권장합니다. 최소한 개발/프로덕션을 분리하고, 트래픽이 많은 시나리오라면 채팅과 임베딩도 분리하세요.Dify는 “애플리케이션 플랫폼”과 “워크플로우 플랫폼”의 위치에 가장 적합합니다. 채팅 프론트엔드와 비교했을 때, 프로세스 오케스트레이션, 지식 베이스, 다중 환경 관리를 더 강조하므로 전용 토큰, 모델 화이트리스트, 할당량 전략이 더 필요합니다.