- LLM 라우터, 하나의 API로 220여 개 AI 모델 통합 운용 - 솔라 프로 4 추가…오는 9월 11일까지 이용료 90% 할인
(카페24 제공)
글로벌 전자상거래 플랫폼 카페24(대표 이재석)가 자사 인공지능(AI) 운용 인프라 ‘LLM 라우터(LLM Router)’에 국내 AI 기업 업스테이지의 최신 대규모언어모델 ‘솔라 프로 4(Solar Pro 4)’를 새롭게 탑재했다고 밝혔다. 이와 함께 서비스 도입을 기념하는 이용료 할인 혜택도 제공한다.
이번 프로모션은 오는 9월 11일까지 진행된다. 행사 기간 동안 LLM 라우터 이용자는 별도의 신청이나 등록 절차 없이 솔라 프로 4를 90% 할인된 가격에 이용할 수 있다.
이번에 추가된 솔라 프로 4는 실제 업무 환경에서 AI 에이전트 활용에 최적화된 모델이다. 긴 문서 분석과 터미널 작업, 여러 단계의 도구 호출이 필요한 복합 업무에 활용할 수 있으며, 계약서·보고서·데이터 파일 여러 개를 한 세션에서 함께 다루는 작업도 지원한다. 이용자는 LLM 라우터를 통해 별도 개발이나 설정 변경 없이 사용 중인 API 엔드포인트를 그대로 유지한 채 솔라 프로 4를 이용할 수 있다.
카페24 LLM 라우터는 챗GPT(ChatGPT), 클로드(Claude), 제미나이(Gemini) 등 220여 개 AI 모델을 하나의 API로 통합해 이용할 수 있는 서비스다. 이용자가 입력한 요청의 작업 유형을 분석해 코딩·추론·번역·창작 등에 적합한 AI 모델을 자동 연결하며, 사용할 모델 범위를 미리 지정하면 그 안에서만 모델을 선택하도록 설정할 수 있다. 새로운 모델을 도입하거나 기존 모델을 교체할 때도 별도 연동 부담 없이 하나의 환경에서 유연하게 대응할 수 있다.
비용, 속도, 처리량 등 이용자가 설정한 기준에 따라 동일 모델을 제공하는 AI 서비스 제공사 중 적합한 곳으로 자동 연결하는 기능도 갖췄다. 특정 모델이 응답하지 않으면 사전에 설정한 대체 모델이 요청을 이어받아 작업 연속성을 높인다. 이용자는 실시간 대시보드에서 요청 수, 비용, 토큰 사용량, 모델별 성공·실패 비율 등을 한눈에 확인할 수 있다.
카페24는 앞으로도 LLM 라우터의 지원 모델과 AI 서비스 제공사 범위를 지속 확대할 계획이다. 빠르게 등장하는 신규 AI 모델을 고객이 신속하게 활용하고, 업무 목적과 비용·성능 조건에 맞는 모델을 유연하게 선택·운영할 수 있는 환경을 강화한다는 방침이다.
카페24 관계자는 “AI 모델이 빠르게 늘어나는 환경에서 고객이 목적에 맞는 모델을 손쉽게 도입하고 안정적으로 운영할 수 있도록 지원하고 있다”며 “이번 솔라 프로 4 추가와 프로모션을 통해 고객의 AI 활용 선택지를 더욱 넓혀 나가겠다”고 말했다.