AI Engineer - LLM Serving Platform

대규모 GPU 클러스터 환경에서 LLM 서빙 플랫폼을 설계·개발·운영합니다. · 대규모 트래픽을 효율적으로 처리하기 위한 라우팅·스케줄링 로직을 구현합니다. · vLLM, SGLang 등 오픈소스 추론 런타임에 자체 확장 기능을 구현하며 높은 안정성과 성능을 확보합니다

회사 소개

거대 언어모델과 문서 처리 엔진을 만들어 기업의 업무 방식을 바꾸도록 돕는다. 주요 제품은 Solar LLM, Document Parse, Information Extract이다. 2026년 4월 시리즈C 투자를 받았고, 보도로 확인된 신규 투자 합계는 약 4,306억 원이다.

출처 upstage.ai(새 탭에서 열림)업데이트 2026.10.30