AI Platform 추론 최적화 Engineer(경력)

공고 요약

AI플랫폼팀은 카카오의 모든 AI 서비스가 안정적으로 동작하도록 기반을 설계하고 운영하는 팀으로, Kakao AI Platform(이하 KAP)을 만들어 수천 장 규모의 GPU 클러스터 위에서 추론 서비스의 효율적이고 안정적인 서빙을 책임지고 있습니다. MLOps/LLMOps의 역할을 담당하며 전통적인 ML 워크로드부터 오픈소스 LLM, kanana 모델까지 카카오 내 AI 서비스들의 배포와 운영을 효율화하는 것을 핵심 미션으로 삼고 있습니다. 참고) 🔗 IF KAKAO 2024: Kakao AI Platform 소개 [(link)](https://www.youtube.com/watch?v=F3FQr1cpdCM) 🔗 IF KAKAO 2025: GenAI를 위한 Gateway [(link)](https://if.kakao.com/2025/session?tab=day2&sessionId=55) - LLM 추론 엔진 기반의 AI 서빙 플랫폼 설계 및 최적화 - vLLM, SGLang, TensorRT-LLM 등 오픈소스 추론 엔진의 도입, 적용 및 운영 - LLM 추론 성능 향상을 위한 캐시, 배칭, 양자화, 커널 최적화 등 주요 기법 적용 - 분산 추론 전략…

자동으로 만든 요약이에요. 자격 요건·처우·지원 절차는 반드시 원문 공고에서 확인하세요.