토스투자유치, 투자사 GIC, Greyhound Capital, 광주은행, 굿워터캐피탈, 그레이하운드, 그레이하운드 캐피탈 외 10
AI 플랫폼 엔지니어 (Serving) (AI Platform Engineer)
- 직무
- ML/AI
- 경력
- 경력
- 고용 형태
- 정규직
- 지역
- 서울
- 게시일
- 마감
- 상시·미표기
공고 요약
주요 업무
- vLLM·Dynamo·Triton 등 서빙 프레임워크 운영·성능 개선
- LLM·embedding 모델 실시간 서빙 환경 구축·모니터링
- 장애 대응 및 배포 자동화
자격 요건
- 서빙 프레임워크 연동·개선 경험 또는 Triton·TensorRT 서빙 경험
- GPU·모델 동작 원리 이해 기반 문제 분석
- 자동화·모니터링·오케스트레이션 관심, 코드 리뷰 경험
우대 사항
- 대규모 LLM·embedding 학습·서빙 최적화 경험
- AI/ML 모델 일반화 플랫폼 구축 경험
- 고트래픽 모델 운영·오픈소스 기여 경험
회사 소개
은행·증권·결제·보험 중개 등 금융 서비스를 토스 앱 하나로 제공하는 회사이다. 누적 가입자 3,000만 명을 넘었고, 모빌리티 플랫폼 타다(TADA)도 운영한다. 2022년 7월 신규 투자를 받았고, 보도로 확인된 신규 투자 합계는 약 1조 430억 원이다.
토스 회사 페이지
