LLM Platform Engineer

담당업무

• LLM API 호환성, 요청 라우팅, fallback/retry, backpressure, 부하 분산 기능 설계·구현·검증

• Disaggregated Inference, Prefix-cache-aware routing 적용 및 성능·안정성 개선

• 서비스 구성 Preset을 선언적으로 관리하는 Kubernetes Operator 설계·개발

• 트래픽 패턴과 클러스터 상태 기반 추론 서비스 구성 변경·스케일링 자동화 및 안정성 검증

• OpenTelemetry 기반 traces, metrics, logs 설계

• 분산 환경 장애·성능 저하 재현 및 근본 원인 분석

자격요건

• 프로덕션 소프트웨어 설계, 구현, 테스트, 배포 및 운영 문제 디버깅·개선 경험

• Rust 또는 Go 중 하나 이상을 사용한 소프트웨어 개발 역량

• API Gateway, 분산 시스템, Kubernetes controller/operator, ML/LLM serving 중 하나 이상 개발 경험

• 성능·신뢰성 문제를 지표와 재현 가능한 실험으로 정의하고 개선한 경험

• 단위 테스트·E2E 테스트와 CI/CD 자동화 기반 변경 사항 검증 경험

• 설계 결정, 진행 상황, 위험 요소와 결과를 구체적으로 공유하는 역량

우대사항

• vLLM, SGLang, llm-d, Dynamo 등 LLM serving 시스템 내부 구조 이해 또는 관련 오픈소스 기여 경험

• KV cache, continuous batching, disaggregated serving, prefix-aware routing 설계·최적화 경험

• Kubernetes custom operator·scheduler 또는 OpenTelemetry 기반 observability 시스템 개발 경험

• AI Agent를 개발 workflow에 적용하고 자동화된 테스트·검증으로 개발 속도나 품질을 개선한 경험

보상과 복리후생

• 연봉 협의

• 복지포인트 연간 200만 원

• 입사 시 장비지원금

• 경조금

• 연 1회 본인 및 직계가족 1인 종합건강검진

• 생일 반차 휴가

• 장기근속 휴가

• 사내 동호회 지원

• 오피스 간식 제공

• 연말 오피스 클로징 기간 유급휴가

전형절차

1. 서류 전형

2. 1차 면접

3. 최종 면접

4. 처우 협의

5. 최종 합격

근무환경

• 유연출근제

• 재택근무

마감기한

채용시 마감