[AI Frontier Div.] AI Inference Paltform & Operations Engineer (5년 이상)

담당업무

• Kubernetes 기반 GPU 클러스터에서 서빙 서비스 운영, vLLM·SGLang 등 서빙 엔진과 오케스트레이션 계층 연동

• 요청 라우팅, 오토스케일링, 멀티 모델 운영 기능 구현

• 모델 성능·품질 회귀 테스트, 배포 자동화, 카나리·롤백 파이프라인 구축

• API gateway 인증·쿼터·rate limit 개선, 모델 온보딩 도구와 가이드 제작

• SLO 기반 지연·처리량·가용성·에러율 관측, 병목 및 장애 원인 분석

• 장애 대응과 포스트모템을 통한 운영 개선

• GPU 할당·격리·우선순위 정책 운영, 모델·워크로드별 GPU 활용률 및 요청·토큰 단위 원가 측정

• 라우팅·스케줄링·캐시 정책과 모델 연동 코드 개선, 서빙 엔진 기능 검증 및 확장

• 양자화 체크포인트·speculative decoding 등 최적화 구현의 품질·성능 회귀 검증 및 프로덕션 적용

자격요건

• 프로덕션 서비스를 직접 운영하며 장애 대응과 안정성 개선을 수행한 경험

• Kubernetes 또는 이에 준하는 환경에서 배포·로드밸런싱·스케줄링·오토스케일링 설계 및 운영 경험

• 메트릭·로그·트레이스 기반 관측성 체계 구축, 온콜·장애 대응·포스트모템 경험

• 운영 자동화 도구나 플랫폼 기능을 코드로 구현한 경험

• IaC·GitOps·CI/CD를 통한 재현 가능한 인프라 및 배포 관리 경험

• 모델 연구자·제품 개발자와 요구사항을 조율하고 설계·운영 결정을 문서화한 경험

• 해외 출장에 결격 사유가 없는 분

우대사항

• 대규모 트래픽 또는 저지연 실시간 서비스 운영 및 안정성 개선 경험

• capacity planning과 쿼터·우선순위·자원 격리 정책 운영 경험

• GPU 환경에서 vLLM·SGLang·TensorRT-LLM·Triton Inference Server를 활용한 LLM·ML 모델 프로덕션 서빙 경험

• 서빙 엔진의 스케줄링·배칭·KV cache 이해 및 관련 기능을 통한 처리량·지연 개선 경험

• 멀티노드 GPU 환경 또는 시스템 레벨 성능 병목 분석 및 개선 경험

• 최적화 구현의 품질·성능 회귀 테스트와 프로덕션 적용 경험

근무환경

• 직급·연차와 관계없이 의견 제시 및 빠른 실행

• 장애 포스트모템을 통한 시스템 개선

• 아키텍처·실험 결과·의사결정 과정 문서화

• AI 도구와 새로운 모델·서빙 기술을 개발·운영 및 프로덕션 적용에 활용

전형절차

1. 서류 전형

2. 사전 인터뷰

3. 과제 전형

4. 인성검사

5. 직무면접

6. 종합면접 2~3회

7. 합격 및 입사

접수방법

• 자유 양식 입사지원서

• 자기소개서

• 경력기술서

• 필요 시 포트폴리오

• 신입은 자기소개서, 경력 지원자는 경력기술서 중심으로 작성

• 후보자 및 포지션에 따라 전형 절차 변동 가능, 필요 시 인터뷰·직무 테스트 추가

• 전형 일정과 결과는 지원서에 등록한 이메일 또는 유선으로 개별 안내

마감기한

채용시 마감