Software Engineer 4/5 – Model Serving Systems, AI Platform

담당업무

• 고트래픽 분산 서비스 및 온라인 ML 모델 추론·서빙 플랫폼 개발

• AI/ML 모델을 대규모로 서비스하기 위한 컴퓨팅 인프라 확장

• 생성형 모델과 LLM을 위한 모델 서빙 인프라 구축

• 온라인·오프라인 시스템 간 일관성을 보장하는 기반 추상화 개발

• 고가용성·성능 중심의 대규모 ML 모델 지원

• 모델 서빙 지연 및 비용 절감, 연구에서 프로덕션으로의 전환 병목 해결

• Java 중심 객체지향 프로그래밍과 프로덕션 호스팅, 성능 튜닝, 배포 관리, 용량 계획

• Triton Inference Server, TensorRT, Docker를 활용한 ML 모델 배포

• AWS, Azure, GCP 등 퍼블릭 클라우드 활용

• 관측 가능성과 로깅 모범 사례 확산

자격요건

• 고트래픽 분산 서비스 및 온라인 ML 모델 추론 인프라 구축 경험

• 대규모 ML 모델의 고가용성 및 성능 지원 경험

• 생성형 모델과 LLM의 확장 가능한 모델 서빙 솔루션 이해

• 객체지향 프로그래밍 능력, Java 선호

• 프로덕션 호스팅 및 배포 관리 경험

• 퍼블릭 클라우드 활용 경험

• 높은 품질의 확장 가능한 코드 개발 역량

• 엔지니어링, 알고리즘, 데이터 엔지니어링·과학, 제품 실험이 결합된 환경에서의 협업 역량

• 미국 내 여러 지역과 시간대에 분산된 팀과 협업 가능한 커뮤니케이션 역량

보상과 복리후생

• 연간 급여 $466,000.00 - $750,000.00

• 급여와 스톡옵션 중 보상 구성 선택

• Health Plans 및 Mental Health 지원

• 401(k) Retirement Plan 및 회사 매칭

• Stock Option Program

• Disability Programs, Health Savings and Flexible Spending Accounts

• Family-forming benefits

• Life and Serious Injury Benefits

• 유급 휴가 프로그램

• 정규직의 즉시 사용 가능한 flexible time off

근무환경

• 원격 근무

• 엔지니어, 제품 관리자, 머신러닝 엔지니어, 데이터·연구 과학자와의 협업

• 창의성, 탐구, 모범 사례와 지속적인 학습을 중시하는 문화

• 고객 화면에 표시되는 서비스에 영향을 주는 핵심 기술 스택 업무

마감기한

채용시 마감