Software Engineer - Model Serving

소개

업스테이지는 AI 기술로 해결할 수 있는 비즈니스 문제들을 풀어갑니다. "Making AI Beneficial"이라는 미션 아래, 누구나 AI 기술의 혜택을 누릴 수 있도록 '적용이 쉬운 AI 솔루션'을 개발하고 있습니다. 세계 최고 수준의 AI 모델을 다양한 분야에서 손쉽게 활용할 수 있는 API 시리즈를 출시하여 기업 고객들의 비즈니스 성공에 기여하고 있습니다. 또한, LLM 기술을 비즈니스 환경에 맞게 최적화하여 기업들의 업무 효율과 생산성을 높일 수 있는 Private LLM 서비스를 제공하는 등 AI가 세상에 이롭게 사용될 수 있도록 노력하고 있습니다. LLM 기술과 더불어 Document Parse와 Information Extraction 등의 제품을 통해 문서 처리 분야에서 혁신을 이루고 있으며, 자체 LLM 및 Chat AI 기술을 비즈니스 환경에 맞게 최적화하여 기업들의 업무 효율과 생산성을 높일 수 있는 AI Space를 개발하는 등 업무 환경의 미래를 위한 인텔리전스를 만들어 갑니다. 모델 서빙팀은 업스테이지의 Solar LLM 과 Document AI 모델들을 서빙하기 위한 제품 개발을 담당 합니다. 온프레미스와 클라우드, SaaS 인프라에서 동작하는 모델 서빙 코드를 작성하며 빠르고 효율적인 서빙을 위한 각종 최적화 기술들을 연구하고 시도 합니다. 또한 각 국의 모델 서빙 파트너와 협업하여 업스테이지의 모델 들이 안정적인 환경에서 서빙될 수 있는 서빙 제품을 설계하고 구현 합니다. 이를 통해 글로벌 고객을 위한 멀티 리전 서빙 환경에서의 프론티어 수준의 모델 서빙 운영 환경을 구축합니다.

주요업무

- 업스테이지의 Solar LLM 과 Document AI 의 API Layer 개발 - 모델 양자화 및 최적화를 통한 모델 서빙 효율 극대화 - 각종 서빙 시스템 벤치마크 및 파트너 협업을 통한 모델 서빙 환경 구축 - 모델 및 시스템의 보안 이슈 해소. 모니터링 및 대시보드 개발 - 내부 운영 도구 개발 및 내부 시스템 운영 효율화 - 이 외 업스테이지 제품 및 기술 개발과 관련된 활동

자격요건

- LLM 또는 Document AI 관련 AI 모델 서빙 시스템 개발 경험 및 관련 기술에 대한 깊은 이해 - 하나 이상의 프로그래밍 언어에 대한 높은 수준의 이해 (예: Golang, Python, Typescript, Java, C/C++ 등) - AWS, Azure 등 클라우드 서비스를 이용한 제품 개발 경험 - 다양한 형태의 데이터베이스를 이용한 개발 경험 (예: RDBMS 또는 각종 NoSQL 시스템) - 한국어 및 영어 능통자

우대사항

- LLM 모델 양자화 또는 최적화 개발 경험 - 멀티 리전에서의 글로벌 서비스 운영 경험 - 온프레미스 환경에서 구동 되는 제품 개발 경험 - B2B 환경에서 외부 파트너 또는 고객과 협업 경험 - HiPPA, GDPR, CCPA 등 보안 컴플라이언스 관련 업무 경험

혜택 및 복지

- Anywhere On Earth But Together! ‘어디서든’ 함께 일할 수 있습니다. - 원격 근무에 필요한 장비를 500만원 예산 내에 자유롭게 선택하실 수 있습니다. - 근무를 위한 카페 이용 시 음료 비용, 스터디룸 혹은 공유오피스 이용 비용 등을 지원해드립니다. - 업무 관련 소프트웨어, 도서, 자료, 교육 및 어학 수강비 등 성장에 필요한 비용을 지원해드립니다. - 건강을 위한 운동비, 직장 단체보험 및 종합건강검진을 지원해드립니다.