시니어 백엔드 엔지니어, AI 플랫폼
수백만 명이 이용하는 소셜 미디어 플랫폼을 위한 프로덕션 LLM 기능과 기반 AI 인프라를 구축합니다. 검색, 모델 서빙, 평가 및 안전 시스템을 주도합니다.
설명
- 수백만 명이 이용하는 소셜 미디어 플랫폼을 위한 AI 기능을 개발합니다.
- 플랫폼 아키텍트 및 엔지니어링 팀과 긴밀히 협업합니다.
- 그린필드 환경에서 기반 AI 인프라를 구축합니다.
- 팀이 확장됨에 따라 엔지니어링 실무를 정의하는 데 기여합니다.
- 서비스를 Ruby on Rails 및 React/TypeScript 애플리케이션과 연결합니다.
- 데이터 스키마 설계부터 배포와 온콜 운영까지 백엔드 서비스를 책임집니다.
- LLM 서빙, 검색, 평가, 계측 및 안전 시스템을 구축하고 운영합니다.
지원 자격
- Go, Java, Kotlin, C# 등 정적 타입 언어를 사용한 백엔드 엔지니어링 경력이 5년 이상이어야 합니다.
- 검색 증강 생성, 스트리밍 응답, 도구 사용을 포함해 LLM 기반 기능을 프로덕션에 제공한 경험이 있어야 합니다.
- 다중 공급자 라우팅, 장애 조치, 토큰 스트리밍, 비용 및 사용량 추적을 포함한 LLM 서빙 인프라 실무 경험이 있어야 합니다.
- 벡터 검색, 임베딩 파이프라인, 컨텍스트 구성, 출처가 명시된 답변을 포함한 검색 시스템 구축 경험이 있어야 합니다.
- 환각, 검색 실패, 공급자 장애, 비용 초과를 계측할 수 있어야 합니다.
- 관련성, 안전성, 출처 품질, 결과 재현성을 기준으로 AI 답변 품질을 평가한 경험이 있어야 합니다.
- 탄탄한 API 설계 역량이 있어야 합니다.
- 스키마 설계부터 배포 및 온콜 지원까지 서비스를 책임질 수 있어야 합니다.
- 미국에 거주하며 미국에서 일할 자격이 있어야 합니다.
- Go 경험자를 우대합니다.
- Python 경험이 있어야 합니다.
- LiteLLM, vLLM, TGI와 같은 LLM 게이트웨이 또는 서빙 도구 사용 경험이 있어야 합니다.
- Qdrant 또는 pgvector와 같은 벡터 데이터베이스 및 임베딩 파이프라인 사용 경험이 있어야 합니다.
- LoRA 또는 전체 파인튜닝으로 오픈 웨이트 모델을 미세 조정한 경험이 있어야 합니다.
- 콘텐츠 조정 또는 안전 도구 경험이 있어야 합니다.
- Ruby on Rails 또는 React/TypeScript에 익숙해야 합니다.