
AI MLOps 및 LLMOps 엔지니어
다국어 NLP 및 LLM 기능을 프로덕션 AI 시스템에서 운영할 수 있도록 구현합니다. AWS 데이터 파이프라인, 하이브리드 검색, 모델 배포 워크플로와 대규모 문서 처리 솔루션을 구축합니다.
설명
- 문서 분류, 엔터티 추출, 비식별화 및 LLM 기반 추세 탐지를 위한 추론 파이프라인을 통합하고 개선한다.
- AWS EKS에서 실행되는 Airflow DAG를 통해 데이터 과학 모듈을 엔드투엔드 프로덕션 워크플로에 연결한다.
- GTE 다국어 밀집 임베딩과 Aurora PostgreSQL의 GIN 어휘 인덱스를 사용해 하이브리드 검색을 개발하고 최적화한다.
- 다국어 쿼리 확장과 LLM 기반 추세 탐지를 위해 OpenAI 기반 API 플랫폼을 통합한다.
- S3 및 DataLake 시스템에 저장된 중첩 JSON, 이메일 첨부 파일과 내장 PDF를 처리하는 전처리 파이프라인을 설계하고 유지한다.
- 300GB에 달하는 청구 메모와 문서의 다국어 비정형 텍스트를 처리한다.
- 임베딩 및 검색 워크플로를 위한 청킹 방법과 메타데이터 추출 프로세스를 개발한다.
- 월별 엔터티 갱신, 추세 탐지 및 비식별화 배치 처리를 위한 Airflow DAG를 생성하고 유지한다.
- AWS S3, Athena, Glue, Fargate, SQS 및 Step Functions 간의 데이터 이동을 오케스트레이션한다.
- 500,000건이 넘는 청구 건과 수억 개의 텍스트 청크를 처리할 수 있도록 시스템을 확장한다.
- MLflow와 Databricks를 사용해 머신러닝 모델을 배포하고 버전을 관리한다.
- Aurora PostgreSQL에서 Liquibase를 사용해 스키마 변경과 데이터베이스 마이그레이션을 관리한다.
- 프로덕션 파이프라인에 로깅, 모니터링 및 검색 품질 평가 점수화를 추가한다.
지원 자격
- 컴퓨터 과학, 정보기술, 데이터 과학, 인공지능, 통계학, 수학 또는 관련 분야의 학사 학위.
- 데이터 과학, AI/ML, 컴퓨터 과학 또는 분석학 석사 학위 보유자를 우대하지만 필수는 아니다.
- 클라우드 또는 데이터 엔지니어링 자격증 보유자를 우대한다.
- 주요 언어인 Python과 SQL을 능숙하게 사용할 수 있어야 한다.
- LLM API 통합과 다국어 임베딩, 하이브리드 검색, 텍스트 분류, 엔터티 추출, 개체명 인식 및 개인정보 마스킹 사용 경험.
- Apache Airflow, 배치 오케스트레이션 및 대규모 비정형 데이터 처리 경험.
- S3, Athena, Glue, Fargate, EKS, SQS 및 Step Functions를 포함한 AWS 서비스의 실무 경험.
- PostgreSQL 또는 Aurora, pgvector, GIN 인덱스 및 전문 검색에 대한 지식.
- MLflow와 Databricks 또는 Azure Databricks 사용 경험.
- GitHub 기반 개발, CI/CD, 스키마 관리 및 프로덕션 지원 경험.







