
AI 운영 리드 엔지니어 - 밀라노 하이브리드
존슨앤드존슨에서 안전하고 관측 가능하며 비용 효율적인 AI 운영을 총괄합니다. 밀라노, 마드리드, 리스본의 프로덕션 AI 애플리케이션을 지원합니다.
설명
- AI 애플리케이션과 에이전트를 위한 종합적인 관측 가능성을 설계하고 제공
- 에이전트 워크플로, API, 데이터 서비스, 벡터 스토어, 모델 엔드포인트 및 외부 도구 전반의 텔레메트리와 분산 추적을 표준화
- 가용성, 지연 시간, 오류, 신뢰성, 품질, 정책 위반, 사용량 및 서비스 상태를 다루는 대시보드와 알림을 개발
- 서비스 수준 지표, 목표, 오류 예산, 알림 임계값 및 운영 준비 표준을 수립
- 민감한 데이터를 보호하면서 추적 기반 디버깅, 인시던트 재구성 및 통제된 세션 재생을 지원
- 검색 품질, 데이터 최신성, 모델 및 프롬프트 회귀, 비정상 에이전트 루프, 도구 성능 저하 및 기타 예상하지 못한 런타임 동작을 추적
- AI 플랫폼 및 런타임 인시던트의 근본 원인 조사를 주도하고 예방적 개선과 통제를 구현
- 구성, 프롬프트, 모델 및 에이전트 구성 요소의 버전 관리를 위한 재사용 가능한 파이프라인, 템플릿 및 통제를 구축
- 자동 배포 게이트, 통합 테스트, 회귀 검증, 보안 검사 및 관측 가능성 범위 검사를 도입
- 카나리 배포, 기능 플래그, 모델 및 공급자 라우팅, 폴백 옵션 및 롤백 절차를 지원
- 여러 모델, 프레임워크, 클라우드 환경 및 에이전트 아키텍처를 위한 운영 도구를 개발
- 런북, 참조 구현, 엔지니어링 표준 및 프로덕션 지원 관행을 유지
- AI 사용량을 위한 계측, 할당, 쇼백, 예산, 임계값, 이상 알림 및 런타임 제어를 구현
- 제품 팀과 협력하여 모델 선택, 라우팅, 컨텍스트 크기, 캐싱, 배치 처리, 재시도 및 도구 사용을 최적화
- 보안, 개인정보 보호, 책임 있는 AI, 컴플라이언스, ID, 액세스 관리, 시크릿 처리 및 감사 가능성을 AI 런타임에 통합
- 프롬프트 인젝션, 탈옥, 무단 도구 사용, 과도한 권한, 데이터 유출, 안전하지 않은 실행 경로 및 비정상 액세스에 대한 보호 기능을 개발
- 모니터링, 지원, 인시던트, 문제, 변경, 에스컬레이션 및 서비스 복구를 위한 운영 절차를 정의
- 프로덕션 준비 체크리스트, 인수 기준, 온콜 런북, 에스컬레이션 경로, 복구 절차 및 비즈니스 연속성 요구 사항을 작성
- 운영 프로세스를 자동화하여 재구성 작업을 줄이고 탐지, 진단, 억제 및 복구를 가속
- 기술 문서를 작성하고 승인된 운영 관행에 대해 엔지니어링 팀을 코칭
- 기술 연락 담당자로서 AI, 플랫폼, 클라우드, 데이터, 아키텍처, 사이버 보안, 개인정보 보호, 컴플라이언스 및 서비스 관리 팀을 연결
- 신뢰성, 관측 가능성, 인시던트 성과, 비용 효율성, 통제 범위, 감사 증적 및 플랫폼 도입에 관한 KPI를 정의하고 추적
- 운영 데이터를 활용해 자동화, 신뢰성 향상, 비용 최적화 및 위험 감소의 우선순위를 설정
지원 자격
- 컴퓨터 과학, 공학, 인공지능 또는 관련 분야의 학사 또는 석사 학위, 또는 이에 상응하는 관련 경험
- 플랫폼 엔지니어링, 사이트 신뢰성 엔지니어링, DevOps, DevSecOps, MLOps 또는 프로덕션 소프트웨어 엔지니어링 분야에서 라이브 서비스 운영을 담당한 5년 이상의 실무 경험
- 머신러닝, 생성형 AI 또는 에이전트 시스템을 프로덕션 환경에서 운영한 실무 경험
- Python, API, 코드형 인프라 및 Terraform, GitHub Actions 또는 Azure DevOps와 같은 CI/CD 도구에 대한 실무 능력
- 클라우드 네이티브 플랫폼, 컨테이너, 오케스트레이션 및 엔터프라이즈 클라우드 서비스 경험. Azure 경험을 중요하게 평가
- 로그, 메트릭, 분산 추적, 대시보드 및 알림을 활용한 관측 가능성 구현 경험. OpenTelemetry 또는 동등한 표준 경험 우대
- RAG, 벡터 스토어, 모델 게이트웨이, 도구 호출, 에이전트 메모리 및 멀티 에이전트 오케스트레이션을 포함한 LLM 애플리케이션 패턴에 대한 높은 이해도
- ID 및 액세스 관리, 시크릿 관리, 보안 로깅, 위협 모델링, 프라이버시 중심 설계 및 감사 통제에 대한 실무 지식
- 모호한 운영 및 통제 요구 사항을 재사용 가능한 기술 역량, 표준, 자동화 및 런북으로 전환하는 능력
- 뛰어난 이해관계자 관리, 기술 커뮤니케이션 및 문서화 능력
- 규제 산업에서 공식적인 보안, 개인정보 보호, 품질, 검증, 위험 또는 감사 요구 사항을 다룬 경험 우대
- Azure OpenAI, Azure AI Foundry, Azure Monitor, Application Insights, Microsoft Fabric 또는 동등한 클라우드 서비스의 실무 경험 우대
- Langfuse, LangSmith, Arize, MLflow 또는 동등한 AI 관측 가능성 및 평가 플랫폼 경험 우대
- 여러 모델 공급자, 멀티 클라우드 서비스 또는 에이전트 프레임워크를 운영한 경험 우대
- FinOps, 클라우드 비용 할당, 예산 책정 및 AI 워크로드 단위 경제성 측정에 대한 지식 우대
- 엔터프라이즈 플랫폼의 서비스 수준 목표, 온콜 모델, 인시던트 관리 및 운영 준비 게이트를 정의한 경험 우대
복리후생
- 연간 보너스. 목표 금액은 급여 등급과 근무지에 따라 결정되며 개인 및 회사 성과를 기준으로 함
- 휴가 제도
- 최소 12주의 육아휴직
- 경조 휴가
- 간병 휴가
- 자원봉사 휴가
- 웰빙 비용 지원
- 재정, 신체 및 정신 건강 프로그램
- 근속 기념 및 공로 포상
- 직원 보험 플랜. 일부 지역에서는 자격을 갖춘 부양가족도 포함








