Beacon Venture Capital은 태국의 대표적인 상업은행인 Kasikornbank PLC가 전액 소유한 기업 벤처캐피털 부문입니다. 2016년에 설립된 이 펀드는 핀테크를 주요 투자 분야로 삼고, 초기 단계부터 성장 단계에 이르는 기술 스타트업에 전략적으로 투자합니다. 또한 소비자 라이프스타일 사업과 인공지능 및 엔터프라이즈 IT 같은 딥테크 분야에도 투자합니다. Beacon Venture Capital은 3,000만 달러의 자본으로 출범했으며, 2018년까지 1억 3,500만 달러로 확대되었습니다.
인공지능 및 대규모 언어 모델 스태프 소프트웨어 엔지니어
Beacon AI의 안전한 비행 플랫폼을 위해 RAG, 도구 호출, 평가, 안전성 및 프로덕션 신뢰성을 아우르는 LLM 기반 항공 기능 개발을 주도합니다.
설명
- 설계부터 프로덕션까지 사용자 대상 LLM 제품 기능 구축
- 검색 증강 생성 및 도구 호출 워크플로 설계
- 검증, 재시도 및 대체 처리로 신뢰할 수 있는 JSON과 스키마 제약 출력을 생성
- 함수 호출을 사용해 내부 도구, 검색, 라우팅 및 데이터 서비스 연결
- 명확한 계약, 스트리밍 및 백오프를 갖춘 Python 또는 TypeScript API와 워커 개발
- 캐싱, 요청 조정, 프롬프트 템플릿 및 컨텍스트 패킹으로 지연 시간과 비용 관리
- 애플리케이션을 AWS Bedrock, OpenAI, Anthropic 또는 자체 호스팅 모델 엔드포인트에 연결
- 인프라 엔지니어와 협업해 문서, 시계열 및 멀티미디어의 청킹, 임베딩 및 인덱싱 수행
- OpenSearch, pgvector 및 Pinecone을 포함한 벡터 데이터베이스를 선택하고 최적화
- S3, Aurora, DynamoDB 및 외부 소스의 데이터를 동기화해 지식 기반을 최신 상태로 유지
- 프롬프트, 리트리버 및 도구를 위한 오프라인 평가와 골든 데이터셋 구축
- 작업 성공률, 환각률, 검색 정밀도와 재현율, p95 지연 시간 및 요청당 비용에 대한 온라인 지표 정의
- A/B 테스트를 수행하고 가드레일과 카나리아 릴리스를 사용해 프롬프트 및 버전 변경 사항을 단계적으로 배포
- 콘텐츠 및 정책 적용, PII 탐지와 마스킹, 액세스 제어 및 감사 추적 구현
- 민감한 작업을 위한 휴먼 인 더 루프 워크플로 생성
- 내부 보안 표준에 따라 항공 데이터 처리
- 모델 호출, 토큰 사용량, 오류 및 시스템 포화 상태에 대한 트레이싱, 로깅 및 대시보드 제공
- 검색, 프롬프트, 도구 및 모델 제공업체 전반의 장애 조사
- 복잡하고 모호한 문제에 대해 서비스와 팀 전반의 기술 방향 설정
- ML, 인프라 및 제품 파트너와 협업해 사용자 경험, 성과, 신뢰성 및 안전이 중요한 시스템 개선
지원 자격
- 최소 8년의 경력. 다른 엔지니어가 사용하는 시스템 또는 표준을 주도한 경험 포함
- 또는 관련 석사 학위와 4년의 관련 경력
- 최종 사용자를 위한 LLM 기능을 출시하고 데이터를 통해 개선한 경험
- 프로덕션 개발, 테스트 및 기술 문서 작성 능력
- 임베딩, 청킹, 벡터 검색의 트레이드오프 및 함수 호출에 대한 지식
- 평가를 설계하고 성공 지표를 수립하며 근거를 바탕으로 반복 개선한 경험
- p95 지연 시간을 모니터링하고 SLA를 충족하며 품질을 유지하면서 비용을 낮출 수 있는 능력
- 트레이드오프를 설명하고 제품, 인프라 및 보안 이해관계자를 조율할 수 있는 능력
- 엔지니어 또는 팀이 채택하는 기술 방향이나 표준을 설정한 기술 리더십 경험
- Python 또는 TypeScript 숙련도
- RAG, 도구 호출 워크플로, 스키마 제약 JSON, 검증, 재시도, 대체 처리, API, 워커, 스트리밍, 백오프, 캐싱, 프롬프트 템플릿, 컨텍스트 패킹 및 모델 제공업체 경험
- AWS Bedrock, OpenAI, Anthropic 또는 자체 호스팅 엔드포인트 사용 경험
- OpenSearch, pgvector, Pinecone 또는 Weaviate에 대한 이해
- S3, Aurora 및 DynamoDB 데이터 소스 작업 경험
- 오프라인 평가, 골든 데이터셋, 온라인 지표, A/B 테스트, 프롬프트 및 버전 배포, 가드레일 및 카나리아 릴리스 경험
- 콘텐츠 및 정책 제어, PII 탐지와 마스킹, 액세스 관리 및 감사 구현 경험
- 트레이싱, 로깅, 대시보드, 모델 호출 문제 해결 및 프로덕션 운영 경험
- 미국인 신분이 필요하며 비자 후원 및 신분 이전은 제공되지 않습니다
- 모든 업무는 미국 내에서 수행해야 합니다
- 캘리포니아주 샌프란시스코 베이 지역 또는 샌카를로스에서 주 3일 이상 출근할 수 있어야 합니다
복리후생
- 주식 제공
- 회사가 직원 의료보험료의 100% 부담
- 회사가 부양가족 의료보험료의 25% 부담
- 3주의 유급 휴가
- 최소 13일의 유급 회사 휴일
- 401(k) 플랜 제공
- 하이브리드 근무 일정의 나머지 날에는 원격 근무 가능