AI 안전 전문가(영어 및 구자라트어) — 원격 계약직
Mercor를 위해 대화형 AI 모델과 에이전트의 레드팀 평가를 수행합니다. Mercor는 프런티어 시스템 훈련에 주력하는 AI 연구소 파트너입니다. 취약점 데이터, 공격 시나리오, 재현 가능한 안전성 보고서를 작성합니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작을 사용해 대화형 AI 모델과 에이전트를 테스트합니다
- 실패 사례에 주석을 달고, 취약점을 분류하며, 시스템적 위험을 식별해 사람이 라벨링한 데이터를 생성합니다
- 확립된 분류 체계, 벤치마크, 플레이북을 사용해 일관된 평가를 수행합니다
- 재현 가능한 보고서, 데이터 세트, 공격 시나리오를 개발합니다
- 편향, 허위 정보, 유해한 행동 및 기타 민감한 주제가 포함된 AI 응답을 평가합니다
- 자동화된 테스트에서 놓칠 수 있는 약점을 식별합니다
- 평가 범위를 넓혀 프로덕션 환경에서 예상치 못한 문제를 줄이는 데 기여합니다
- 명확하고 재현 가능한 평가 결과물로 고객의 AI 시스템을 개선합니다
지원 자격
- 영어와 구자라트어를 모국어 수준 또는 유창하게 구사할 수 있어야 합니다
- 언어와 콘텐츠를 평가할 때 건전한 판단력을 갖춰야 합니다
- AI 응답의 정확성, 완전성, 적절성을 판단하고 그 평가를 설명할 수 있어야 합니다
- 미묘한 오류, 불일치, 누락에 세심한 주의를 기울여야 합니다
- 가이드라인과 품질 요건을 일관되게 준수해야 합니다
- 기술 및 비기술 대상에게 추론을 명확하게 전달할 수 있어야 합니다
- 프로젝트, 작업 형식, 고객에 따라 유연하게 대응할 수 있어야 합니다
- 적대적 머신러닝, 사이버 보안, 사회기술적 위험 또는 창의적 프로빙 전문 지식 보유자를 우대합니다
- 독립 계약직으로 근무할 수 있어야 합니다
- H-1B 및 STEM OPT 지원자는 지원 대상이 아닙니다
복리후생
- 완전한 원격 근무
- 근무 일정을 직접 선택
- Stripe 또는 Wise를 통한 주급 지급
- 경쟁력 있는 시간당 보수
- 민감도가 높은 콘텐츠가 포함된 프로젝트에 참여할 수 있는 선택권
- 민감한 콘텐츠 업무를 위한 명확한 지침과 웰니스 리소스 이용
- 요청 시 합리적인 편의 제공
- 성공적인 추천 1건당 최대 90달러의 추천 보상