Mercor AI 안전 전문가 – 영어 및 구자라트어, 미국 원격 계약직
Mercor를 위해 대화형 AI 모델과 에이전트에 대한 사람 중심의 레드팀 평가를 수행합니다. 영어와 구자라트어로 취약점 데이터, 공격 시나리오, 재현 가능한 안전성 평가를 생성합니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작을 사용해 대화형 AI 모델과 에이전트를 레드팀 테스트
- 실패를 주석 처리하고 취약점을 분류하며 시스템적 위험을 에스컬레이션
- 확립된 분류 체계, 벤치마크, 플레이북을 사용해 일관된 평가를 유지
- 재현 가능한 보고서, 데이터 세트, 공격 시나리오를 작성
- 편향, 허위 정보, 유해한 행동 및 기타 민감한 주제와 관련된 AI 출력을 평가
- 자동화된 테스트에서 놓칠 수 있는 약점을 탐지
- 평가 범위를 확대하고 운영 환경에서 발생할 수 있는 예기치 않은 문제를 줄이는 데 기여
- 사람이 생성한 데이터 기반 레드팀 테스트를 통해 고객의 AI 시스템을 개선
지원 자격
- 영어와 구자라트어를 원어민 수준으로 유창하게 구사
- 언어와 콘텐츠를 평가할 때 건전한 판단력
- AI 응답이 정확하고 완전하며 적절한지 판단하고 평가를 설명할 수 있는 능력
- 미묘한 오류, 불일치, 누락에 대한 높은 주의력
- 지침과 품질 기준을 일관되게 준수
- 기술 및 비기술 대상 모두에게 판단 근거를 명확히 전달
- 프로젝트, 작업 형식, 고객에 따라 유연하게 대응
- 독립 계약직으로 일할 의향
- H-1B 또는 STEM OPT 후보자가 아닐 것
- 적대적 머신러닝, 사이버 보안, 사회기술적 위험 또는 창의적 프로빙 분야의 전문 지식 보유자 우대
복리후생
- 완전 원격 계약직 업무
- 유연한 일정
- Stripe 또는 Wise를 통한 주급 지급
- 더 높은 민감도의 프로젝트에 참여할 수 있는 선택권
- 민감한 콘텐츠를 다루는 업무를 위한 가이드와 웰니스 리소스
- 경쟁력 있는 보상
- 저명한 연구자들과 협업할 기회
- 요청 시 합리적인 편의 제공
- 추천 프로그램: 성공적인 추천 1건당 최대 90달러