AI 안전 전문가(영어 및 칸나다어) – 미국 원격 계약직
Mercor는 영어와 칸나다어에 능통하며 최첨단 모델의 취약점을 테스트할 AI 레드팀 전문가를 찾고 있습니다. 인간 데이터 기반 AI 학습 프로젝트를 위해 재현 가능한 공격 사례, 평가 데이터셋, 위험 보고서를 작성하는 업무입니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작을 사용해 대화형 AI 모델과 에이전트를 테스트합니다
- 실패를 기록하고 취약점을 분류하며 시스템적 위험을 식별해 인간 데이터 주석을 작성합니다
- 확립된 분류 체계, 벤치마크, 플레이북을 사용해 일관된 평가를 유지합니다
- 재현 가능한 고객용 보고서, 데이터셋, 공격 사례를 작성합니다
- 편향, 허위 정보, 유해한 행동을 포함한 민감한 주제에 대한 AI 응답을 평가합니다
- 자동화된 테스트에서 놓칠 수 있는 AI 시스템의 약점을 조사합니다
- 평가 범위를 확대해 예상치 못한 프로덕션 문제를 줄이는 데 기여합니다
- Mercor AI 연구소와 기업 고객을 위한 최첨단 모델의 학습 및 개선을 지원합니다
지원 자격
- 영어와 칸나다어 모두 원어민 수준으로 유창해야 합니다
- AI 응답이 정확하고 완전하며 적절한지 평가할 수 있는 건전한 판단력이 필요합니다
- 기술 및 비기술 대상에게 추론을 설명할 수 있는 명확한 의사소통 능력이 필요합니다
- 미묘한 오류, 불일치, 누락을 세심하게 발견할 수 있어야 합니다
- 분류 체계, 벤치마크, 플레이북, 지침, 품질 기준을 일관되게 적용할 수 있어야 합니다
- 다양한 프로젝트, 작업 형식, 고객에 유연하게 대응할 수 있어야 합니다
- 독립 계약자로 일할 수 있어야 합니다
- H-1B 또는 STEM OPT 스폰서십이 필요하지 않아야 합니다. 이러한 스폰서십 경로는 지원되지 않습니다
- 적대적 머신러닝, 사이버 보안, 사회기술적 위험, 대화형 AI 테스트, 심리학, 연기 또는 비전통적 적대적 글쓰기 관련 경험이 있으면 유리합니다
복리후생
- 완전 원격으로 근무하며 일정을 직접 유연하게 설정할 수 있습니다
- 제공한 서비스에 대한 대금을 Stripe 또는 Wise를 통해 매주 받을 수 있습니다
- 고감도 콘텐츠가 포함된 프로젝트에 참여할지 선택할 수 있습니다
- 민감한 콘텐츠 관련 업무에 대해 명확한 지침과 웰니스 리소스를 이용할 수 있습니다
- 경쟁력 있는 보상을 받을 수 있습니다
- 인간 데이터 기반 AI 레드팀 실무 경험을 쌓을 수 있습니다
- 선도적인 연구자들과 협업할 수 있습니다
- 필요할 때 합리적인 편의를 요청할 수 있습니다
- 성공적인 추천 1건당 최대 90달러의 추천 보상을 받을 수 있습니다