AI 안전 전문가—영어 및 아삼어 | Mercor 원격 계약
최첨단 AI 모델을 대상으로 탈옥, 편향, 오용 및 기타 안전 위험을 찾는 적대적 테스트를 수행합니다. Mercor 고객을 위해 사람 데이터 주석, 취약점 분류 및 재현 가능한 공격 증거를 작성합니다.
설명
- 대화형 AI 모델과 에이전트를 대상으로 적대적 테스트를 수행하여 탈옥, 프롬프트 주입, 오용, 편향 악용 및 다중 턴 조작을 탐지
- 사람 데이터 주석을 작성하고 실패를 분류하며 시스템적 위험을 식별
- 확립된 분류 체계, 벤치마크 및 플레이북을 사용하여 평가를 표준화
- 고객을 위해 재현 가능한 보고서, 데이터 세트 및 공격 사례를 제공
- 편향, 허위 정보, 유해한 행동 및 기타 민감한 주제와 관련된 AI 응답을 평가
- 자동화된 테스트로 탐지할 수 없는 약점을 발견
- 평가 범위를 넓혀 실제 운영 환경의 예기치 않은 문제를 예방하는 데 기여
- 구조화된 적대적 테스트를 통해 고객의 AI 시스템을 개선
지원 자격
- 영어와 아삼어를 모국어 수준으로 유창하게 구사
- 언어와 콘텐츠의 정확성, 완전성 및 적절성을 평가할 때 건전한 판단력을 발휘
- 미묘한 오류, 불일치 및 누락을 발견하는 능력
- 지침과 품질 기준을 일관되게 준수
- 기술 및 비기술 대상 모두에게 판단 근거를 명확히 전달
- 프로젝트, 작업 형식 및 고객 요구에 유연하게 대응
- 우대 사항: 탈옥 데이터 세트, 프롬프트 주입, RLHF 또는 DPO 공격, 모델 추출 등을 포함한 적대적 머신러닝 경험
- 우대 사항: 침투 테스트, 익스플로잇 개발 또는 리버스 엔지니어링을 포함한 사이버 보안 경험
- 우대 사항: 괴롭힘 또는 허위 정보 탐색, 악용 분석 또는 대화형 AI 테스트 등 사회기술적 위험 경험
- 우대 사항: 비정형적인 적대적 사고에 도움이 되는 심리학, 연기 또는 글쓰기 경험
- 독립 계약자로 근무해야 함
- H-1B 및 STEM OPT 지원자는 지원 대상이 아님
복리후생
- 완전 원격으로 근무
- 근무 일정을 직접 선택
- Stripe 또는 Wise를 통해 매주 대금 수령
- 사람 데이터 기반 AI 레드팀 활동의 실무 경험 구축
- AI 시스템을 더욱 견고하고 안전하며 신뢰할 수 있게 만드는 데 기여
- 선도적인 연구자들과 협업
- 요청 시 합리적인 편의 제공
- 성공적인 추천에 대해 최대 90달러의 추천 보상 수령