원격 AI 안전성 전문가(영어 및 구자라트어) - 계약직
Mercor는 영어와 구자라트어에 능통하며 최첨단 AI 모델의 레드팀 테스트를 수행할 계약직 AI 안전성 전문가를 찾고 있습니다. 취약점 테스트, 실패 평가, 재현 가능한 데이터 세트와 공격 사례 작성이 주요 업무입니다.
설명
- 대화형 AI 모델과 에이전트를 테스트하여 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작을 확인합니다
- 실패에 주석을 달고 취약점을 분류하며 시스템적 위험을 식별해 사람이 생성한 데이터를 만듭니다
- 확립된 분류 체계, 벤치마크, 플레이북을 사용해 일관된 평가를 수행합니다
- 재현 가능한 고객 보고서, 데이터 세트, 공격 사례를 개발합니다
- 편향, 허위 정보, 유해한 행동을 비롯한 민감한 문제에 대해 AI 출력을 평가합니다
- 자동화된 테스트로는 탐지할 수 없는 약점을 찾습니다
- 평가 범위를 확대하여 예기치 않은 프로덕션 문제를 예방하는 데 기여합니다
- 최첨단 AI 시스템을 학습시키고 개선하는 프로젝트에 기여합니다
지원 자격
- 영어와 구자라트어를 모국어 수준 또는 유창하게 구사할 수 있어야 합니다
- 언어와 콘텐츠의 정확성, 완전성, 적절성을 평가할 때 건전한 판단력을 갖춰야 합니다
- 미묘한 오류, 불일치, 누락을 발견할 수 있어야 합니다
- 확립된 지침과 품질 기준을 일관되게 준수해야 합니다
- 기술 및 비기술 대상 모두에게 판단 근거를 명확히 설명할 수 있어야 합니다
- 프로젝트, 작업 형식, 고객 요구에 유연하게 대응할 수 있어야 합니다
- 독립 계약자로 참여해야 합니다
- H-1B 및 STEM OPT 지원자는 자격이 없습니다
- 우대: 탈옥 데이터 세트, 프롬프트 인젝션, RLHF/DPO 공격, 모델 추출 관련 적대적 머신러닝 경험
- 우대: 침투 테스트, 익스플로잇 개발, 리버스 엔지니어링 관련 사이버보안 경험
- 우대: 괴롭힘 또는 허위 정보 탐색, 악용 분석, 대화형 AI 테스트를 포함한 사회기술적 위험 경험
- 우대: 비관습적인 적대적 사고에 도움이 되는 심리학, 연기, 글쓰기 경험
복리후생
- 미국 내에서 원격으로 근무할 수 있습니다
- 가능한 시간에 맞춰 유연한 일정을 선택할 수 있습니다
- Stripe 또는 Wise를 통해 매주 대금을 받을 수 있습니다
- 민감도가 높은 프로젝트에 참여하거나 참여하지 않을 수 있습니다
- 민감한 콘텐츠 업무에 대한 명확한 지침과 웰니스 리소스를 이용할 수 있습니다
- 경쟁력 있는 시간당 보수를 받을 수 있습니다
- 요청 시 합리적인 편의를 제공받을 수 있습니다
- 적용되는 한도에 따라 추천이 성공할 때마다 최대 90달러를 받을 수 있습니다