AI 안전 전문가 – 영어 및 마라티어(원격 계약)
Mercor는 영어와 마라티어에 능통하며 대화형 AI 시스템의 레드팀 테스트를 수행할 AI 안전 전문가를 찾고 있습니다. 이 계약직은 적대적 테스트, 취약점 분석, 인간 데이터 및 프런티어 AI 프로젝트를 위한 명확한 보고에 중점을 둡니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작에 대해 대화형 AI 모델과 에이전트를 테스트합니다
- 실패 사례에 주석을 달고, 취약점을 분류하며, 시스템적 위험을 식별해 인간 데이터 자산을 만듭니다
- 확립된 분류 체계, 벤치마크, 플레이북을 사용해 일관된 평가를 수행합니다
- 재현 가능한 공격 사례, 데이터셋, 고객용 보고서를 제공합니다
- 편향, 허위 정보, 유해한 행동을 포함한 민감한 주제에 대한 AI 응답을 평가합니다
- 자동화된 평가 방법이 놓칠 수 있는 약점을 찾습니다
- 테스트 범위를 확대해 프로덕션 환경에서 예상치 못한 문제가 발생하는 것을 방지합니다
- 고객이 AI 시스템의 안전성, 견고성, 신뢰성을 개선하도록 지원합니다
- 주요 연구자들과 협력해 프런티어 AI 모델을 학습시키고 발전시키는 프로젝트를 진행합니다
지원 자격
- 영어와 마라티어를 모국어 수준 또는 유창하게 구사할 수 있어야 합니다
- 언어와 콘텐츠를 평가할 때 건전한 판단력을 갖춰야 합니다
- AI 응답이 정확하고 완전하며 적절한지 판단하고 그 이유를 명확히 설명할 수 있어야 합니다
- 미묘한 오류, 불일치, 누락에 세심한 주의를 기울여야 합니다
- 테스트 지침과 품질 요구사항을 안정적으로 준수해야 합니다
- 기술 및 비기술 대상 모두에게 자신의 판단 근거를 명확히 전달할 수 있어야 합니다
- 다양한 프로젝트, 업무, 고객에 유연하게 대응할 수 있어야 합니다
- 독립 계약자로 일할 수 있어야 합니다
- H-1B 또는 STEM OPT 후원이 필요하지 않아야 합니다
- 우대: 탈옥 데이터셋, 프롬프트 인젝션, RLHF/DPO 공격 또는 모델 추출을 포함한 적대적 머신러닝 경험
- 우대: 침투 테스트, 익스플로잇 개발 또는 리버스 엔지니어링을 포함한 사이버 보안 경험
- 우대: 괴롭힘 또는 허위 정보 프로빙, 악용 분석, 대화형 AI 테스트를 포함한 사회기술적 위험 경험
- 우대: 색다른 적대적 사고에 도움이 되는 심리학, 연기 또는 글쓰기 경험
복리후생
- 완전 원격 계약 업무
- 근무 시간을 직접 정할 수 있는 유연한 일정
- Stripe 또는 Wise를 통한 주급 지급
- 비즈니스 요구사항과 업무 성과에 따라 프로젝트 기간이 변경되거나 조기 종료될 수 있습니다
- 더 높은 민감도가 요구되는 콘텐츠 관련 프로젝트에 선택적으로 참여할 수 있습니다
- 민감한 콘텐츠 업무를 위한 명확한 지침과 웰니스 리소스
- 요청 시 합리적인 편의를 제공합니다
- 성공적인 추천 1건당 최대 90달러의 추천 보상