원격 AI 안전성 전문가(영어 및 타밀어)
Mercor는 영어와 타밀어를 구사하는 AI 안전성 전문가를 찾고 있으며, 대화형 모델과 에이전트를 레드팀 테스트합니다. 이 계약직은 취약점을 식별하고 민감한 출력을 평가하며, 프런티어 AI 학습을 위한 재현 가능한 안전성 데이터를 만드는 업무를 담당합니다.
설명
- 탈옥, 프롬프트 주입, 오용 시나리오, 편향 악용, 다중 턴 조작을 통해 대화형 AI 모델과 에이전트를 레드팀 테스트
- 실패를 라벨링하고 취약점을 분류하며 시스템적 위험을 식별
- 확립된 분류 체계, 벤치마크, 테스트 플레이북을 일관되게 적용
- 재현 가능한 보고서, 데이터셋, 공격 사례를 작성
- 편향, 허위 정보, 유해한 행동 및 기타 민감한 주제와 관련된 AI 출력을 평가
- 자동화된 테스트에서 놓칠 수 있는 약점을 찾아 평가 범위를 확대
- 프런티어 AI 시스템을 개발하고 개선하는 프로젝트 팀과 협업
지원 자격
- 영어와 타밀어 모두 원어민 수준 또는 유창한 구사 능력
- 언어와 콘텐츠를 평가할 때 건전한 판단력을 갖춘 사람
- AI 응답이 정확하고 완전하며 적절한지 판단할 수 있는 능력
- 미묘한 오류, 불일치, 누락을 포착하는 세심한 주의력
- 가이드라인과 품질 기준을 일관되게 준수하는 능력
- 기술 및 비기술 대상 모두에게 추론을 명확히 전달하는 능력
- 프로젝트, 작업 형식, 고객에 따라 유연하게 대응하는 능력
- 독립 계약자로 근무할 수 있는 사람
- H-1B 또는 STEM OPT 스폰서십을 요구하지 않아야 함
- 적대적 머신러닝, 사이버 보안, 사회기술적 위험 또는 창의적 프로빙 경험 보유자 우대
복리후생
- 완전 원격으로 근무
- 유연한 일정 설정
- Stripe 또는 Wise를 통한 주급 지급
- 경쟁력 있는 보상
- 인간 데이터 기반 AI 레드팀 업무 경험 획득
- 더욱 견고하고 안전하며 신뢰할 수 있는 AI 시스템 구축에 기여
- 선도적인 연구자들과 협업
- 요청 시 합리적인 편의 제공
- 추천이 성공할 때마다 최대 90달러의 추천 보상 지급