원격 AI 안전 전문가(영어 및 칸나다어)
영어와 칸나다어 입력을 사용해 Mercor의 최첨단 AI 모델을 적대적으로 테스트하고 취약점을 식별합니다. AI 고객이 활용할 수 있는 재현 가능한 안전성 데이터, 공격 사례 및 보고서를 작성합니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용 및 다중 턴 조작을 사용해 대화형 AI 모델과 에이전트를 테스트
- 실패 사례를 주석 처리하고 취약점을 분류하며 시스템적 위험을 식별해 사람이 생성한 데이터를 제작
- 확립된 분류 체계, 벤치마크 및 플레이북을 사용해 일관된 평가를 유지
- 고객이 활용할 수 있는 재현 가능한 보고서, 데이터세트 및 공격 사례를 개발
- 편향, 허위 정보 및 유해한 행동을 포함한 민감한 주제에 대한 AI 출력을 평가
- 자동화된 평가에서 놓칠 수 있는 취약점을 발견
- 예상치 못한 프로덕션 문제를 예방할 수 있도록 평가 범위를 확대
- Mercor의 AI 연구소와 기업 고객을 위해 AI 시스템을 학습시키고 개선하는 프로젝트에 기여
지원 자격
- 영어와 칸나다어를 모두 모국어 수준 또는 유창하게 구사
- AI 응답의 정확성, 완전성 및 적절성을 포함해 언어와 콘텐츠를 평가할 때 건전한 판단력 보유
- 기술 및 비기술 대상에게 추론을 명확하게 전달할 수 있는 능력
- 미묘한 오류, 불일치 및 누락에 세심한 주의를 기울이는 태도
- 분류 체계, 벤치마크, 플레이북, 가이드라인 및 품질 기준을 일관되게 적용할 수 있는 능력
- 다양한 프로젝트, 작업 형식 및 고객에 유연하게 대응할 수 있는 능력
- 독립 계약자로 근무해야 함
- H-1B 또는 STEM OPT 신분을 취득할 계획이 없어야 함
- 우대: 탈옥 데이터세트, 프롬프트 인젝션, RLHF 또는 DPO 공격, 모델 추출 등 적대적 머신러닝 경험
- 우대: 침투 테스트, 익스플로잇 개발 또는 리버스 엔지니어링 등 사이버 보안 배경
- 우대: 괴롭힘 또는 허위 정보 탐색, 악용 분석 또는 대화형 AI 테스트 등 사회기술적 위험 경험
- 우대: 색다른 적대적 사고를 뒷받침하는 심리학, 연기 또는 글쓰기 경험
복리후생
- 유연한 일정으로 근무할 수 있는 완전 원격 계약 업무
- 제공한 서비스에 따라 Stripe 또는 Wise를 통해 매주 지급
- 최첨단 AI 안전성에 초점을 둔 인간 데이터 기반 AI 레드팀 경험을 쌓을 기회
- AI 시스템을 더욱 견고하고 안전하며 신뢰할 수 있게 만드는 데 의미 있게 기여
- 높은 민감도의 콘텐츠가 포함된 프로젝트를 위한 웰니스 리소스 및 명확한 지침
- 요청 시 합리적인 편의 제공
- 관련 제한 사항에 따라 성공적인 추천 1건당 최대 90달러의 추천 보상
