AI 안전 전문가—영어 및 벵골어(원격 계약)
Mercor는 대화형 AI 시스템의 취약점을 식별할 영어 및 벵골어 구사 AI 안전 레드팀 테스터를 찾고 있습니다. 이 역할은 재현 가능한 공격 사례를 만들고 최첨단 모델을 학습시키는 AI 연구소를 위한 사람이 생성한 데이터를 제작하는 업무를 포함합니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용 및 다중 턴 조작을 사용해 대화형 AI 모델과 에이전트를 테스트합니다
- 실패 사례에 주석을 달고 취약점을 분류하며 시스템적 위험을 식별해 사람이 생성한 데이터를 만듭니다
- 확립된 분류 체계, 벤치마크 및 플레이북을 사용해 평가의 일관성을 유지합니다
- 재현 가능한 보고서, 데이터셋 및 공격 사례를 고객에게 제공합니다
- 편향, 허위 정보, 유해한 행동 및 기타 민감한 주제와 관련된 AI 응답을 평가합니다
- 평가 범위를 확대하고 더 강력한 고객 AI 시스템 구축에 기여합니다
지원 자격
- 영어와 벵골어 모두 원어민 수준 또는 유창하게 구사할 수 있어야 합니다
- 언어와 콘텐츠를 평가할 때 건전한 판단력을 갖춰야 합니다. AI 응답이 정확하고 완전하며 적절한지 판단하고 그 평가를 설명할 수 있어야 합니다
- 미묘한 오류, 불일치 및 누락에 세심한 주의를 기울여야 합니다
- 테스트 지침과 품질 기준을 안정적으로 준수해야 합니다
- 기술 및 비기술 대상 모두에게 추론을 명확하게 전달할 수 있어야 합니다
- 프로젝트, 작업 형식 및 고객에 따라 유연하게 적응할 의지가 있어야 합니다
- 독립 계약자로 일할 수 있어야 합니다
- H-1B 또는 STEM OPT 스폰서십이 필요하지 않아야 합니다
- 우대 사항: 탈옥 데이터셋, 프롬프트 인젝션, RLHF/DPO 공격 또는 모델 추출을 포함한 적대적 머신러닝 경험
- 우대 사항: 침투 테스트, 익스플로잇 개발 또는 리버스 엔지니어링 분야의 사이버 보안 경험
- 우대 사항: 괴롭힘 또는 허위 정보 탐색, 악용 분석 또는 대화형 AI 테스트와 관련된 사회기술적 위험 경험
- 우대 사항: 색다른 적대적 사고를 뒷받침하는 심리학, 연기 또는 글쓰기 경험
복리후생
- 완전 원격으로 근무합니다
- 유연한 일정을 설정하고 자신의 가용 시간에 맞춰 일합니다
- Stripe 또는 Wise를 통해 매주 급여를 받습니다
- 더 높은 민감도가 요구되는 프로젝트에 참여할지 선택할 수 있습니다
- 민감한 콘텐츠 업무를 위한 명확한 지침과 웰니스 리소스를 이용할 수 있습니다
- 경쟁력 있는 보상을 받습니다
- 사람이 생성한 데이터를 활용한 AI 레드팀 업무 경험을 쌓습니다
- 최고 수준의 AI 연구자들과 협업합니다
- 성공적으로 추천한 사람마다 최대 90달러의 추천 보상을 받습니다