AI 안전 전문가(영어 및 타밀어) – 원격 계약직
Mercor는 영어와 타밀어를 구사하며 대화형 모델과 에이전트의 레드팀 테스트를 수행할 AI 안전 전문가를 찾고 있습니다. 이 계약직은 취약점 식별, 평가 데이터 생성, 재현 가능한 안전성 보고서 작성에 중점을 둡니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작을 사용해 대화형 AI 모델과 에이전트를 대상으로 적대적 테스트를 수행합니다.
- 실패 사례를 주석 처리하고 취약점을 분류하며 시스템적 위험을 식별해 사람이 생성한 데이터를 만듭니다.
- 확립된 분류 체계, 벤치마크, 플레이북을 사용해 일관된 평가를 유지합니다.
- 고객에게 재현 가능한 보고서, 데이터셋, 공격 사례를 제공합니다.
- 편향, 허위 정보, 유해한 행동 등 민감한 주제와 관련된 AI 출력을 평가합니다.
- 자동화된 평가 방법이 놓칠 수 있는 약점을 식별합니다.
- 평가 범위를 확대해 예상치 못한 프로덕션 문제를 줄이는 데 기여합니다.
- 구조화된 적대적 테스트를 통해 고객의 AI 시스템을 개선합니다.
지원 자격
- 영어와 타밀어를 모국어 수준 또는 유창하게 구사해야 합니다.
- 언어와 콘텐츠를 평가할 때 건전한 판단력을 갖춰야 합니다.
- AI 응답이 정확하고 완전하며 적절한지 판단하고 그 근거를 설명할 수 있어야 합니다.
- 미묘한 오류, 불일치, 누락에 세심한 주의를 기울여야 합니다.
- 지침과 품질 기준을 일관되게 준수해야 합니다.
- 기술 및 비기술 대상 모두에게 판단 근거를 명확하게 전달할 수 있어야 합니다.
- 프로젝트, 업무 형식, 고객의 차이에 유연하게 적응할 수 있어야 합니다.
- 독립 계약자로 근무할 수 있어야 합니다.
- H1-B 및 STEM OPT 지원자는 지원 대상이 아닙니다.
- 우대 사항: 탈옥 데이터셋, 프롬프트 인젝션, RLHF 또는 DPO 공격, 모델 추출 등의 적대적 머신러닝 경험.
- 우대 사항: 침투 테스트, 익스플로잇 개발, 리버스 엔지니어링 등의 사이버 보안 경험.
- 우대 사항: 괴롭힘 또는 허위 정보 탐색, 악용 분석, 대화형 AI 테스트 등을 포함한 사회기술적 위험 경험.
- 우대 사항: 심리학, 연기, 글쓰기 분야의 창의적 탐색 경험.
복리후생
- 완전 원격으로 근무합니다.
- 근무 시간이 유연하며 직접 시간을 정할 수 있습니다.
- Stripe 또는 Wise를 통해 매주 지급받습니다.
- 더 높은 민감도가 요구되는 프로젝트에 선택적으로 참여할 수 있습니다.
- 민감한 콘텐츠를 다루는 업무를 위한 명확한 지침과 웰니스 리소스를 제공합니다.
- 경쟁력 있는 시간당 보수를 제공합니다.
- 선도적인 연구자들과 협업할 기회가 있습니다.
- 성공적인 추천 1건당 최대 90달러의 추천 보상을 받을 수 있으며, 적용되는 한도가 있을 수 있습니다.
- 요청 시 합리적인 편의를 제공합니다.