AI 안전 레드팀 전문가——영어 및 타밀어, 원격 계약
적대적 프로빙과 구조화된 레드팀 분석을 통해 대화형 AI 모델과 에이전트의 취약점을 테스트합니다. Mercor의 AI 연구소 고객을 위해 공격 사례, 취약점 데이터, 재현 가능한 보고서를 작성합니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작을 사용해 대화형 AI 모델과 에이전트를 프로빙합니다
- 실패를 문서화하고 취약점을 분류하며 시스템적 위험을 식별해 사람이 라벨링한 데이터를 생성합니다
- 정립된 분류 체계, 벤치마크, 플레이북을 사용해 일관된 평가를 유지합니다
- 고객을 위한 재현 가능한 보고서, 데이터 세트, 공격 사례를 개발합니다
- 편향, 허위 정보, 유해한 행동 및 기타 민감한 주제와 관련된 AI 출력을 평가합니다
- 자동화된 테스트가 놓칠 수 있는 약점을 식별합니다
- 평가 범위를 넓혀 운영 환경에서 예상치 못한 문제가 발생하는 것을 방지합니다
- 고객의 AI 시스템을 개선하고 더 안전하고 신뢰할 수 있는 모델에 기여합니다
지원 자격
- 영어와 타밀어 모두 원어민 수준으로 유창해야 합니다
- 언어와 콘텐츠를 평가할 때 건전한 판단력을 갖춰야 합니다
- AI 응답이 정확하고 완전하며 적절한지 판단하고 그 평가를 설명할 수 있어야 합니다
- 미묘한 오류, 불일치, 누락에 세심한 주의를 기울여야 합니다
- 지침과 품질 기준을 일관되게 적용할 수 있어야 합니다
- 기술 및 비기술 대상에게 판단 근거를 명확히 전달할 수 있어야 합니다
- 프로젝트, 작업 형식, 고객에 따라 유연하게 대응할 수 있어야 합니다
- 우대 사항: 탈옥 데이터 세트, 프롬프트 인젝션, RLHF 또는 DPO 공격, 모델 추출 등 적대적 머신러닝 경험
- 우대 사항: 침투 테스트, 익스플로잇 개발, 리버스 엔지니어링 등 사이버 보안 배경
- 우대 사항: 괴롭힘 및 허위 정보 프로빙, 악용 분석, 대화형 AI 테스트 등 사회기술적 위험 경험
- 우대 사항: 심리학, 연기, 글쓰기 분야의 창의적 프로빙 경험
- 독립 계약자로 근무해야 합니다
- H-1B 및 STEM OPT 지원자는 대상이 아닙니다
복리후생
- 완전 원격 근무
- 근무 시간을 직접 정할 수 있는 유연한 일정
- Stripe 또는 Wise를 통한 주급 지급
- 경쟁력 있는 시간당 보상
- 프런티어 안전성에 중점을 둔 인간 데이터 기반 AI 레드팀 경험을 쌓을 기회
- 더 견고하고 안전하며 신뢰할 수 있는 AI 시스템에 직접 기여
- 더 높은 민감도의 프로젝트에 선택적으로 참여 가능
- 민감한 콘텐츠가 포함된 프로젝트를 위한 지침 및 웰니스 리소스
- 요청 시 합리적인 편의 제공
- 추천 프로그램: 추천 한도에 따라 성공적인 추천 1건당 최대 90달러 제공