AI 안전 레드팀 전문가(영어 및 펀자브어)
영어와 펀자브어로 대화형 AI 모델과 에이전트에 대한 적대적 테스트를 수행합니다. Mercor의 인간 데이터 AI 안전 프로젝트를 위해 취약점 주석, 공격 사례, 데이터 세트 및 재현 가능한 안전성 보고서를 작성합니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작을 활용해 대화형 AI 모델과 에이전트를 탐색한다
- 실패를 기록하고 취약점을 분류하며 시스템적 위험을 식별해 인간 데이터 주석을 작성한다
- 확립된 분류 체계, 벤치마크 및 플레이북을 사용해 일관된 평가를 유지한다
- 고객을 위한 재현 가능한 보고서, 데이터 세트 및 공격 사례를 제공한다
- 편향, 허위 정보, 유해한 행동 및 기타 민감한 주제와 관련된 AI 출력을 평가한다
- 자동화된 테스트가 놓칠 수 있는 취약점을 식별하도록 평가 범위를 확장한다
- 고객 AI 시스템의 안전성, 견고성 및 신뢰성 향상에 기여한다
지원 자격
- 영어와 펀자브어 원어민 또는 유창한 수준의 언어 능력
- AI 생성 콘텐츠의 정확성, 완전성 및 적절성을 평가할 때 건전한 판단력을 발휘하는 능력
- 미묘한 오류, 불일치 및 누락을 발견하는 능력
- 지침, 분류 체계, 벤치마크, 플레이북 및 품질 기준을 일관되게 준수하는 능력
- 기술 및 비기술 대상 모두에게 추론을 명확하게 전달하는 능력
- 프로젝트, 작업 형식 및 고객 요구 사항에 유연하게 대응하는 능력
- 독립 계약자로 일할 수 있는 능력
- H1-B 및 STEM OPT 지원자는 지원하지 않습니다
- 적대적 머신러닝, 탈옥 데이터 세트, 프롬프트 인젝션 또는 RLHF/DPO 공격, 모델 추출, 침투 테스트, 익스플로잇 개발, 리버스 엔지니어링, 괴롭힘 또는 허위 정보 탐색, 악용 분석, 대화형 AI 테스트, 심리학, 연기 또는 비정형 적대적 글쓰기에 대한 배경이 있으면 우대
복리후생
- 완전 원격 근무와 유연하고 자율적인 일정 관리
- Stripe 또는 Wise를 통한 주급 지급
- 경쟁력 있는 보상
- 웰니스 리소스와 높은 민감도가 요구되는 프로젝트를 위한 명확한 지침
- 요청 시 합리적인 편의 제공
- 성공적인 추천 1건당 최대 90달러의 추천 보상
- 선도적인 연구자들과 협업할 기회
- AI 안전의 최전선에서 인간 데이터를 활용한 AI 레드팀 테스트를 직접 경험
