Mercor 원격 AI 안전 전문가(영어 및 마라티어)
영어와 마라티어로 레드팀 테스트를 수행해 대화형 AI 모델의 취약점을 탐색합니다. 인간 데이터 기반 AI 안전 프로젝트를 위한 재현 가능한 데이터셋, 공격 사례 및 보고서를 작성합니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작 등을 활용해 대화형 AI 모델과 에이전트에 대한 레드팀 테스트를 수행합니다
- 실패 사례를 주석 처리하고 취약점을 분류하며 시스템적 위험을 식별해 인간 데이터를 생성합니다
- 분류 체계, 벤치마크, 플레이북을 사용해 일관된 평가를 유지합니다
- 고객을 위한 재현 가능한 보고서, 데이터셋 및 공격 사례를 개발합니다
- 편향, 허위 정보, 유해 행동을 포함한 민감한 주제 관련 AI 출력을 평가합니다
- 자동화된 테스트에서 놓칠 수 있는 약점을 식별합니다
- 평가 범위를 확대해 운영 환경에서 발생할 수 있는 예기치 않은 문제를 예방하는 데 기여합니다
- 고객이 AI 시스템의 안전성, 견고성 및 신뢰성을 향상할 수 있도록 지원합니다
지원 자격
- 영어와 마라티어를 유창하게 또는 모국어 수준으로 구사해야 합니다
- 언어와 콘텐츠에 대한 건전한 판단력을 갖추고, AI 응답이 정확하고 완전하며 적절한지 평가하고 그 근거를 설명할 수 있어야 합니다
- 미묘한 오류, 불일치 및 누락을 세심하게 찾아내는 뛰어난 주의력이 필요합니다
- 정해진 지침과 품질 기준을 일관되게 준수해야 합니다
- 기술 및 비기술 대상 모두에게 판단 근거를 명확하게 전달할 수 있어야 합니다
- 프로젝트, 작업 형식 및 고객의 차이에 적응할 수 있어야 합니다
- 독립 계약자로 근무해야 합니다
- H1-B 및 STEM OPT 지원자는 지원 대상이 아닙니다
- 우대: 탈옥 데이터셋, 프롬프트 인젝션, RLHF 또는 DPO 공격, 모델 추출 관련 적대적 머신러닝 경험
- 우대: 침투 테스트, 익스플로잇 개발 또는 리버스 엔지니어링 관련 사이버 보안 경험
- 우대: 괴롭힘 또는 허위 정보 탐색, 악용 분석, 대화형 AI 테스트 관련 사회기술적 위험 경험
- 우대: 색다른 적대적 사고를 뒷받침하는 심리학, 연기 또는 글쓰기 경험
복리후생
- 완전한 원격 근무
- 근무 시간을 직접 선택할 수 있는 유연한 일정
- 제공한 서비스에 따라 Stripe 또는 Wise를 통해 매주 지급
- 사업상 필요와 업무 성과에 따라 프로젝트 기간이 연장, 단축 또는 조기 종료될 수 있습니다
- 민감도가 높은 콘텐츠가 포함된 프로젝트를 위한 웰니스 리소스와 명확한 지침
- 요청 시 합리적인 편의 제공
- 성공적인 추천 1건당 최대 90달러를 제공하는 추천 프로그램이며 추천 횟수 제한 없음
- 최고 수준의 연구자들과 협업할 기회
- AI 안전 분야의 최전선에서 인간 데이터 기반 AI 레드팀 테스트를 수행하는 경험
