AI 안전 전문가, 영어 및 네덜란드어（원격 계약）
Mercor는 영어와 네덜란드어를 구사하는 AI 안전 전문가를 찾아 대화형 모델과 에이전트를 레드팀 테스트할 예정입니다. 최첨단 AI 개발을 위해 취약성 데이터와 공격 시나리오를 만들고 재현 가능한 안전성 보고서를 작성하는 업무입니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작을 활용해 대화형 AI 모델과 에이전트를 테스트합니다
- 실패 사례에 주석을 달고 취약성을 분류하며 시스템적 위험을 식별해 사람이 생성한 데이터를 만듭니다
- 분류 체계, 벤치마크, 플레이북을 사용해 일관된 안전성 테스트를 지원합니다
- 고객을 위한 재현 가능한 보고서, 데이터세트, 공격 사례를 개발합니다
- 자동화된 테스트가 놓칠 수 있는 취약성을 찾습니다
- 평가 범위를 넓혀 운영 환경에서 예상치 못한 위험을 줄이는 데 기여합니다
- 선도적인 연구자들과 협력해 최첨단 AI 시스템을 학습시키고 개선합니다
지원 자격
- 영어와 네덜란드어를 모국어 수준으로 유창하게 구사해야 합니다
- AI 레드팀, 사이버 보안의 공격적 업무 또는 사회기술적 프로빙 경험이 있어야 합니다
- AI 시스템을 적대적으로 테스트하고 실패 조건으로 유도할 수 있어야 합니다
- 프레임워크나 벤치마크를 구조화된 테스트에 적용한 경험이 있어야 합니다
- 기술 및 비기술 청중에게 위험을 명확하게 전달할 수 있어야 합니다
- 다양한 프로젝트와 고객에 적응할 수 있어야 합니다
- 적대적 머신러닝 경험을 우대합니다. 탈옥 데이터세트, 프롬프트 인젝션, RLHF/DPO 공격 또는 모델 추출 경험을 포함합니다
- 사이버 보안 경험을 우대합니다. 침투 테스트, 익스플로잇 개발 또는 리버스 엔지니어링 경험을 포함합니다
- 사회기술적 위험 경험을 우대합니다. 괴롭힘이나 허위 정보 프로빙, 악용 분석 또는 대화형 AI 테스트 경험을 포함합니다
- 심리학, 연기 또는 글쓰기 분야의 창의적 프로빙 경험을 우대합니다
- 독립 계약자로 근무할 수 있어야 합니다
- H-1B 및 STEM OPT 후보자는 지원 대상이 아닙니다
복리후생
- 완전한 원격 근무
- 근무 시간을 직접 정할 수 있는 유연한 일정
- 제공한 서비스에 따라 Stripe 또는 Wise를 통해 매주 지급
- 프로젝트는 사업상 필요와 성과에 따라 연장, 단축 또는 조기 종료될 수 있습니다
- 고도의 민감성이 요구되는 프로젝트 참여는 선택 사항입니다
- 콘텐츠 가이드라인과 웰니스 리소스를 제공합니다
- 요청 시 합리적인 편의를 제공합니다
- 경쟁력 있는 시급
- 성공적인 추천 1건당 최대 250달러의 추천 기회가 제공되며 관련 제한이 적용됩니다