AI 안전 레드팀 전문가—영어 및 핀란드어, 미국 원격
Mercor의 인간 데이터 AI 프로젝트를 위해 대화형 AI 모델과 에이전트를 대상으로 적대적 테스트를 수행합니다. 최첨단 AI 시스템을 강화하는 데 도움이 되는 재현 가능한 취약점 데이터를 작성합니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작을 사용해 대화형 AI 모델과 에이전트를 테스트합니다
- 실패를 주석 처리하고 취약점을 분류하며 시스템적 위험을 식별합니다
- 확립된 분류 체계, 벤치마크, 플레이북을 적용해 일관된 평가를 수행합니다
- 고객을 위한 재현 가능한 보고서, 데이터 세트, 공격 사례를 작성합니다
- 자동화된 테스트에서 놓칠 수 있는 취약점을 식별합니다
- 평가 범위를 확대하고 운영 환경에서 발생할 수 있는 예기치 않은 문제를 줄이는 데 기여합니다
- AI 시스템을 학습시키고 개선하는 프로젝트에서 선도적인 연구자들과 협업합니다
지원 자격
- 영어와 핀란드어에 유창하거나 원어민 수준의 능력이 있어야 합니다
- AI 적대적 작업, 사이버 보안 또는 사회기술적 탐색 분야의 레드팀 경험
- AI 시스템을 적대적으로 테스트하고 실패 지점까지 압박할 수 있는 능력
- 프레임워크 또는 벤치마크를 적용한 구조화된 테스트 경험
- 기술 및 비기술 대상에게 위험을 명확하게 전달할 수 있는 능력
- 프로젝트와 고객 요구사항의 변화에 적응할 수 있어야 합니다
- 독립 계약자로 업무에 참여할 수 있어야 합니다
- H-1B 또는 STEM OPT 후보자가 아니어야 합니다
- 우대: 탈옥 데이터 세트, 프롬프트 인젝션, RLHF/DPO 공격 또는 모델 추출을 포함한 적대적 머신러닝 경험
- 우대: 침투 테스트, 익스플로잇 개발 또는 리버스 엔지니어링 분야의 사이버 보안 경험
- 우대: 괴롭힘 또는 허위 정보 탐색, 악용 분석 또는 대화형 AI 테스트를 포함한 사회기술적 위험 경험
- 우대: 색다른 적대적 사고를 뒷받침하는 심리학, 연기 또는 글쓰기 경험
복리후생
- 완전 원격 근무
- 유연한 일정
- Stripe 또는 Wise를 통한 주간 지급
- 웰니스 리소스와 고감도 프로젝트를 위한 명확한 지침
- 인간 데이터 AI 레드팀 경험을 쌓을 기회
- AI 시스템을 더욱 견고하고 안전하며 신뢰할 수 있게 만드는 데 직접 기여할 기회
- 경쟁력 있는 보상
- 성공적인 추천 1건당 최대 250달러의 추천 보너스