AI 안전 레드팀 테스터
Mercor는 적대적 테스트를 통해 최첨단 AI 시스템을 검증하고 AI 학습 프로젝트를 지원할 AI 안전 레드팀 테스터를 찾고 있습니다. 고위험 주제 영역에서 도전적인 프롬프트를 작성하고 취약점을 기록하는 역할입니다.
설명
- 최첨단 AI 모델에 도전하는 적대적 프롬프트 작성
- 탈옥, 안전하지 않은 동작, 환각 및 정책 위반 탐지
- 허위 정보, 사이버 보안, 바이오 보안, 사기, 정치적 콘텐츠 및 기타 민감한 영역에서 모델의 회복탄력성 평가
- 발견한 취약점을 기록하고 안전성 벤치마크 및 레드팀 보고서 지원
- AI 연구자와 협력하여 모델의 정렬, 견고성 및 안전성 강화
- AI 시스템을 학습시키고 개선하는 프로젝트에 기여
지원 자격
- 컴퓨터 과학, 사이버 보안, 저널리즘, 커뮤니케이션, 심리학, 생물학, 화학, 공공 정책 또는 관련 분야의 학사 학위 이상
- AI 안전, AI 레드팀, 신뢰 및 안전, 사이버 보안, 탐사 저널리즘, 생명과학 또는 관련 분야에서 5년 이상의 실무 경력
- 강력한 분석적 추론, 프롬프트 엔지니어링 및 서면 커뮤니케이션 능력
- 적대적 프롬프트 작성 또는 최첨단 AI 시스템 평가 경험
- 자격 요건에 명시된 지역 중 한 곳에 거주
- H-1B 및 STEM OPT 지원자는 지원 대상이 아님
복리후생
- 완전 원격으로 근무
- 유연한 일정을 선택하고 자신에게 맞는 시간에 업무 완료
- Stripe 또는 Wise를 통한 주급 지급
- 선도적인 AI 연구자 및 안전 팀과 협업
- 최첨단 AI 시스템의 안전성과 정렬 형성에 기여
- 비즈니스 요구와 업무 성과에 따라 프로젝트 기간이 변경되거나 조기 종료될 수 있음
- 추천 제한이 적용되며 성공적인 추천 1건당 최대 340달러의 추천 보상 지급
