AI 안전 레드팀 테스터—미국 원격 계약직
Mercor는 최첨단 AI 모델에 도전하고 취약점을 찾아내는 계약직 AI 안전 레드팀 테스터를 모집합니다. 고위험 분야에 집중하며 더 안전하고 신뢰할 수 있는 AI 시스템 개발을 지원하는 역할입니다.
설명
- 최첨단 AI 모델을 엄격하게 시험하는 적대적 프롬프트 작성
- 탈옥, 안전하지 않은 행동, 환각, 안전 정책 미준수 탐지
- 허위 정보, 사이버 보안, 바이오 보안, 사기, 정치적 콘텐츠 및 기타 민감한 영역에서 모델의 회복탄력성 평가
- 발견한 취약점을 기록하고 안전성 벤치마크와 레드팀 보고서 지원
- AI 연구자들과 협력하여 모델 정렬, 견고성 및 안전성 향상
- 새롭게 등장하는 최첨단 AI 시스템의 보호와 개선 지원
- 실제 상황에서 AI 모델이 까다로운 안전 시나리오를 처리하는 방식 형성
지원 자격
- 컴퓨터 과학, 사이버 보안, 저널리즘, 커뮤니케이션, 심리학, 생물학, 화학, 공공 정책 또는 관련 분야의 학사 학위 이상
- AI 안전, AI 레드팀, 신뢰 및 안전, 사이버 보안, 탐사 저널리즘, 생명과학 또는 관련 분야에서 5년 이상의 전문 경력
- 뛰어난 분석적 판단력, 프롬프트 개발 능력 및 서면 커뮤니케이션 역량
- 적대적 프롬프트 작성 또는 최첨단 AI 시스템 평가 실무 경험
- 우대: AI 레드팀, RLHF, SFT, AI 정렬 또는 신뢰 및 안전 관련 배경
- 우대: 탈옥 평가, 프롬프트 엔지니어링 또는 적대적 평가 방법에 대한 지식
- 우대: 사이버 보안, 바이오 보안, 정치적 콘텐츠, 허위 정보 또는 과학 안전과 같은 복잡한 영역의 전문성
- 독립 계약자로 근무할 수 있는 분
- H-1B 및 STEM OPT 지원자는 대상이 아님
복리후생
- 완전 원격 근무
- 근무 시간을 직접 정하고 유연한 일정으로 과제 완료
- Stripe 또는 Wise를 통한 주급 지급
- 프로젝트 기간은 비즈니스 요구와 성과에 따라 변경되거나 조기 종료될 수 있음
- 경쟁력 있는 보상
- 선도적인 AI 연구자 및 안전 팀과 협업
- 요청 시 합리적인 편의 제공
- 추천 한도 내에서 성공적인 추천 1건당 최대 340달러를 제공하는 추천 프로그램