AI 안전 레드팀 테스터—원격 계약직(미국)
Mercor는 적대적 테스트를 통해 최첨단 AI 모델의 취약점을 찾아내는 AI 안전 레드팀 테스터를 모집합니다. 프롬프트를 설계하고 AI 안전 연구자들과 협력해 모델의 고위험 행동을 평가하는 역할입니다.
설명
- 최첨단 AI 모델에 도전하는 적대적 프롬프트를 작성합니다
- 탈옥, 안전하지 않은 행동, 환각 및 정책 위반을 탐지합니다
- 허위 정보, 사이버 보안, 바이오 보안, 사기, 정치적 콘텐츠 및 기타 민감한 영역에서 모델의 견고성을 평가합니다
- 취약점을 기록하고 안전성 벤치마크와 레드팀 보고서를 지원합니다
- AI 연구자들과 협력해 모델의 정렬, 견고성 및 안전성을 강화합니다
- AI 시스템을 학습시키고 개선하는 프로젝트에 기여합니다
지원 자격
- 컴퓨터 과학, 사이버 보안, 저널리즘, 커뮤니케이션, 심리학, 생물학, 화학, 공공 정책 또는 관련 분야의 학사 학위 이상
- AI 안전, AI 레드팀, 신뢰 및 안전, 사이버 보안, 탐사 저널리즘, 생명과학 또는 관련 분야에서 5년 이상의 전문 경력
- 뛰어난 분석적 추론, 프롬프트 설계 및 서면 커뮤니케이션 능력
- 적대적 프롬프트 작성 또는 최첨단 AI 시스템 평가 경험
- AI 레드팀, RLHF, SFT, AI 정렬 또는 신뢰 및 안전 경험 우대
- 탈옥 테스트, 프롬프트 엔지니어링 또는 적대적 평가 방법에 대한 이해 우대
- 사이버 보안, 바이오 보안, 정치적 콘텐츠, 허위 정보 또는 과학 안전과 같은 하나 이상의 회색 영역에 대한 전문 지식 우대
- 독립 계약자로 근무할 수 있어야 합니다
- H-1B 및 STEM OPT 후보자는 지원 대상이 아닙니다
복리후생
- 완전 원격 근무
- 유연한 일정
- Stripe 또는 Wise를 통한 주급 지급
- 프로젝트는 사업상 필요와 성과에 따라 연장, 단축 또는 조기 종료될 수 있습니다
- 선도적인 AI 연구자 및 안전 팀과 함께 적대적 테스트를 수행합니다
- AI 시스템이 복잡한 현실의 안전 문제를 처리하는 방식에 영향을 줄 기회
- 요청 시 합리적인 편의를 제공합니다
- 성공한 추천 1건당 최대 340달러의 추천 보상금이 지급되며 추천 한도가 적용됩니다