AI 안전 레드팀 테스터
고위험 분야의 취약점을 탐색해 Mercor 파트너 연구소의 최첨단 AI 시스템을 스트레스 테스트합니다. 발견 사항을 안전성 벤치마크에 반영하고 연구자들이 모델의 견고성과 정렬을 개선하도록 지원합니다.
설명
- 최첨단 AI 모델을 테스트할 적대적 프롬프트를 작성합니다.
- 탈옥, 안전하지 않은 동작, 환각, 정책 실패를 찾아냅니다.
- 허위 정보, 사이버 보안, 바이오 보안, 사기, 정치 콘텐츠 등 민감한 분야에서 모델의 견고성을 평가합니다.
- 취약점을 기록하고 안전성 벤치마크와 레드팀 보고서 작성에 기여합니다.
- AI 연구자들과 협력해 모델 정렬, 견고성, 안전성을 강화합니다.
- AI 시스템을 학습시키고 개선하는 프로젝트를 지원합니다.
- 근무 일정을 직접 정할 수 있습니다. 프로젝트 기간은 사업상 필요와 업무 성과에 따라 변경되거나 조기 종료될 수 있습니다.
지원 자격
- 컴퓨터 과학, 사이버 보안, 저널리즘, 커뮤니케이션, 심리학, 생물학, 화학, 공공 정책 또는 관련 분야의 학사 학위 이상.
- AI 안전, AI 레드팀, 신뢰 및 안전, 사이버 보안, 탐사 보도, 생명과학 또는 관련 분야에서 5년 이상의 실무 경력.
- 뛰어난 분석적 추론, 프롬프트 설계 및 글쓰기 역량.
- 적대적 프롬프트 작성 또는 최첨단 AI 시스템 평가 경험.
- 우대 사항: AI 레드팀, RLHF, SFT, AI 정렬 또는 신뢰 및 안전 관련 경험.
- 우대 사항: 탈옥 테스트, 프롬프트 엔지니어링 또는 적대적 평가 방법에 대한 지식.
- 우대 사항: 사이버 보안, 바이오 보안, 정치 콘텐츠, 허위 정보 또는 과학 안전 등 하나 이상의 민감한 분야에 대한 전문성.
- 독립 계약자 형태로 참여합니다.
- H-1B 또는 STEM OPT 지원 없이 근무할 수 있어야 합니다.
복리후생
- 완전 원격 근무와 유연한 일정.
- 제공한 서비스 대금을 Stripe 또는 Wise를 통해 매주 지급합니다.
- 선도적인 AI 연구자 및 안전 팀과 함께 일합니다.
- 복잡한 현실 세계의 안전 과제에 AI 시스템이 대응하는 방식을 만드는 데 기여합니다.
- 경쟁력 있는 보수.
- 요청 시 합리적인 편의를 제공합니다.
- 성공적인 추천 1건당 최대 340달러의 추천 보상(한도 적용).
