AI 모델 안전 레드팀 테스터
적대적 테스트를 통해 Mercor의 최첨단 AI 모델에서 안전 취약점을 찾습니다. 취약점을 발견하고 모델 정렬 개선에 기여합니다.
설명
- 최첨단 AI 모델을 점검하기 위한 적대적 프롬프트를 만듭니다.
- 탈옥, 안전하지 않은 동작, 환각, 정책 위반을 찾아냅니다.
- 허위 정보, 사이버 보안, 생물 보안, 사기, 정치 콘텐츠 및 기타 민감한 영역에서 모델의 회복탄력성을 테스트합니다.
- 취약점을 기록하고 안전성 벤치마크와 레드팀 보고서 작성을 지원합니다.
- AI 연구자와 협력해 모델 정렬, 회복탄력성, 안전성을 강화합니다.
- 차세대 최첨단 AI 모델을 보호하고 개선하는 데 기여합니다.
- AI 시스템을 학습하고 개선하는 프로젝트에 참여합니다.
지원 자격
- 컴퓨터 과학, 사이버 보안, 저널리즘, 커뮤니케이션, 심리학, 생물학, 화학, 공공 정책 또는 관련 분야의 학사 학위 이상
- AI 안전, AI 레드팀, 신뢰 및 안전, 사이버 보안, 탐사 저널리즘, 생명과학 또는 관련 분야에서 최소 5년의 전문 경력
- 뛰어난 분석적 추론 능력, 프롬프트 설계 능력 및 글쓰기 능력
- 적대적 프롬프트를 만들거나 최첨단 AI 시스템을 평가한 경험
- AI 레드팀, RLHF, 지도 미세 조정, AI 정렬 또는 신뢰 및 안전 경험 우대
- 탈옥 테스트, 프롬프트 엔지니어링 또는 적대적 평가 방법에 대한 지식 우대
- 사이버 보안, 생물 보안, 정치 콘텐츠, 허위 정보 또는 과학 안전 등 민감한 영역 중 하나 이상에 대한 전문 지식 우대
- H-1B 또는 STEM OPT 스폰서십이 필요하지 않아야 합니다. Mercor는 어느 형태의 스폰서십이 필요한 후보자를 지원할 수 없습니다.
복리후생
- 완전 원격 근무 및 유연한 일정
- 제공한 서비스 대금을 Stripe 또는 Wise를 통해 매주 지급
- 프로젝트 필요와 업무 성과에 따라 프로젝트 기간이 변경되거나 조기 종료될 수 있음
- 선도적인 AI 연구자 및 안전 팀과 협업
- AI 시스템이 복잡한 현실 세계의 안전 과제를 처리하는 방식을 형성하는 데 기여
- 요청 시 합리적인 편의 제공
- 추천이 성사되면 건당 최대 340달러의 추천 보상 지급, 제한 사항 적용