AI 안전 레드팀 담당자
Mercor는 최첨단 모델의 탈옥, 환각, 정책 실패를 조사할 AI 안전 레드팀 담당자를 찾고 있습니다. 이 회사는 AI 연구소와 협력해 AI 시스템을 학습시키고 개선합니다.
설명
- 최첨단 AI 모델을 테스트하기 위한 적대적 프롬프트를 작성합니다.
- 탈옥, 안전하지 않은 동작, 환각, 정책 실패를 찾아냅니다.
- 허위 정보, 사이버 보안, 바이오 보안, 사기, 정치 콘텐츠 및 기타 민감한 영역에서 모델의 견고성을 평가합니다.
- 취약점을 기록하고 안전성 벤치마크와 레드팀 보고서 작성을 지원합니다.
- AI 연구자와 협력해 모델 정렬, 견고성, 안전성을 강화합니다.
- 프로젝트의 필요와 성과에 따라 독립 계약자 프로젝트를 수행합니다.
지원 자격
- 컴퓨터 과학, 사이버 보안, 저널리즘, 커뮤니케이션, 심리학, 생물학, 화학, 공공 정책 또는 관련 분야의 학사 학위 이상.
- AI 안전, AI 레드팀, 신뢰 및 안전, 사이버 보안, 탐사 저널리즘, 생명과학 또는 관련 분야에서 5년 이상의 전문 경력.
- 뛰어난 분석적 추론 능력, 프롬프트 설계 능력, 글쓰기 능력.
- 적대적 프롬프트를 만들거나 최첨단 AI 시스템을 평가한 경험.
- 우대 사항: AI 레드팀, RLHF, SFT, AI 정렬 또는 신뢰 및 안전 관련 경험.
- 우대 사항: 탈옥 테스트, 프롬프트 엔지니어링 또는 적대적 평가 방법에 대한 지식.
- 우대 사항: 사이버 보안, 바이오 보안, 정치 콘텐츠, 허위 정보, 과학 안전 등 하나 이상의 민감한 영역에 관한 전문성.
- 독립 계약자로 근무할 수 있어야 합니다.
- H-1B 및 STEM OPT 후보자는 지원 대상이 아닙니다.
복리후생
- 완전한 원격 근무입니다.
- 근무 일정을 직접 정할 수 있습니다.
- 수행한 서비스에 대한 대금은 Stripe 또는 Wise를 통해 매주 지급됩니다.
- 선도적인 AI 연구자 및 안전팀과 함께 일할 수 있습니다.
- 최첨단 AI 안전과 정렬에 기여할 수 있습니다.
- 성공적인 추천 건당 최대 340달러의 추천 보상이 지급되며, 제한이 적용됩니다.
- 요청 시 합리적인 편의를 제공받을 수 있습니다.
