AI 안전 레드팀 전문가
Mercor는 고위험 분야에서 최첨단 AI 모델의 취약점을 탐색할 AI 안전 레드팀 전문가를 찾고 있습니다.\n이 업무는 AI 연구소가 고도화된 시스템을 학습시키고 개선하도록 지원합니다.
설명
- 최첨단 AI 모델을 테스트하기 위한 적대적 프롬프트를 작성합니다.
- 탈옥, 안전하지 않은 동작, 환각, 정책 위반을 찾아냅니다.
- 허위 정보, 사이버 보안, 생물 보안, 사기, 정치 콘텐츠 및 기타 민감한 영역에서 모델의 견고성을 평가합니다.
- 취약점을 기록하고 안전성 벤치마크와 레드팀 보고서 작성을 지원합니다.
- AI 연구자와 협력해 모델 정렬, 견고성, 안전성을 강화합니다.
- AI 시스템을 학습시키고 개선하는 프로젝트에 참여합니다.
지원 자격
- 컴퓨터 과학, 사이버 보안, 저널리즘, 커뮤니케이션, 심리학, 생물학, 화학, 공공 정책 또는 관련 분야의 학사 학위 이상.
- AI 안전, AI 레드팀, 신뢰 및 안전, 사이버 보안, 탐사 저널리즘, 생명과학 또는 관련 분야에서 5년 이상의 전문 경력.
- 뛰어난 분석적 추론, 프롬프트 설계 및 문서 작성 능력.
- 적대적 프롬프트를 만들거나 최첨단 AI 시스템을 평가한 경험.
- 다음 대상 국가 또는 지역 중 한 곳에 거주해야 합니다: 알바니아, 오스트리아, 벨기에, 불가리아, 보스니아 헤르체고비나, 스위스, 체코, 독일, 덴마크, 스페인, 에스토니아, 핀란드, 프랑스, 영국, 그리스, 크로아티아, 헝가리, 아일랜드, 아이슬란드, 이탈리아, 리히텐슈타인, 리투아니아, 룩셈부르크, 라트비아, 모나코, 몰도바, 북마케도니아, 몰타, 네덜란드, 노르웨이, 폴란드, 포르투갈, 루마니아, 산마리노, 세르비아, 슬로바키아, 슬로베니아, 스웨덴, 미국 또는 코소보.
- 현재 H-1B 및 STEM OPT 후보자는 지원할 수 없습니다.
복리후생
- 완전 원격 근무와 유연한 일정.
- 제공한 서비스 대금을 Stripe 또는 Wise를 통해 매주 지급합니다.
- 프로젝트 기간은 프로젝트 필요와 성과에 따라 연장, 단축 또는 조기 종료될 수 있습니다.
- 경쟁력 있는 보상.
- 선도적인 AI 연구자 및 안전 팀과 협력할 기회.
- 요청 시 합리적인 편의를 제공합니다.
- 추천 프로그램을 통해 추천이 성사될 때마다 최대 340달러를 받을 수 있으며, 한도가 적용됩니다.