AI 안전 전문가—영어 및 핀란드어（원격）
Mercor는 영어와 핀란드어를 구사하는 AI 안전 전문가를 찾고 있으며, 대화형 AI 모델과 에이전트를 대상으로 레드팀 테스트를 수행합니다. 최첨단 AI 학습 프로젝트를 위해 재현 가능한 취약점 데이터와 공격 사례를 만드는 업무입니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작을 사용해 대화형 AI 모델과 에이전트를 적대적으로 테스트
- 실패 사례를 문서화하고 취약점을 분류하며 시스템적 위험을 식별
- 확립된 분류 체계, 벤치마크, 플레이북을 적용해 일관된 평가를 유지
- 재현 가능한 보고서, 데이터 세트, 공격 사례를 작성
- 편향, 허위 정보, 유해한 행동이 포함된 모델 출력을 조사
- 자동화된 테스트에서 놓칠 수 있는 취약점을 찾기 위해 평가 범위를 확대
- 최첨단 AI 시스템의 학습과 개선을 지원하는 프로젝트 팀과 협업
지원 자격
- 영어와 핀란드어에 유창하거나 원어민 수준일 것
- AI 적대적 테스트, 사이버 보안 또는 사회기술적 탐색 분야의 레드팀 경험
- AI 시스템을 적대적으로 테스트할 수 있는 역량을 입증할 것
- 프레임워크, 분류 체계, 벤치마크, 플레이북을 활용할 수 있을 것
- 기술 및 비기술 대상에게 위험을 명확하게 전달할 수 있을 것
- 다양한 프로젝트와 고객에 맞게 유연하게 대응할 수 있을 것
- 독립 계약자로 근무해야 함
- 다른 고용주, 고객 또는 기관에 속한 기밀 정보나 독점 정보를 사용하지 않고 근무할 수 있어야 함
- H-1B 및 STEM OPT 지원자는 지원 대상이 아님
복리후생
- 완전 원격 계약직
- 근무 시간을 직접 조정할 수 있는 유연한 일정
- 높은 민감도의 프로젝트에 참여할 수 있는 선택권
- 명확한 지침과 웰니스 리소스 제공
- Stripe 또는 Wise를 통한 주급 지급
- 경쟁력 있는 보수
- 성공적으로 추천한 사람마다 최대 250달러의 추천 보상
- 요청 시 합리적인 편의 제공