AI 안전 전문가 - 영어 및 펀자브어
영어와 펀자브어에 능통한 AI 안전 전문가를 위한 원격 계약직으로, Mercor의 대화형 AI 레드팀 프로젝트를 지원합니다. 탈옥, 프롬프트 주입, 유해 콘텐츠 위험 및 모델 취약점을 테스트하고 재현 가능한 결과를 문서화합니다.
설명
- 탈옥, 프롬프트 주입, 오용 시나리오, 편향 악용 및 다중 턴 조작을 사용하여 대화형 AI 모델과 에이전트를 적대적으로 테스트
- 실패 사례에 주석을 달고, 취약점을 분류하며, 체계적 위험을 식별하여 사람이 생성한 데이터를 제작
- 정립된 분류 체계, 벤치마크 및 플레이북을 적용하여 일관된 평가를 유지
- 고객을 위한 재현 가능한 보고서, 데이터셋 및 공격 사례를 준비
- AI 출력의 편향, 허위 정보, 유해한 행동 및 기타 민감한 콘텐츠 위험을 평가
- 자동화된 평가에서 놓칠 수 있는 약점을 식별
- 평가 범위를 확대하여 프로덕션 환경의 예기치 않은 문제를 줄이는 데 기여
- 구조화된 적대적 테스트를 통해 고객의 AI 시스템을 개선
지원 자격
- 영어와 펀자브어 모두 원어민 수준으로 유창할 것
- 언어와 콘텐츠를 평가할 때 건전한 판단력을 갖출 것
- AI 응답이 정확하고 완전하며 적절한지 판단하고 그 평가를 설명할 수 있을 것
- 미묘한 오류, 불일치 및 누락에 세심한 주의를 기울일 것
- 지침과 품질 기준을 일관되게 준수할 것
- 기술 및 비기술 대상에게 자신의 판단 근거를 명확히 전달할 것
- 프로젝트, 작업 형식 및 고객에 따라 유연하게 적응할 것
- 독립 계약자 자격을 갖출 것
- H-1B 또는 STEM OPT 대상자가 아닐 것
- 우대 사항: 탈옥 데이터셋, 프롬프트 주입, RLHF/DPO 공격 또는 모델 추출을 포함한 적대적 머신러닝 경험
- 우대 사항: 침투 테스트, 익스플로잇 개발 또는 리버스 엔지니어링을 포함한 사이버 보안 경험
- 우대 사항: 괴롭힘 또는 허위 정보 탐색, 악용 분석 또는 대화형 AI 테스트를 포함한 사회기술적 위험 경험
- 우대 사항: 색다른 적대적 사고에 도움이 되는 심리학, 연기 또는 글쓰기 경험
복리후생
- 완전 원격 근무
- 자신의 일정에 맞춰 일할 수 있는 유연한 근무 일정
- Stripe 또는 Wise를 통한 주급 지급
- 사업상 필요와 업무 성과에 따라 프로젝트가 연장, 단축 또는 조기 종료될 수 있음
- 더 높은 민감도가 요구되는 프로젝트에 선택적으로 참여 가능
- 콘텐츠 지침과 웰니스 리소스 제공
- 경쟁력 있는 보수
- 요청 시 합리적인 편의 제공
- 추천 제한에 따라 성공적인 추천 1건당 최대 90달러의 추천 보상