AI 안전 전문가 - 영어 및 텔루구어(원격 계약)
Mercor를 위해 대화형 AI 모델과 에이전트의 레드팀 평가를 수행하고, 적대적 테스트를 통해 취약점을 식별합니다. 영어와 텔루구어 성능에 초점을 맞춰 고품질 데이터셋, 공격 사례, 명확한 보고서를 작성합니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작에 대해 대화형 AI 모델과 에이전트를 테스트합니다
- 실패 사례를 라벨링하고 취약점을 분류하며 시스템적 위험을 식별해 사람이 생성한 데이터를 만듭니다
- 확립된 분류 체계, 벤치마크, 플레이북을 사용해 일관된 평가를 수행합니다
- 재현 가능한 보고서, 데이터셋, 적대적 공격 사례를 개발합니다
- 편향, 허위 정보, 유해한 행동 및 기타 민감한 주제와 관련된 AI 응답을 평가합니다
- 자동화된 평가 방법이 놓칠 수 있는 약점을 식별합니다
- 평가 범위를 넓혀 운영 환경에서 예기치 않은 문제가 발생하는 것을 방지합니다
- 구조화된 적대적 테스트를 통해 고객의 AI 시스템을 개선합니다
지원 자격
- 영어와 텔루구어 모두 원어민 수준으로 유창해야 합니다
- 언어와 콘텐츠를 평가할 때 건전한 판단력을 갖춰야 합니다
- AI 응답이 정확하고 완전하며 적절한지 판단하고 그 근거를 설명할 수 있어야 합니다
- 미묘한 오류, 불일치, 누락을 포착하는 뛰어난 주의력이 있어야 합니다
- 지침과 품질 기준을 일관되게 준수해야 합니다
- 기술 및 비기술 대상에게 판단 근거를 명확히 전달할 수 있어야 합니다
- 다양한 프로젝트, 작업 형식, 고객에 유연하게 대응할 수 있어야 합니다
- 독립 계약자로 일할 수 있어야 합니다
- H-1B 또는 STEM OPT 스폰서십이 필요하지 않아야 합니다
- 적대적 머신러닝, 사이버 보안, 사회기술적 위험 또는 창의적 프로빙 경험이 있으면 우대합니다
복리후생
- 완전 원격으로 근무합니다
- 본인의 일정에 맞는 유연한 근무 시간을 선택할 수 있습니다
- Stripe 또는 Wise를 통해 매주 대금을 지급받습니다
- 프로젝트 기간은 사업상 필요와 업무 성과에 따라 변경되거나 조기 종료될 수 있습니다
- 웰니스 리소스와 높은 민감도가 요구되는 업무에 대한 명확한 지침을 이용할 수 있습니다
- 사람이 생성한 데이터를 활용한 AI 레드팀 경험을 쌓을 수 있습니다
- 더 견고하고 안전하며 신뢰할 수 있는 AI 시스템을 만드는 데 기여할 수 있습니다
- 경쟁력 있는 보상을 받을 수 있습니다
- 선도적인 연구자들과 협업할 수 있습니다
- 요청 시 합리적인 편의를 제공받을 수 있습니다