AI 안전 레드팀 전문가(영어 및 펀자브어)
Mercor는 영어와 펀자브어를 구사하는 AI 안전 전문가를 찾고 있습니다. 대화형 모델과 에이전트를 레드팀 테스트하고, 취약점을 발견하며, 공격 사례를 만들고, AI 연구 고객을 위한 재현 가능한 안전성 보고서를 작성하는 계약직입니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작을 사용해 대화형 AI 모델과 에이전트를 테스트합니다
- 편향, 허위 정보, 유해한 행동을 포함한 민감한 주제에 대한 모델 출력을 평가합니다
- 실패를 문서화하고 취약점을 분류하며 시스템적 위험을 식별합니다
- 확립된 분류 체계, 벤치마크, 플레이북을 사용해 일관된 평가를 유지합니다
- 고객을 위한 재현 가능한 보고서, 데이터세트, 공격 사례를 작성합니다
- 자동화된 테스트가 놓칠 수 있는 AI 시스템의 약점을 조사합니다
- 평가 범위를 넓혀 프로덕션 환경에서 예상치 못한 문제를 줄이는 데 기여합니다
- 사람이 주도하고 데이터에 기반한 레드팀 테스트를 통해 고객의 AI 시스템을 개선합니다
지원 자격
- 영어와 펀자브어를 모국어 수준 또는 유창하게 구사할 수 있어야 합니다
- 언어와 콘텐츠를 평가할 때 강한 판단력을 갖춰야 합니다
- AI 응답이 정확하고 완전하며 적절한지 판단하고 그 평가를 설명할 수 있어야 합니다
- 미묘한 오류, 불일치, 누락을 세심하게 확인할 수 있어야 합니다
- 테스트 지침과 품질 기준을 일관되게 준수해야 합니다
- 기술 및 비기술 청중 모두에게 자신의 판단 근거를 명확히 전달할 수 있어야 합니다
- 프로젝트, 작업 형식, 고객에 따라 유연하게 일할 수 있어야 합니다
- 독립 계약자로 업무에 참여할 수 있어야 합니다
- H-1B 또는 STEM OPT 지원이 필요하지 않아야 합니다
- 적대적 머신러닝, 탈옥 데이터세트, 프롬프트 인젝션, RLHF/DPO 공격, 모델 추출, 침투 테스트, 익스플로잇 개발, 리버스 엔지니어링, 괴롭힘 또는 허위 정보 탐색, 악용 분석, 대화형 AI 테스트, 심리학, 연기 또는 글쓰기 등의 전문성이 있으면 우대합니다
복리후생
- 해당 역할이 허용하는 모든 장소에서 원격으로 근무할 수 있습니다
- 근무 일정을 직접 정할 수 있습니다
- 제공한 서비스에 대한 대금을 Stripe 또는 Wise를 통해 매주 받을 수 있습니다
- 프로젝트는 사업상 필요와 성과에 따라 연장되거나 축소되거나 조기 종료될 수 있습니다
- 웰니스 리소스와 높은 민감도의 프로젝트를 위한 명확한 지침을 이용할 수 있습니다
- 사람이 생성한 데이터에 기반한 AI 레드팀 테스트 경험을 쌓을 수 있습니다
- AI 시스템을 더욱 견고하고 안전하며 신뢰할 수 있게 만드는 데 기여할 수 있습니다
- 경쟁력 있는 보상
- 선도적인 AI 연구자들과 협업할 수 있습니다
