AI 안전 전문가(영어 및 텔루구어) – 원격 계약
Mercor를 위해 대화형 AI 모델과 에이전트를 레드팀 평가하며, 영어와 텔루구어 안전성에 중점을 둡니다. 더 안전한 AI 개발을 지원하기 위해 취약점 데이터, 공격 사례, 재현 가능한 보고서를 작성합니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작을 사용해 대화형 AI 모델과 에이전트를 테스트
- 실패를 주석 처리하고 취약점을 분류하며 시스템적 위험을 식별
- 분류 체계, 벤치마크, 플레이북을 사용해 일관된 평가를 유지
- 고객을 위한 재현 가능한 보고서, 데이터셋, 공격 사례를 작성
- 편향, 허위 정보, 유해한 행동 및 기타 민감한 주제와 관련된 AI 출력을 평가
- AI 시스템을 학습시키고 개선하는 프로젝트에 기여
- 자동화된 테스트로 탐지되지 않는 취약점을 식별
- 평가 범위를 확대해 프로덕션 환경의 예기치 않은 문제를 줄이는 데 기여
지원 자격
- 영어와 텔루구어를 모국어 수준 또는 유창하게 구사
- AI 응답의 정확성, 완전성, 적절성을 평가할 때 건전한 판단력 발휘
- 기술 및 비기술 대상 모두에게 추론을 명확하게 전달하는 능력
- 미묘한 오류, 불일치, 누락에 세심한 주의
- 지침과 품질 기준을 일관되게 준수
- 프로젝트, 작업 형식, 고객에 따라 유연하게 대응
- 독립 계약자로 일할 의향
- H-1B 또는 STEM OPT 후보자가 아니어야 함. 관련 전문 분야에는 적대적 머신러닝, 탈옥 데이터셋, 프롬프트 인젝션, RLHF/DPO 공격, 모델 추출, 침투 테스트, 익스플로잇 개발, 리버스 엔지니어링, 괴롭힘 또는 허위 정보 탐색, 오용 분석, 대화형 AI 테스트, 심리학, 연기 또는 글쓰기가 포함될 수 있음.
- 복리후생
복리후생
- 완전 원격으로 근무하며 직접 정한 일정에 따라 일할 수 있음
- 제공한 서비스에 대한 대금을 Stripe 또는 Wise를 통해 매주 지급받음
- 최첨단 안전성에 중점을 둔 인간 데이터 기반 AI 레드팀 경험을 쌓을 수 있음
- 더욱 견고하고 안전하며 신뢰할 수 있는 AI 시스템 구축에 기여할 수 있음
- 고감도 프로젝트 참여 여부를 선택할 수 있음
- 고감도 프로젝트를 위한 명확한 지침과 웰니스 리소스를 이용할 수 있음
- 합리적인 편의를 요청할 수 있음
- 성공적인 추천 1건당 최대 90달러를 받을 수 있으며 추천 횟수에 명시된 제한은 없음