AI 안전 전문가—영어 및 구자라트어(원격 계약)
탈옥, 프롬프트 인젝션, 오용, 편향, 조작을 비롯한 안전 취약점을 찾기 위해 적대적 대화를 통해 최첨단 AI 모델과 에이전트를 테스트합니다. 영어와 구자라트어로 주석이 달린 데이터셋, 공격 시나리오, 재현 가능한 안전성 보고서를 작성합니다.
설명
- 대화형 AI 모델과 에이전트를 적대적으로 테스트하여 탈옥, 프롬프트 인젝션, 오용, 편향 악용, 다중 턴 조작을 점검
- 실패 사례에 주석을 달고 취약점을 분류하며 시스템적 위험을 식별하여 사람이 생성한 데이터를 제작
- 확립된 분류 체계, 벤치마크, 플레이북을 사용해 일관된 평가를 유지
- 재현 가능한 보고서, 데이터셋, 공격 시나리오를 개발
- 편향, 허위 정보, 유해한 행동 등 민감한 주제와 관련된 AI 출력을 평가
- 자동화된 평가 방법으로는 발견하지 못하는 약점을 식별
- 평가 범위를 확대하여 예기치 않은 운영 환경 문제를 줄이는 데 기여
- 구조화된 적대적 테스트를 통해 고객의 AI 시스템을 개선
지원 자격
- 영어와 구자라트어 모두 원어민 수준으로 유창해야 함
- 언어와 콘텐츠를 평가할 때 건전한 판단력을 갖춰야 함
- AI 응답이 정확하고 완전하며 적절한지 판단하고 그 평가를 설명할 수 있어야 함
- 미묘한 오류, 불일치, 누락에 세심한 주의를 기울여야 함
- 분류 체계, 벤치마크, 플레이북, 지침, 품질 기준을 일관되게 사용해야 함
- 기술 및 비기술 대상에게 추론을 명확하게 전달할 수 있어야 함
- 다양한 프로젝트, 작업 형식, 고객에 유연하게 대응할 수 있어야 함
- 적대적 머신러닝, 사이버 보안, 사회기술적 위험 또는 창의적 AI 탐색 관련 배경 보유자 우대
- 독립 계약자로 근무해야 함
- H-1B 및 STEM OPT 지원자는 지원 대상이 아님
복리후생
- 완전 원격 근무
- 근무 시간을 직접 선택할 수 있는 유연한 일정
- Stripe 또는 Wise를 통한 주급 지급
- 사업상 필요와 업무 성과에 따라 프로젝트가 연장, 단축 또는 조기 종료될 수 있음
- 더 높은 민감도의 콘텐츠가 포함된 프로젝트에 선택적으로 참여 가능
- 민감한 콘텐츠 업무를 위한 명확한 지침과 웰니스 리소스 제공
- 요청 시 합리적인 편의 제공 가능
- 사람이 생성한 데이터를 활용한 AI 레드팀 경험을 쌓을 기회
- 선도적인 연구자들과 협업
- 적용 가능한 한도에 따라 성공적인 추천 1건당 최대 90달러의 추천 보상