AI 안전 전문가 – 영어 및 마라티어(원격)
Mercor는 영어와 마라티어를 구사하는 AI 안전 전문가를 찾고 있습니다. 대화형 모델과 에이전트를 레드팀 테스트하고, 취약점을 식별하며, 민감한 출력을 평가하고, AI 연구소와 고객을 위한 재현 가능한 안전 데이터를 작성합니다.
설명
- 탈옥, 프롬프트 인젝션, 오용 시나리오, 편향 악용, 다중 턴 조작을 사용해 대화형 AI 모델과 에이전트의 레드팀 테스트를 수행합니다
- 실패 사례를 주석 처리하고 취약점을 분류하며 시스템적 위험을 식별해 사람의 평가 데이터를 생성합니다
- 확립된 분류 체계, 벤치마크, 플레이북을 사용해 일관된 평가를 지원합니다
- 고객을 위한 재현 가능한 보고서, 데이터셋, 공격 사례를 개발합니다
- 편향, 허위 정보, 유해한 행동 및 기타 민감한 주제와 관련된 AI 출력을 평가합니다
- 자동화된 테스트에서 놓칠 수 있는 취약점을 식별합니다
- 평가 범위를 넓혀 운영 환경에서 예기치 않은 문제가 발생할 가능성을 줄이는 데 기여합니다
- 고객이 AI 시스템의 안전성, 견고성, 신뢰성을 향상하도록 지원합니다
지원 자격
- 영어와 마라티어를 모두 모국어 수준으로 유창하게 구사해야 합니다
- AI 응답이 정확하고 완전하며 적절한지 여부를 포함해 언어와 콘텐츠를 평가할 때 뛰어난 판단력을 갖춰야 합니다
- 미묘한 오류, 불일치, 누락을 발견할 수 있어야 합니다
- 지침과 품질 기준을 일관되게 준수할 수 있어야 합니다
- 기술 및 비기술 대상에게 자신의 판단 근거를 명확히 전달할 수 있어야 합니다
- 다양한 프로젝트, 업무 유형, 고객에 적응할 수 있어야 합니다
- 독립 계약자로 일할 수 있어야 합니다
- H-1B 또는 STEM OPT 지원이 필요하지 않아야 합니다
- 우대: 탈옥 데이터셋, 프롬프트 인젝션, RLHF 또는 DPO 공격, 모델 추출 등을 포함한 적대적 머신러닝 경험
- 우대: 침투 테스트, 익스플로잇 개발 또는 리버스 엔지니어링을 포함한 사이버 보안 경험
- 우대: 괴롭힘 또는 허위 정보 탐색, 악용 분석, 대화형 AI 테스트 등을 포함한 사회기술적 위험 경험
- 우대: 색다른 적대적 사고에 도움이 되는 심리학, 연기 또는 글쓰기 경험
복리후생
- 완전 원격으로 자신의 일정에 맞춰 업무를 수행할 수 있습니다
- Stripe 또는 Wise를 통한 주급 지급
- 더 높은 민감도가 요구되는 프로젝트에 선택적으로 참여할 수 있습니다
- 민감한 콘텐츠를 다루는 업무를 위한 명확한 지침과 웰니스 리소스가 제공됩니다
- 경쟁력 있는 보수
- 선도적인 연구자들과 협업할 기회
- 성공적인 추천 1건당 최대 90달러의 추천 보상 지급(제한 적용)
관련 채용공고
시니어 백엔드 엔지니어(Elixir/Phoenix)
Pets Deli
반려동물 사료 주문, 결제, 청구 및 구독을 지원하는 Pets Deli의 Elixir/Phoenix 플랫폼을 구축합니다. 레거시 서비스를 이전하면서 아키텍처, 안정성 및 납품을 이끕니다.
열기
시니어 고객 프로젝트 매니저, 프런티어 엔지니어링
Snowflake
Frontier Engineering의 뉴질랜드 데이터 및 AI 전환 고객 프로젝트를 이끌며, 초기 발굴부터 프로덕션 성과까지 추진합니다. 각 프로젝트의 영업, 딜리버리, 재무 성과 및 고객 계정 확장을 총괄합니다.
열기