AIセーフティ専門家（英語・カンナダ語）– 米国リモート契約職
Mercorは、英語とカンナダ語に堪能で、最先端モデルの脆弱性を検証するAIレッドチーム専門家を求めています。人間データを用いたAIトレーニングプロジェクト向けに、再現可能な攻撃事例、評価データセット、リスクレポートを作成します。
仕事内容
- ジェイルブレイク、プロンプトインジェクション、悪用シナリオ、バイアスの悪用、マルチターン操作を用いて会話型AIモデルとエージェントをテストする
- 障害を記録し、脆弱性を分類し、システミックリスクを特定して人間データのアノテーションを作成する
- 確立された分類体系、ベンチマーク、プレイブックを使用し、一貫した評価を維持する
- 再現可能な顧客向けレポート、データセット、攻撃事例を作成する
- バイアス、誤情報、有害な行動など、センシティブな موضوعに対するAIの応答を評価する
- 自動テストでは見落とされる可能性のあるAIシステムの弱点を調査する
- 評価範囲を広げ、予期しない本番環境の問題を抑えることに貢献する
- MercorのAIラボと企業顧客向けに、最先端モデルのトレーニングと改善を支援する
応募要件
- 英語とカンナダ語の両方においてネイティブレベルの流暢さ
- AIの応答が正確で、十分かつ適切かを評価する際の適切な判断力
- 技術者と非技術者の双方に推論を説明できる、明確なコミュニケーション能力
- 微細な誤り、不整合、抜け漏れに気づく綿密な注意力
- 分類体系、ベンチマーク、プレイブック、ガイドライン、品質基準を一貫して適用する能力
- さまざまなプロジェクト、タスク形式、顧客に柔軟に対応できること
- 独立請負業者として働けること
- H-1BまたはSTEM OPTのスポンサーシップを必要としないこと。これらのスポンサー制度には対応していません
- 敵対的機械学習、サイバーセキュリティ、社会技術的リスク、会話型AIテスト、心理学、演技、または型破りな敵対的ライティングの関連経験があれば歓迎
福利厚生
- 完全リモートで働き、自分のスケジュールを柔軟に設定できる
- 提供したサービスの報酬をStripeまたはWise経由で毎週受け取れる
- センシティブ度の高いコンテンツを含むプロジェクトに参加するか選択できる
- センシティブなコンテンツを扱う業務について、明確なガイダンスとウェルネスリソースを利用できる
- 競争力のある報酬を受け取れる
- 人間データを活用したAIレッドチームの実務経験を積める
- 最先端の研究者と協働できる
- 必要に応じて合理的配慮を申請できる
- 紹介が成功するごとに最大90ドルの紹介報酬を獲得できる