AIセーフティ・レッドチーマー
Mercorは、高リスク分野における最先端AIモデルの弱点を探るAIセーフティ・レッドチーマーを募集しています。\nAI研究機関による先進システムの訓練と改善を支援する仕事です。
仕事内容
- 最先端AIモデルをテストするための敵対的プロンプトを作成する。
- ジェイルブレイク、安全でない挙動、ハルシネーション、ポリシー違反を見つける。
- 誤情報、サイバーセキュリティ、バイオセキュリティ、詐欺、政治的コンテンツなどの機微な領域で、モデルの堅牢性を評価する。
- 脆弱性を記録し、安全性ベンチマークやレッドチーム報告書の作成を支援する。
- AI研究者と協力し、モデルのアラインメント、堅牢性、安全性を強化する。
- AIシステムの訓練と改善に取り組むプロジェクトに参加する。
応募要件
- コンピューターサイエンス、サイバーセキュリティ、ジャーナリズム、コミュニケーション、心理学、生物学、化学、公共政策または関連分野の学士号以上。
- AIセーフティ、AIレッドチーム、トラスト＆セーフティ、サイバーセキュリティ、調査報道、ライフサイエンスまたは関連分野で5年以上の実務経験。
- 優れた分析的思考力、プロンプト設計力、文章によるコミュニケーション能力。
- 敵対的プロンプトの作成、または最先端AIシステムの評価経験。
- 以下の対象国・地域のいずれかに居住していること：アルバニア、オーストリア、ベルギー、ブルガリア、ボスニア・ヘルツェゴビナ、スイス、チェコ、ドイツ、デンマーク、スペイン、エストニア、フィンランド、フランス、英国、ギリシャ、クロアチア、ハンガリー、アイルランド、アイスランド、イタリア、リヒテンシュタイン、リトアニア、ルクセンブルク、ラトビア、モナコ、モルドバ、北マケドニア、マルタ、オランダ、ノルウェー、ポーランド、ポルトガル、ルーマニア、サンマリノ、セルビア、スロバキア、スロベニア、スウェーデン、米国、またはコソボ。
- 現時点ではH-1BおよびSTEM OPTの候補者を支援できません。
福利厚生
- 完全リモートで、柔軟なスケジュールで働けます。
- 提供したサービスの報酬はStripeまたはWiseを通じて毎週支払われます。
- プロジェクトの期間は、プロジェクトの必要性や業績に応じて延長、短縮、または早期終了となる場合があります。
- 競争力のある報酬。
- 第一線のAI研究者や安全性チームと働く機会。
- 依頼に応じて合理的配慮を利用できます。
- 紹介プログラムでは、紹介が成功すると1件につき最大340ドルを受け取れます。各種上限が適用されます。