AI安全専門家―英語・グジャラート語（リモート契約）
ジェイルブレイク、プロンプトインジェクション、悪用、バイアス、操作など、最先端AIモデルとエージェントの安全性の脆弱性を敵対的対話によってテストします。英語とグジャラート語で、注釈付きデータセット、攻撃シナリオ、再現可能な安全性レポートを作成します。
仕事内容
- 会話型AIモデルとエージェントに対して敵対的テストを行い、ジェイルブレイク、プロンプトインジェクション、悪用、バイアスの悪用、複数ターンにわたる操作を検証する
- 失敗事例への注釈付け、脆弱性の分類、システム上のリスクの特定により、人手で生成したデータを作成する
- 確立された分類体系、ベンチマーク、プレイブックを使用し、一貫した評価を維持する
- 再現可能なレポート、データセット、攻撃シナリオを作成する
- バイアス、誤情報、有害な行動など、センシティブなテーマに関するAI出力を評価する
- 自動評価手法では検出できない弱点を特定する
- 評価範囲を広げ、予期しない本番環境の問題を抑制する
- 体系的な敵対的テストを通じて顧客のAIシステムを改善する
応募要件
- 英語とグジャラート語の両方を母語レベルで流暢に扱えること
- 言語とコンテンツを評価する際の適切な判断力
- AIの回答が正確、完全、適切かどうかを判断し、その評価を説明できること
- 微妙な誤り、不整合、抜け漏れに細心の注意を払えること
- 分類体系、ベンチマーク、プレイブック、ガイドライン、品質基準を一貫して使用できること
- 技術者と非技術者の双方に推論を明確に伝えられること
- さまざまなプロジェクト、タスク形式、顧客に柔軟に対応できること
- 敵対的機械学習、サイバーセキュリティ、社会技術的リスク、または創造的なAI探査の経験があれば尚可
- 独立請負業者として働くこと
- H-1BおよびSTEM OPTの候補者は対象外
福利厚生
- 完全リモートのポジション
- 勤務時間を自分で選べる柔軟なスケジュール
- StripeまたはWiseによる週払い
- 事業上のニーズと業績に応じて、プロジェクトが延長、短縮、または早期終了となる場合がある
- より高い配慮が必要なコンテンツを扱うプロジェクトへの任意参加
- センシティブなコンテンツを扱う業務に対する明確なガイダンスとウェルネスリソース
- 要請に応じて合理的配慮を利用できる
- 人手によるデータを活用したAIレッドチーミングの経験を積む機会
- 第一線の研究者と協働できる
- 適用される上限に従い、紹介1件の成功につき最大90ドルの紹介報酬