AI安全レッドチーム専門家（英語・テルグ語）- リモート契約
対話型AIモデルをテストし、脱獄、プロンプトインジェクション、悪用、バイアスなどの安全上の問題を検証します。 再現可能な脆弱性と評価データを記録し、AI研究の顧客を支援します。
仕事内容
- 対話型AIモデルとエージェントに対して敵対的テストを行い、脱獄、プロンプトインジェクション、悪用、バイアスの悪用、多ターン操作を検証する
- テストの失敗を注釈付けし、脆弱性を分類して体系的なリスクを特定する
- 確立された分類体系、ベンチマーク、プレイブックを適用し、一貫した評価を維持する
- 顧客向けに再現可能なレポート、データセット、攻撃シナリオを作成する
- バイアス、誤情報、有害な行動など、センシティブな विषयに関するAIの応答を評価する
- 自動評価手法では検出できない弱点を見つける
- 評価範囲を広げ、予期せぬ本番環境の問題を防ぐ
- 反復可能な敵対的テストを通じて顧客のAIシステムを改善する
応募要件
- 英語とテルグ語の両方における母語レベルの流暢さ
- 言語やコンテンツの正確性、完全性、適切性を評価する際の確かな判断力
- 技術者と非技術者の双方に推論を明確に伝える能力
- 微妙な誤り、不整合、欠落に細心の注意を払えること
- ガイドラインと品質基準を一貫して遵守できること
- プロジェクト、タスク形式、顧客に柔軟に対応できること
- 独立請負人として業務に従事すること
- 雇用主、顧客、機関の機密情報または専有情報を使用せずに業務を行えること
- H-1BおよびSTEM OPTの候補者は対象外
福利厚生
- 完全なリモート勤務で、自分でスケジュールを決めて働ける
- 提供したサービスの報酬をStripeまたはWiseで毎週受け取れる
- よりセンシティブな内容を扱うプロジェクトへの参加を選択できる
- センシティブなコンテンツを扱う業務向けのガイドラインとウェルネスリソースが提供される
- 人間のデータに基づくAIレッドチーム専門知識を構築する経験を得られる
- より安全で堅牢かつ信頼できるAIシステムの実現に貢献できる
- 第一線の研究者と協働する機会がある
- 成功した紹介1件につき最大90米ドルの紹介料を受け取れる場合がある（適用される上限に従う）