AI安全専門家――英語・アッサム語（リモート契約）
会話型AIシステムをテストし、脱獄、バイアス、プロンプトインジェクションのリスクなど、さまざまな脆弱性を見つけます。 高度なAIをより安全で信頼性の高いものにするため、明確で再現可能な人手によるデータ成果物を作成します。
仕事内容
- 会話型AIモデルとエージェントをテストし、脱獄、プロンプトインジェクション、悪用シナリオ、バイアスの悪用、マルチターン操作を調査する
- 障害を記録し、脆弱性を分類し、体系的なリスクを特定することで、人手によるデータアノテーションを作成する
- 確立された分類体系、ベンチマーク、プレイブックを使用して、一貫した評価を維持する
- 再現可能なレポート、データセット、攻撃シナリオを顧客に提供する
- 自動テストでは見落とされる可能性のある弱点を見つける
- 評価範囲を広げ、実運用環境で予期しない問題が発生する可能性を抑える
- 提供されたガイドラインに従い、センシティブなテーマに関するAIの出力を評価する
応募要件
- 英語とアッサム語の両方にネイティブレベルで堪能であること
- AIの回答が正確、完全、適切かどうかを含め、言語とコンテンツを評価する際の確かな判断力
- 微細な誤り、不整合、抜け漏れに気づく鋭い注意力
- ガイドラインと品質基準を一貫して遵守できること
- 技術系・非技術系の相手に判断理由を明確に伝えられること
- プロジェクト、タスク形式、顧客をまたいで柔軟に対応できること
- 独立請負業者としての資格
- バイアス、誤情報、有害な行動などのセンシティブなテーマを扱えること。より高い感度が求められるプロジェクトへの参加は任意
- H-1BおよびSTEM OPTの候補者は対象外
福利厚生
- 完全リモートで、勤務時間を自分で柔軟に設定できる
- StripeまたはWiseによる週払い
- 人手によるデータを活用したAIレッドチームの経験を積む機会
- より堅牢で安全かつ信頼できるAIシステムの実現に実践的に貢献できる
- 一流の研究者と協働する機会
- 要望に応じて合理的配慮を提供
- 紹介が成功するごとに最大90ドルの紹介インセンティブ