Експерт із безпеки ШІ (англійська та телугу) — віддалений контракт
Проводьте red-team-оцінювання діалогових моделей і агентів ШІ для Mercor, зосереджуючись на безпеці англійською та телугу. Створюйте дані про вразливості, атаки й відтворювані звіти для підтримки безпечнішої розробки ШІ.
Опис
- Тестувати діалогові моделі й агентів ШІ за допомогою джейлбрейків, ін’єкцій промптів, сценаріїв неправильного використання, експлуатації упередженості та багатоходових маніпуляцій
- Анотувати збої, класифікувати вразливості й виявляти системні ризики
- Використовувати таксономії, бенчмарки та плейбуки для послідовного проведення оцінювань
- Створювати відтворювані звіти, набори даних і сценарії атак для клієнтів
- Оцінювати результати роботи ШІ, пов’язані з упередженістю, дезінформацією, шкідливою поведінкою та іншими чутливими темами
- Брати участь у проєктах із навчання та вдосконалення систем ШІ
- Виявляти вразливості, які не помічає автоматизоване тестування
- Розширювати охоплення оцінювань, щоб допомагати зменшувати кількість неочікуваних проблем у робочому середовищі
Вимоги
- Вільне володіння англійською та телугу на рівні носія
- Зважене судження під час оцінювання точності, повноти й доречності відповідей ШІ
- Здатність чітко пояснювати свої міркування технічній і нетехнічній аудиторіям
- Ретельна увага до непомітних помилок, невідповідностей і пропусків
- Послідовне дотримання настанов і стандартів якості
- Гнучкість у роботі над різними проєктами, форматами завдань і з різними клієнтами
- Готовність працювати як незалежний підрядник
- Не бути кандидатом на візу H-1B або STEM OPT; релевантні спеціалізації можуть охоплювати змагальне машинне навчання, набори даних для джейлбрейків, ін’єкції промптів, атаки RLHF/DPO, вилучення моделей, тестування на проникнення, розробку експлойтів, зворотну інженерію, перевірку на домагання або дезінформацію, аналіз зловживань, тестування діалогового ШІ, психологію, акторську майстерність або письменництво.
- пільги
Переваги
- Повністю віддалена робота за графіком, який ви встановлюєте самостійно
- Щотижневі виплати через Stripe або Wise за надані послуги
- Досвід red-team-роботи з ШІ на основі людських даних, зосередженої на передовій безпеці
- Допомога у створенні стійкіших, безпечніших і надійніших систем ШІ
- Можливість обирати участь у проєктах із підвищеною чутливістю
- Доступ до чітких настанов і ресурсів для підтримки добробуту в проєктах із підвищеною чутливістю
- Можливість запитати розумні умови адаптації
- До 90 доларів за кожну успішну рекомендацію без зазначеного обмеження на їхню кількість