Експерт із безпеки ШІ — англійська та гуджараті (віддалений контракт)
Тестуйте передові моделі та агенти ШІ на вразливості безпеки за допомогою змагальних діалогів, зокрема джейлбрейків, ін’єкцій промптів, зловживань, упередженості та маніпуляцій. Створюйте анотовані набори даних, сценарії атак і відтворювані звіти з безпеки англійською та гуджараті.
Опис
- Проводити змагальне тестування розмовних моделей і агентів ШІ на джейлбрейки, ін’єкції промптів, зловживання, експлуатацію упередженості та багатоетапні маніпуляції
- Створювати дані, підготовлені людьми, анотуючи збої, категоризуючи вразливості та виявляючи системні ризики
- Використовувати усталені таксономії, бенчмарки та плейбуки для послідовного проведення оцінювань
- Розробляти відтворювані звіти, набори даних і сценарії атак
- Оцінювати відповіді ШІ на чутливі теми, зокрема упередженість, дезінформацію та шкідливу поведінку
- Виявляти слабкі місця, які не помічають автоматизовані методи оцінювання
- Розширювати охоплення оцінювань, щоб допомагати обмежувати непередбачені проблеми у виробничому середовищі
- Покращувати клієнтські системи ШІ за допомогою структурованого змагального тестування
Вимоги
- Вільне володіння англійською та гуджараті на рівні носія мови
- Зважене судження під час оцінювання мови та контенту
- Здатність визначати, чи є відповіді ШІ точними, повними й доречними, та пояснювати свою оцінку
- Уважність до непомітних помилок, невідповідностей і пропусків
- Послідовне використання таксономій, бенчмарків, плейбуків, настанов і стандартів якості
- Здатність чітко пояснювати міркування технічній і нетехнічній аудиторії
- Готовність працювати з різними проєктами, форматами завдань і клієнтами
- Бажаний досвід у змагальному машинному навчанні, кібербезпеці, соціотехнічних ризиках або творчому дослідженні ШІ
- Необхідно працювати як незалежний підрядник
- Кандидати з візами H-1B і STEM OPT не підтримуються
Переваги
- Повністю віддалена робота
- Гнучкий графік із можливістю самостійно обирати робочі години
- Щотижневі виплати через Stripe або Wise
- Проєкти можуть бути продовжені, скорочені або завершені достроково залежно від потреб бізнесу та результатів роботи
- Необов’язкова участь у проєктах, що передбачають контент підвищеної чутливості
- Чіткі інструкції та ресурси для підтримки добробуту під час роботи з чутливим контентом
- Розумні умови праці доступні за запитом
- Можливість здобути досвід у сфері червоного тестування ШІ на основі даних, створених людьми
- Робота разом із провідними дослідниками
- Реферальні виплати до 90 доларів США за кожну успішну рекомендацію з урахуванням застосовних обмежень