Експерт із безпеки ШІ — англійська та телугу (віддалений контракт)
Проводьте red-team-оцінювання розмовних моделей і ШІ-агентів для Mercor, виявляючи вразливості за допомогою атакувального тестування. Створюйте якісні датасети, атаки та зрозумілі звіти з фокусом на роботі моделей англійською та телугу.
Опис
- Тестувати розмовні моделі та ШІ-агентів на стійкість до обходу обмежень, ін’єкцій промптів, сценаріїв неналежного використання, експлуатації упередженості та багатоетапних маніпуляцій
- Створювати дані, підготовлені людьми: маркувати помилки, категоризувати вразливості та виявляти системні ризики
- Використовувати усталені таксономії, бенчмарки та посібники для забезпечення послідовності оцінювань
- Розробляти відтворювані звіти, датасети й приклади атак
- Оцінювати відповіді ШІ, пов’язані з упередженістю, дезінформацією, шкідливою поведінкою та іншими чутливими темами
- Виявляти слабкі місця, які можуть не помітити автоматизовані методи оцінювання
- Розширювати охоплення оцінювань, щоб допомагати запобігати неочікуваним проблемам у робочому середовищі
- Покращувати клієнтські ШІ-системи за допомогою структурованого атакувального тестування
Вимоги
- Володіння англійською та телугу на рівні носія
- Зважене судження під час оцінювання мови та змісту
- Здатність визначати, чи є відповіді ШІ точними, повними та доречними, і пояснювати свої міркування
- Виняткова увага до непомітних помилок, невідповідностей і пропусків
- Послідовне дотримання інструкцій і стандартів якості
- Здатність чітко пояснювати свої міркування технічній і нетехнічній аудиторії
- Гнучкість у роботі над різними проєктами, форматами завдань і з різними замовниками
- Здатність працювати як незалежний підрядник
- Не повинні вимагати спонсорства H-1B або STEM OPT
- Досвід у змагальному машинному навчанні, кібербезпеці, соціотехнічних ризиках або творчому пошуку вразливостей буде перевагою
Переваги
- Повністю віддалена робота
- Гнучкий графік, що відповідає вашій доступності
- Щотижневі виплати через Stripe або Wise
- Тривалість проєкту може змінитися або проєкт може завершитися достроково залежно від потреб бізнесу та результатів роботи
- Доступ до ресурсів для підтримки добробуту та чітких рекомендацій для завдань із підвищеною чутливістю
- Можливість отримати досвід у red-team-тестуванні ШІ на основі даних, створених людьми
- Допомога в тому, щоб зробити ШІ-системи надійнішими, безпечнішими та такими, яким можна довіряти
- Конкурентна оплата
- Співпраця з провідними дослідниками
- Розумні умови адаптації доступні на запит