Віддалений експерт із безпеки ШІ (англійська та одія) — контракт
Mercor шукає експерта з безпеки ШІ, який вільно володіє англійською та одія, для red team-тестування розмовних моделей ШІ під час навчання передових моделей. Робота передбачає створення анотацій вразливостей, атакувальних сценаріїв, наборів даних і відтворюваних звітів із безпеки.
Опис
- Тестувати розмовні моделі та агентів ШІ за допомогою джейлбрейків, ін’єкцій промптів, сценаріїв зловживань, експлуатації упередженості та багатоетапних маніпуляцій.
- Документувати збої, класифікувати вразливості та виявляти системні ризики.
- Використовувати усталені таксономії, бенчмарки й плейбуки, щоб забезпечувати послідовність оцінювань.
- Створювати відтворювані звіти з безпеки, набори даних і атакувальні сценарії.
- Досліджувати відповіді моделей на упередженість, дезінформацію та шкідливу поведінку.
- Підтримувати навчання й удосконалення передових систем ШІ для лабораторії ШІ Mercor і корпоративних клієнтів.
Вимоги
- Вільне володіння англійською та одія на рівні носія мови.
- Зважене судження під час оцінювання мови й контенту.
- Здатність визначати, чи є відповіді ШІ точними, повними та доречними, і пояснювати логіку оцінювання.
- Висока уважність до непомітних помилок, невідповідностей і пропусків.
- Здатність надійно дотримуватися рекомендацій і стандартів якості.
- Здатність чітко пояснювати логіку як технічній, так і нетехнічній аудиторії.
- Гнучкість у роботі над різними проєктами, форматами завдань і з різними клієнтами.
- Готовність працювати як незалежний підрядник.
- Кандидати не повинні бути учасниками програм H-1B або STEM OPT.
- Бажаний досвід або спеціалізація у сфері змагального машинного навчання, кібербезпеки, соціотехнічних ризиків або творчого зондування.
Переваги
- Повністю віддалена робота.
- Гнучкий графік.
- Можливість за бажанням брати участь у проєктах із підвищеною чутливістю.
- Рекомендації та ресурси для підтримки добробуту під час роботи над проєктами, пов’язаними з чутливим контентом.
- Щотижневі виплати через Stripe або Wise.
- Конкурентна оплата.
- Можливість співпрацювати з провідними дослідниками.
- Реферальні виплати до 90 доларів США за кожного успішного кандидата.