Експерт із безпеки ШІ (англійська та бенгальська мови) — віддалений контракт
Mercor шукає контрактного експерта з безпеки ШІ, який вільно володіє англійською та бенгальською мовами, для red team-тестування розмовних моделей і агентів. Робота передбачає дослідження вразливостей, оцінювання чутливих відповідей і створення відтворюваних даних із безпеки для клієнтів, які займаються дослідженнями ШІ.
Опис
- Тестувати розмовні моделі й агентів за допомогою джейлбрейків, ін’єкцій промптів, сценаріїв зловживання, експлуатації упередженості та багатоетапних маніпуляцій
- Створювати дані, розмічені людьми, документуючи збої, класифікуючи вразливості та виявляючи системні ризики
- Використовувати затверджені таксономії, бенчмарки та інструкції для послідовного проведення оцінювань
- Розробляти відтворювані звіти, набори даних і сценарії атак для клієнтів
- Оцінювати відповіді моделей, що стосуються упередженості, дезінформації, шкідливої поведінки та інших чутливих тем
- Розширювати охоплення оцінювань, знаходячи слабкі місця, які можуть залишатися непоміченими під час автоматизованого тестування
Вимоги
- Вільне володіння англійською та бенгальською мовами на рівні носія
- Зважене судження під час оцінювання точності, повноти й доречності мови та змісту
- Здатність виявляти тонкі помилки, невідповідності та відсутню інформацію
- Надійне дотримання встановлених рекомендацій і вимог до якості
- Здатність чітко пояснювати свої міркування технічній і нетехнічній аудиторії
- Готовність працювати над різними проєктами, форматами завдань і з різними клієнтами
- Необхідно працювати як незалежний підрядник
- Не повинно бути потреби у спонсорстві H-1B або STEM OPT; бажаний досвід у змагальному машинному навчанні, кібербезпеці, соціотехнічних ризиках або творчому пошуку вразливостей.
- Переваги
Переваги
- Повністю віддалена контрактна робота
- Гнучкість у самостійному визначенні робочого графіка
- Щотижневі виплати через Stripe або Wise
- Проєкти можуть бути продовжені, скорочені або завершені достроково залежно від потреб бізнесу та результатів роботи
- Можливість добровільно брати участь у проєктах із підвищеною чутливістю
- Чіткі процедури та ресурси для підтримки добробуту під час роботи з чутливим контентом
- За запитом доступні розумні умови адаптації
- Реферальні виплати до 90 доларів США за кожну успішну рекомендацію