Експерт із безпеки ШІ Mercor — англійська та гуджараті, віддалений контракт у США
Проводьте оцінювання безпеки розмовних моделей і агентів ШІ за участю людини для Mercor. Створюйте дані про вразливості, сценарії атак і відтворювані оцінювання безпеки англійською та гуджараті.
Опис
- Проводити red-team-тестування розмовних моделей і агентів ШІ за допомогою джейлбрейків, ін’єкцій промптів, сценаріїв неналежного використання, експлуатації упередженості та багатокрокових маніпуляцій
- Анотувати збої, класифікувати вразливості та ескалувати системні ризики
- Використовувати усталені таксономії, бенчмарки й плейбуки для послідовного оцінювання
- Створювати відтворювані звіти, набори даних і сценарії атак
- Оцінювати результати роботи ШІ, що стосуються упередженості, дезінформації, шкідливої поведінки та інших чутливих тем
- Виявляти слабкі місця, які може пропустити автоматизоване тестування
- Розширювати охоплення оцінювань і допомагати обмежувати неочікувані проблеми у виробничому середовищі
- Покращувати клієнтські системи ШІ за допомогою створеного людьми red-team-тестування на основі даних
Вимоги
- Вільне володіння англійською та гуджараті на рівні носія
- Здорове судження під час оцінювання мови й контенту
- Здатність визначати, чи є відповіді ШІ точними, повними та доречними, і пояснювати оцінювання
- Висока уважність до тонких помилок, невідповідностей і пропусків
- Послідовне дотримання рекомендацій і стандартів якості
- Чітке пояснення міркувань як технічній, так і нетехнічній аудиторії
- Гнучкість у роботі з різними проєктами, форматами завдань і клієнтами
- Готовність працювати як незалежний підрядник
- Кандидат не повинен мати статус H-1B або STEM OPT
- Бажаний досвід у сфері змагального машинного навчання, кібербезпеки, соціотехнічних ризиків або творчого дослідження вразливостей
Переваги
- Повністю віддалена контрактна робота
- Гнучкий графік
- Щотижневі виплати через Stripe або Wise
- Можливість брати участь у проєктах із підвищеною чутливістю
- Рекомендації та ресурси для підтримки добробуту під час роботи з чутливим контентом
- Конкурентна оплата
- Можливість співпрацювати з провідними дослідниками
- Розумні пристосування доступні за запитом
- Реферальна програма з виплатою до 90 доларів США за кожну успішну рекомендацію