Експерт із безпеки ШІ (англійська та гуджараті) — віддалений контракт
Проводьте red-team оцінювання розмовних моделей і агентів ШІ для Mercor — партнера ШІ-лабораторій, зосередженого на навчанні передових систем. Створюйте дані про вразливості, сценарії атак і відтворювані звіти з безпеки.
Опис
- Тестуйте розмовні моделі й агентів ШІ за допомогою джейлбрейків, ін’єкцій промптів, сценаріїв неналежного використання, експлуатації упередженості та багатоетапних маніпуляцій
- Створюйте дані з людською розміткою, анотуючи збої, категоризуючи вразливості та виявляючи системні ризики
- Використовуйте усталені таксономії, бенчмарки й плейбуки для забезпечення послідовності оцінювань
- Розробляйте відтворювані звіти, набори даних і сценарії атак
- Оцінюйте відповіді ШІ, що стосуються упередженості, дезінформації, шкідливої поведінки та інших чутливих тем
- Виявляйте слабкі місця, які може пропустити автоматизоване тестування
- Розширюйте охоплення оцінювання, щоб допомагати обмежувати неочікувані проблеми у виробничому середовищі
- Покращуйте клієнтські системи ШІ за допомогою чітких і відтворюваних матеріалів оцінювання
Вимоги
- Вільне володіння англійською та гуджараті на рівні носія або близькому до нього
- Розважливість під час оцінювання мови та змісту
- Здатність визначати, чи є відповіді ШІ точними, повними й доречними, та пояснювати оцінювання
- Уважність до непомітних помилок, невідповідностей і пропусків
- Послідовне дотримання рекомендацій і вимог до якості
- Здатність чітко пояснювати міркування технічній і нетехнічній аудиторії
- Гнучкість у роботі над різними проєктами, форматами завдань і з різними клієнтами
- Бажана експертиза в галузі змагального машинного навчання, кібербезпеки, соціотехнічних ризиків або творчого пошуку вразливостей
- Готовність працювати як незалежний підрядник
- Кандидати з візою H-1B і статусом STEM OPT не підтримуються
Переваги
- Повністю віддалена робота
- Самостійний вибір робочого графіка
- Щотижневі виплати через Stripe або Wise
- Конкурентна погодинна оплата
- Можливість брати участь у проєктах із контентом підвищеної чутливості
- Доступ до чітких рекомендацій і ресурсів для підтримки добробуту під час роботи з чутливим контентом
- За запитом доступні розумні умови адаптації
- Реферальні виплати до 90 доларів США за кожного успішно залученого кандидата