Віддалений експерт із безпеки ШІ — англійська та ассамська мови (контракт)
Mercor шукає віддаленого контрактного експерта з безпеки ШІ, який вільно володіє англійською та ассамською мовами, для red team-тестування передових моделей, оцінювання вразливостей і створення якісних даних, розмічених людьми, для проєктів із безпеки ШІ.
Опис
- Проводити red team-тестування розмовних моделей і агентів ШІ за допомогою джейлбрейків, ін’єкцій промптів, сценаріїв зловживання, експлуатації упередженості та багатоетапних маніпуляцій
- Створювати дані, розмічені людьми: анотувати збої, класифікувати вразливості та виявляти системні ризики
- Використовувати таксономії, бенчмарки й робочі інструкції для забезпечення послідовності оцінювань
- Розробляти відтворювані звіти, набори даних і сценарії атак для клієнтів
- Оцінювати відповіді ШІ на чутливі теми, зокрема упередженість, дезінформацію та шкідливу поведінку
- Виявляти вразливості, які не знаходить автоматизоване тестування
- Розширювати охоплення оцінювань, щоб допомагати мінімізувати непередбачені проблеми у виробничому середовищі
- Долучатися до проєктів із навчання та вдосконалення передових систем ШІ
Вимоги
- Вільне володіння англійською та ассамською мовами на рівні носія
- Зважене судження під час оцінювання якості мови та контенту
- Здатність визначати, чи є відповіді ШІ точними, повними й доречними
- Здатність чітко пояснювати свої міркування технічній і нетехнічній аудиторії
- Виняткова увага до нюансів помилок, невідповідностей і пропусків
- Здатність послідовно застосовувати настанови, таксономії, бенчмарки, робочі інструкції та стандарти якості
- Готовність працювати над різними проєктами, форматами завдань і потребами клієнтів
- Необхідно працювати як незалежний підрядник
- Наразі немає можливості підтримувати кандидатів із візами H-1B і STEM OPT
- Бажані сфери експертизи: змагальне машинне навчання, кібербезпека, соціотехнічні ризики, оцінювання розмовного ШІ, психологія, акторська майстерність і письменництво
Переваги
- Повністю віддалена робота
- Можливість встановити зручний для себе графік
- Щотижневі виплати через Stripe або Wise
- Практичний досвід red team-тестування ШІ на основі даних, створених людьми
- Можливість допомагати робити системи ШІ надійнішими, безпечнішими та такими, яким можна довіряти
- Співпраця з провідними дослідниками ШІ
- За запитом доступні розумні умови адаптації
- Реферальні виплати до 90 доларів США за кожного успішного кандидата з урахуванням застосовних обмежень