Експерт із red teaming безпеки ШІ — англійська й тамільська, віддалений контракт
Тестуйте розмовні моделі та агентів ШІ на вразливості за допомогою adversarial-перевірок і структурованого red team-аналізу. Створюйте сценарії атак, дані про вразливості та відтворювані звіти для клієнтів лабораторії ШІ Mercor.
Опис
- Перевіряти розмовні моделі та агентів ШІ за допомогою jailbreak-атак, prompt injection, сценаріїв неналежного використання, експлуатації упередженості та багатоходових маніпуляцій
- Створювати дані з розміткою фахівців, документуючи збої, класифікуючи вразливості та виявляючи системні ризики
- Використовувати усталені таксономії, бенчмарки та плейбуки для забезпечення послідовності оцінювання
- Розробляти відтворювані звіти, набори даних і сценарії атак для клієнтів
- Оцінювати відповіді ШІ, пов’язані з упередженістю, дезінформацією, шкідливою поведінкою та іншими чутливими темами
- Виявляти слабкі місця, які може не помітити автоматизоване тестування
- Розширювати охоплення оцінювання та допомагати запобігати неочікуваним проблемам у робочому середовищі
- Удосконалювати системи ШІ клієнтів і робити внесок у створення безпечніших та надійніших моделей
Вимоги
- Вільне володіння англійською та тамільською мовами на рівні носія
- Зважене судження під час оцінювання мови й контенту
- Здатність визначати, чи є відповіді ШІ точними, повними та доречними, і пояснювати свою оцінку
- Уважність до тонких помилок, невідповідностей і пропусків
- Здатність послідовно застосовувати настанови та стандарти якості
- Чітке пояснення міркувань технічній і нетехнічній аудиторіям
- Гнучкість у роботі над різними проєктами, у різних форматах завдань і з різними клієнтами
- Бажано: досвід adversarial machine learning, зокрема роботи з наборами даних для jailbreak-атак, prompt injection, атаками RLHF або DPO чи видобуванням моделей
- Бажано: досвід у кібербезпеці, зокрема тестування на проникнення, розробки експлойтів або зворотної інженерії
- Бажано: досвід роботи із соціотехнічними ризиками, такими як дослідження переслідувань і дезінформації, аналіз зловживань або тестування розмовного ШІ
- Бажано: досвід творчого зондування в психології, акторській майстерності або письменництві
- Необхідно працювати як незалежний підрядник
- Кандидати з візами H-1B і STEM OPT не підтримуються
Переваги
- Повністю віддалена робота
- Гнучкий графік із можливістю самостійно визначати робочі години
- Щотижневі виплати через Stripe або Wise
- Конкурентна погодинна оплата
- Можливість отримати досвід red teaming ШІ на основі даних, створених людьми, із фокусом на передову безпеку
- Безпосередній внесок у створення стійкіших, безпечніших і надійніших систем ШІ
- Можливість за бажанням брати участь у проєктах із підвищеною чутливістю
- Настанови та ресурси для підтримки добробуту під час роботи над проєктами, що містять чутливий контент
- Розумні умови та адаптації доступні за запитом
- Реферальна програма з виплатою до 90 доларів США за кожного успішного кандидата з урахуванням обмежень програми