Віддалений експерт із безпеки ШІ — англійська та гуджараті
Проводьте адверсаріальне тестування моделей і агентів ШІ партнерів, щоб виявляти вразливості, упередженість і шкідливу поведінку. Створюйте анотовані набори даних, сценарії атак і відтворювані звіти для вдосконалення оцінювання передових систем ШІ.
Опис
- Тестувати розмовні моделі й агентів ШІ за допомогою джейлбрейків, ін’єкцій промптів, сценаріїв неналежного використання, експлуатації упередженості та багатоетапних маніпуляцій
- Створювати дані, підготовлені людьми, анотуючи збої, класифікуючи вразливості та виявляючи системні ризики
- Застосовувати усталені таксономії, бенчмарки й робочі інструкції для забезпечення послідовності оцінювань
- Розробляти відтворювані звіти, набори даних і сценарії атак для клієнтів
- Оцінювати відповіді ШІ, що стосуються упередженості, дезінформації, шкідливої поведінки та інших чутливих тем
- Виявляти слабкі місця, які не знаходить автоматизоване тестування
- Розширювати охоплення оцінювання, щоб допомагати зменшувати кількість неочікуваних проблем у виробничому середовищі
- Покращувати системи ШІ клієнтів за допомогою структурованого адверсаріального тестування
Вимоги
- Потрібне вільне володіння англійською та гуджараті на рівні носія мови
- Підтверджене вміння оцінювати мову й зміст, зокрема визначати точність, повноту та доречність відповідей ШІ й пояснювати свою оцінку
- Висока уважність до непомітних помилок, невідповідностей і пропусків
- Здатність послідовно застосовувати рекомендації та стандарти якості
- Здатність чітко пояснювати свої міркування як технічній, так і нетехнічній аудиторії
- Готовність працювати над різними проєктами, типами завдань і з різними клієнтами
- Співпраця оформлюється як робота незалежного підрядника
- Кандидати не повинні мати статус учасників програм H-1B або STEM OPT
- Бажаний досвід у сфері адверсаріального машинного навчання, кібербезпеки, соціотехнічних ризиків або творчого пошуку вразливостей
Переваги
- Повністю віддалена робота за графіком, який ви контролюєте
- Щотижневі виплати через Stripe або Wise за надані послуги
- Можливість обирати участь у проєктах із підвищеною чутливістю
- Доступ до чітких рекомендацій і ресурсів для підтримки добробуту під час роботи з чутливим контентом
- Конкурентна оплата
- Співпраця з провідними дослідниками
- Реферальні виплати до 90 доларів США за кожну успішну рекомендацію з урахуванням застосовних обмежень