Експерт із red teaming безпеки ШІ (англійська та телугу) — віддалений контракт
Тестуйте розмовні моделі ШІ на вразливість до джейлбрейків, ін’єкцій промптів, зловживань, упередженості та інших порушень безпеки. Документуйте відтворювані вразливості й дані оцінювання для клієнтів, які досліджують ШІ.
Опис
- Проводити змагальне тестування розмовних моделей та агентів ШІ на вразливість до джейлбрейків, ін’єкцій промптів, зловживань, експлуатації упередженості та багатоходових маніпуляцій
- Анотувати результати тестів, класифікувати вразливості та виявляти системні ризики
- Застосовувати усталені таксономії, бенчмарки й плейбуки для послідовного проведення оцінювань
- Створювати відтворювані звіти, набори даних і сценарії атак для клієнтів
- Оцінювати відповіді ШІ на чутливі теми, зокрема упередженість, дезінформацію та шкідливу поведінку
- Виявляти слабкі місця, які не помічають автоматизовані методи оцінювання
- Розширювати охоплення оцінювання, щоб допомагати запобігати неочікуваним проблемам у продуктивному середовищі
- Покращувати системи ШІ клієнтів за допомогою повторюваного змагального тестування
Вимоги
- Вільне володіння англійською та телугу на рівні носія
- Зважене судження під час оцінювання мови й контенту на точність, повноту та доречність
- Уміння чітко пояснювати свої міркування технічній і нетехнічній аудиторії
- Уважність до тонких помилок, невідповідностей і пропусків
- Здатність послідовно дотримуватися інструкцій і стандартів якості
- Гнучкість у роботі з різними проєктами, форматами завдань і клієнтами
- Залучення як незалежного підрядника
- Здатність працювати без використання конфіденційної чи службової інформації будь-якого роботодавця, клієнта або установи
- Підтримка кандидатів із візою H-1B та учасників STEM OPT не передбачена
Переваги
- Повністю віддалена робота із самостійним плануванням графіка
- Щотижневі виплати через Stripe або Wise за надані послуги
- Необов’язкова участь у проєктах, що стосуються чутливіших тем
- Інструкції та ресурси для підтримки добробуту під час роботи з чутливим контентом
- Досвід розвитку експертизи з red teaming ШІ на основі даних, створених людьми
- Можливість допомагати робити системи ШІ безпечнішими, надійнішими та гіднішими довіри
- Можливості співпраці з провідними дослідниками
- Реферальні виплати до 90 доларів США за кожного успішного кандидата з урахуванням застосовних обмежень