Експерт із безпеки ШІ — англійська й ассамська мови (віддалений контракт)
Тестуйте розмовні системи ШІ на вразливості, зокрема обходи обмежень, упередженість і впровадження промптів. Створюйте зрозумілі та відтворювані матеріали на основі людських даних, які допомагають зробити передовий ШІ безпечнішим і надійнішим.
Опис
- Тестуйте розмовні моделі й агентів ШІ на обходи обмежень, впровадження промптів, сценарії неправомірного використання, експлуатацію упередженості та багатоходові маніпуляції
- Створюйте анотації на основі людських даних, документуючи збої, класифікуючи вразливості та визначаючи системні ризики
- Використовуйте затверджені таксономії, бенчмарки та настанови для послідовного проведення оцінювань
- Надавайте клієнтам відтворювані звіти, набори даних і сценарії атак
- Виявляйте слабкі місця, які можуть залишатися непоміченими під час автоматизованого тестування
- Розширюйте охоплення оцінювань, щоб мінімізувати неочікувані проблеми у виробничому середовищі
- Оцінюйте відповіді ШІ на чутливі теми відповідно до наданих настанов
Вимоги
- Вільне володіння англійською та ассамською мовами на рівні носія
- Зважене судження під час оцінювання мови й контенту, зокрема точності, повноти та доречності відповідей ШІ
- Висока увага до тонких помилок, невідповідностей і пропусків
- Послідовне дотримання настанов і стандартів якості
- Здатність чітко пояснювати міркування технічній і нетехнічній аудиторії
- Готовність працювати над різними проєктами, форматами завдань і з різними клієнтами
- Статус незалежного підрядника
- Готовність працювати з чутливими темами, як-от упередженість, дезінформація та шкідлива поведінка; участь у проєктах із підвищеною чутливістю необов’язкова
- Підтримка кандидатів на візи H-1B і STEM OPT не надається
Переваги
- Повністю віддалена робота з гнучким графіком, який ви встановлюєте самостійно
- Щотижневі виплати через Stripe або Wise
- Можливість отримати досвід у red team-тестуванні ШІ на основі людських даних
- Практичний внесок у створення надійніших, безпечніших і більш довірених систем ШІ
- Можливості співпраці з провідними дослідниками
- Розумні умови та адаптації доступні за запитом
- Реферальна винагорода до 90 доларів США за кожного успішно залученого кандидата