51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Отдалечен експерт по безопасност на изкуствения интелект (английски и тамилски)
Mercor търси англо- и тамилоговорящ експерт по безопасност на изкуствения интелект за red teaming на разговорни модели и агенти. Работата по договор е насочена към откриване на уязвимости, оценяване на чувствителни резултати и създаване на възпроизводими данни за безопасност за обучение на авангардни AI системи.
Описание
- Извършване на red teaming на разговорни AI модели и агенти чрез jailbreak атаки, prompt injection, сценарии за злоупотреба, експлоатиране на пристрастия и многоходова манипулация
- Маркиране на откази, категоризиране на уязвимости и идентифициране на системни рискове
- Последователно прилагане на установени таксономии, бенчмаркове и процедури за тестване
- Създаване на възпроизводими доклади, набори от данни и случаи на атаки
- Оценяване на AI резултати, свързани с пристрастия, дезинформация, вредно поведение и други чувствителни теми
- Разширяване на обхвата на оценяването чрез откриване на слабости, които автоматизираното тестване може да пропусне
- Работа с проектни екипи, които разработват и подобряват авангардни AI системи
Изисквания
- Носител или свободно владеене на английски и тамилски език
- Добра преценка при оценяване на език и съдържание
- Способност да се определи дали отговорите на AI са точни, пълни и подходящи
- Изострено внимание към фини грешки, несъответствия и пропуски
- Последователно спазване на указанията и стандартите за качество
- Способност за ясно обясняване на разсъжденията пред техническа и нетехническа аудитория
- Гъвкавост при работа по различни проекти, формати на задачи и с различни клиенти
- Възможност за работа като независим изпълнител
- Не трябва да изисква спонсорство за H-1B или STEM OPT
- Предишен опит в областта на враждебното машинно обучение, киберсигурността, социотехническия риск или творческото изследване е предимство
Придобивки
- Изцяло дистанционна работа
- Гъвкав график
- Седмични плащания чрез Stripe или Wise
- Конкурентно възнаграждение
- Придобиване на опит в red teaming на AI, основан на данни от хора
- Принос към създаването на по-устойчиви, безопасни и надеждни AI системи
- Сътрудничество с водещи изследователи
- При поискване се предоставят разумни адаптации
- Плащания за препоръки до 90 USD за всяка успешна препоръка