51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Отдалечен експерт по безопасност на изкуствения интелект – английски и асамски език (договор)
Mercor търси отдалечен експерт по безопасност на изкуствения интелект на договор, който владее свободно английски и асамски език, за тестване на най-съвременни модели, оценяване на уязвимости и създаване на висококачествени човешки данни за проекти по безопасност на ИИ.
Описание
- Извършване на red teaming на разговорни модели и агенти с изкуствен интелект чрез jailbreak атаки, инжектиране на подсказки, сценарии за злоупотреба, експлоатиране на пристрастия и многоходова манипулация
- Създаване на данни, етикетирани от хора, чрез анотиране на откази, категоризиране на уязвимости и идентифициране на системни рискове
- Използване на таксономии, бенчмаркове и ръководства за осигуряване на последователни оценки
- Разработване на възпроизводими отчети, набори от данни и случаи на атаки за клиенти
- Оценяване на резултати от изкуствен интелект, свързани с чувствителни теми, включително пристрастия, дезинформация и вредно поведение
- Идентифициране на уязвимости, които автоматизираното тестване не успява да открие
- Разширяване на обхвата на оценяването с цел ограничаване на неочаквани проблеми в продукционна среда
- Принос към проекти за обучение и подобряване на най-съвременни системи с изкуствен интелект
Изисквания
- Владеене на английски и асамски език на ниво носител на езика
- Добра преценка при оценяване на качеството на езика и съдържанието
- Способност за определяне дали отговорите на изкуствения интелект са точни, пълни и подходящи
- Способност за ясно обясняване на разсъжденията пред техническа и нетехническа аудитория
- Изключително внимание към нюансирани грешки, несъответствия и пропуски
- Способност за последователно прилагане на насоки, таксономии, бенчмаркове, ръководства и стандарти за качество
- Гъвкавост за работа по различни проекти, формати на задачи и според нуждите на клиентите
- Работата трябва да бъде като независим изпълнител
- Понастоящем не може да бъде предоставена подкрепа на кандидати с визи H-1B и STEM OPT
- Предпочитаните области на експертиза включват адверсарно машинно обучение, киберсигурност, социотехнически риск, оценяване на разговорен изкуствен интелект, психология, актьорско майсторство и писане
Придобивки
- Изцяло дистанционна работа
- График, който отговаря на вашите нужди
- Ежеседмични плащания чрез Stripe или Wise
- Придобиване на практически опит в red teaming на изкуствен интелект, основан на данни от хора
- Принос към създаването на по-устойчиви, безопасни и надеждни системи с изкуствен интелект
- Сътрудничество с водещи изследователи в областта на изкуствения интелект
- При поискване се предлагат разумни адаптации
- Възможност за получаване на възнаграждения за препоръки до 90 USD за всяка успешна препоръка, при спазване на приложимите ограничения