51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект – английски и асамски (дистанционна работа по договор)
Тествайте разговорни системи с изкуствен интелект за jailbreak атаки, пристрастия, рискове от инжектиране на подсказвания и други уязвимости. Създавайте ясни и възпроизводими артефакти от човешки данни, които помагат за по-безопасен и надежден напреднал изкуствен интелект.
Описание
- Тествайте разговорни модели и агенти с изкуствен интелект за jailbreak атаки, инжектиране на подсказвания, сценарии за злоупотреба, използване на пристрастия и манипулация в няколко хода
- Създавайте анотации на човешки данни, като документирате откази, категоризирате уязвимости и идентифицирате системни рискове
- Използвайте утвърдени таксономии, бенчмаркове и ръководства за поддържане на последователни оценки
- Предоставяйте на клиентите възпроизводими отчети, набори от данни и сценарии за атаки
- Откривайте слабости, които автоматизираното тестване може да пропусне
- Разширявайте обхвата на оценяването, за да помогнете за ограничаване на неочаквани проблеми в продукционна среда
- Оценявайте отговорите на изкуствения интелект по чувствителни теми съгласно предоставените насоки
Изисквания
- Свободно владеене на английски и асамски език
- Добра преценка при оценяване на езика и съдържанието, включително дали отговорите на изкуствения интелект са точни, пълни и подходящи
- Изострено внимание към фини грешки, несъответствия и пропуски
- Последователно спазване на насоките и стандартите за качество
- Способност за ясно обяснение на разсъжденията пред техническа и нетехническа аудитория
- Гъвкавост за работа по различни проекти, формати на задачи и с различни клиенти
- Статут на независим изпълнител
- Комфорт при работа с чувствителни теми като пристрастия, дезинформация и вредно поведение; участието в проекти с по-висока чувствителност е по желание
- Кандидати с визи H-1B и STEM OPT не се поддържат
Придобивки
- Изцяло дистанционна работа с гъвкав график, който сами определяте
- Седмични плащания чрез Stripe или Wise
- Възможност за придобиване на опит в red teaming на изкуствен интелект, основан на човешки данни
- Практически принос към по-устойчиви, безопасни и надеждни системи с изкуствен интелект
- Възможности за сътрудничество с водещи изследователи
- При поискване се предоставят разумни улеснения
- Бонус за препоръка до 90 USD за всяка успешна препоръка