51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект – английски и маратхи (дистанционна работа по договор)
Mercor търси експерт по безопасност на изкуствения интелект, който владее свободно английски и маратхи и ще извършва red teaming на разговорни системи с изкуствен интелект. Договорната роля е насочена към адверсариално тестване, анализ на уязвимости и ясно отчитане за проекти с човешки данни и frontier AI.
Описание
- Тествайте разговорни модели и агенти с изкуствен интелект за jailbreak атаки, инжектиране на подсказки, сценарии за злоупотреба, използване на пристрастия и многоходова манипулация
- Създавайте ресурси с човешки данни чрез анотиране на грешки, категоризиране на уязвимости и идентифициране на системни рискове
- Използвайте утвърдени таксономии, бенчмаркове и ръководства за осигуряване на последователни оценки
- Предоставяйте възпроизводими случаи на атаки, набори от данни и отчети за клиенти
- Оценявайте отговорите на изкуствения интелект по чувствителни теми, включително пристрастия, дезинформация и вредно поведение
- Откривайте слабости, които автоматизираните методи за оценка могат да пропуснат
- Разширявайте обхвата на тестването, за да помогнете за предотвратяване на неочаквани проблеми в продукция
- Подпомагайте клиентите при подобряването на безопасността, устойчивостта и надеждността на техните системи с изкуствен интелект
- Работете с водещи изследователи по инициативи за обучение и развитие на frontier AI модели
Изисквания
- Носител на езика или свободно владеене на английски и маратхи
- Добра преценка при оценяване на език и съдържание
- Способност да определяте дали отговорите на изкуствения интелект са точни, пълни и подходящи, с ясни обяснения
- Внимателно откриване на нюансирани грешки, несъответствия и пропуски
- Надеждно спазване на указанията за тестване и изискванията за качество
- Ясно комуникиране на разсъжденията както пред техническа, така и пред нетехническа аудитория
- Гъвкавост за работа по различни проекти, задачи и с различни клиенти
- Способност за работа като независим изпълнител
- Не трябва да се нуждаете от спонсорство за H-1B или STEM OPT
- Предимство: опит с адверсариално машинно обучение, включително набори от данни за jailbreak атаки, инжектиране на подсказки, RLHF/DPO атаки или извличане на модели
- Предимство: опит в киберсигурността с тестове за проникване, разработване на експлойти или обратно инженерство
- Предимство: опит със социотехнически рискове, включително проучване на тормоз или дезинформация, анализ на злоупотреби или тестване на разговорен изкуствен интелект
- Предимство: опит в психологията, актьорството или писането, който подпомага нестандартното адверсариално мислене
Придобивки
- Изцяло дистанционна работа по договор
- Гъвкав график с възможност сами да определяте работното си време
- Седмични плащания чрез Stripe или Wise
- Продължителността на проекта може да се промени или той да приключи по-рано според бизнес нуждите и представянето
- Незадължително участие в проекти, включващи съдържание с по-висока чувствителност
- Ясни насоки и ресурси за благополучие при задачи с чувствително съдържание
- При поискване са налични разумни адаптации
- Плащания за препоръки до 90 USD за всяка успешна препоръка