51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект (английски и каннада) – дистанционна договорна работа в Съединените щати
Mercor търси специалист по red teaming на изкуствен интелект, който владее английски и каннада и ще тества най-новите модели за уязвимости. Работата включва създаване на възпроизводими случаи на атаки, набори от данни за оценяване и доклади за рискове за проекти за обучение на изкуствен интелект с човешки данни.
Описание
- Тествайте разговорни модели и агенти с jailbreak атаки, prompt injection атаки, сценарии за злоупотреба, използване на предубеждения и многоходова манипулация
- Създавайте анотации на човешки данни, като документирате грешки, категоризирате уязвимости и идентифицирате системни рискове
- Използвайте установени таксономии, бенчмаркове и наръчници за поддържане на последователни оценки
- Подготвяйте възпроизводими доклади за клиенти, набори от данни и случаи на атаки
- Оценявайте отговорите на изкуствения интелект по чувствителни теми, включително предубеждения, дезинформация и вредно поведение
- Изследвайте системите с изкуствен интелект за слабости, които автоматизираното тестване може да пропусне
- Разширявайте обхвата на оценяването, за да помогнете за ограничаване на неочаквани проблеми в продукционна среда
- Подпомагайте обучението и подобряването на най-новите модели за лабораторията за изкуствен интелект на Mercor и корпоративните клиенти
Изисквания
- Владеене на английски и каннада на ниво роден език
- Добра преценка при оценяването дали отговорите на изкуствения интелект са точни, пълни и подходящи
- Ясни комуникационни умения за обясняване на разсъжденията пред техническа и нетехническа аудитория
- Изключително внимание към фини грешки, несъответствия и пропуски
- Последователност при прилагането на таксономии, бенчмаркове, наръчници, насоки и стандарти за качество
- Гъвкавост при работа по различни проекти, формати на задачи и с различни клиенти
- Способност за работа като независим договорен изпълнител
- Не трябва да се нуждаете от спонсорство за H-1B или STEM OPT; тези възможности за спонсорство не се поддържат
- Предишен опит в адверсарно машинно обучение, киберсигурност, социотехнически риск, тестване на разговорен изкуствен интелект, психология, актьорско майсторство или неконвенционално адверсарно писане е предимство
Придобивки
- Работете изцяло дистанционно с гъвкавост да определяте собствения си график
- Получавайте седмични плащания чрез Stripe или Wise за предоставените услуги
- Избирайте дали да участвате в проекти, включващи съдържание с по-висока чувствителност
- Получавайте ясни насоки и ресурси за благополучие при задачи с чувствително съдържание
- Получавайте конкурентно възнаграждение
- Натрупайте практически опит в red teaming на изкуствен интелект, основан на човешки данни
- Сътрудничете с водещи изследователи
- Искайте разумни улеснения, когато са необходими
- Получавайте възнаграждение за препоръки до 90 USD за всяка успешна препоръка