51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Дистанционен експерт по безопасност на ИИ (английски и каннада)
Провеждайте adversarial тестване на водещите AI модели на Mercor с входни данни на английски и каннада, за да откривате уязвимости. Създавайте възпроизводими данни за безопасност, атаки и доклади за клиентите на AI.
Описание
- Тествайте разговорни AI модели и агенти с jailbreak атаки, prompt инжекции, сценарии за злоупотреба, използване на пристрастия и многоходова манипулация
- Създавайте данни, генерирани от хора, чрез анотиране на откази, категоризиране на уязвимости и идентифициране на системни рискове
- Използвайте утвърдени таксономии, бенчмаркове и наръчници за поддържане на последователни оценки
- Разработвайте възпроизводими доклади, набори от данни и случаи на атаки, които клиентите могат да използват
- Оценявайте резултатите на AI по чувствителни теми, включително пристрастия, дезинформация и вредно поведение
- Откривайте слабости, които автоматизираните оценки могат да пропуснат
- Разширявайте обхвата на оценяването, за да предотвратявате неочаквани проблеми в продукционна среда
- Допринасяйте към проекти за обучение и подобряване на AI системи за AI лабораторията на Mercor и корпоративни клиенти
Изисквания
- Владеене на английски и каннада на родно или отлично ниво
- Добра преценка при оценяване на език и съдържание, включително точността, пълнотата и уместността на отговорите на AI
- Способност за ясно обясняване на разсъжденията пред техническа и нетехническа аудитория
- Внимание към малки грешки, несъответствия и пропуски
- Способност за последователно прилагане на таксономии, бенчмаркове, наръчници, указания и стандарти за качество
- Гъвкавост при работа по различни проекти, формати на задачи и с различни клиенти
- Трябва да работите като независим изпълнител
- Кандидатите не трябва да кандидатстват за статут H-1B или STEM OPT
- Предимство е опитът в adversarial машинното обучение, включително набори от данни за jailbreak атаки, prompt инжекции, RLHF или DPO атаки и извличане на модели
- Предимство е опитът в киберсигурността, включително penetration testing, разработване на експлойти или reverse engineering
- Предимство е опитът със социотехнически рискове, например проучване на тормоз или дезинформация, анализ на злоупотреби или тестване на разговорен AI
- Предимство е опитът в психологията, актьорското майсторство или писането, който подпомага нестандартното adversarial мислене
Придобивки
- Напълно дистанционна договорна работа с гъвкаво работно време
- Седмично плащане чрез Stripe или Wise според предоставените услуги
- Възможност за натрупване на опит в human-data-driven AI red teaming, насочен към безопасността на водещи AI системи
- Смислен принос към създаването на по-устойчиви, безопасни и надеждни AI системи
- Ресурси за благосъстояние и ясни насоки за проекти, включващи по-чувствително съдържание
- При поискване са достъпни разумни адаптации
- Плащания за препоръки до 90 щатски долара за всяка успешна препоръка, при спазване на приложимите ограничения