51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект (английски и телугу) – дистанционна работа по договор
Извършвайте red-team оценки на разговорни модели и агенти с изкуствен интелект за Mercor, като се фокусирате върху безопасността на английски и телугу. Създавайте данни за уязвимости, атакуващи случаи и възпроизводими доклади в подкрепа на по-безопасното разработване на изкуствен интелект.
Описание
- Тествайте разговорни модели и агенти с изкуствен интелект чрез jailbreak атаки, prompt injection, сценарии за злоупотреба, използване на пристрастия и многостъпкова манипулация
- Анотирайте пропуските, категоризирайте уязвимостите и идентифицирайте системните рискове
- Използвайте таксономии, бенчмаркове и ръководства за поддържане на последователни оценки
- Създавайте възпроизводими доклади, набори от данни и атакуващи случаи за клиенти
- Оценявайте резултати от изкуствен интелект, свързани с пристрастия, дезинформация, вредно поведение и други чувствителни теми
- Допринасяйте към проекти за обучение и подобряване на системи с изкуствен интелект
- Идентифицирайте уязвимости, които автоматизираното тестване не открива
- Разширявайте обхвата на оценките, за да помогнете за намаляване на неочакваните проблеми в продукционна среда
Изисквания
- Носителство или свободно владеене на английски и телугу
- Добра преценка при оценяването дали отговорите на изкуствения интелект са точни, пълни и подходящи
- Способност за ясно обясняване на начина на мислене както на техническа, така и на нетехническа аудитория
- Изключително внимание към фини грешки, несъответствия и пропуски
- Последователно спазване на указанията и стандартите за качество
- Гъвкавост при работа по различни проекти, формати на задачи и за различни клиенти
- Готовност за работа като независим изпълнител по договор
- Не трябва да сте кандидат за H-1B или STEM OPT; релевантните специализации могат да включват враждебно машинно обучение, набори от данни за jailbreak атаки, prompt injection, RLHF/DPO атаки, извличане на модели, тестове за проникване, разработване на експлойти, обратно инженерство, тестване за тормоз или дезинформация, анализ на злоупотреби, тестване на разговорен изкуствен интелект, психология, актьорско майсторство или писане.
- придобивки
Придобивки
- Работете изцяло дистанционно по график, който сами определяте
- Получавайте седмични плащания чрез Stripe или Wise за извършените услуги
- Придобийте опит в red-teaming на изкуствен интелект, базиран на човешки данни и насочен към безопасността на най-съвременни системи
- Помогнете системите с изкуствен интелект да станат по-устойчиви, безопасни и надеждни
- Изберете дали да участвате в проекти с по-висока чувствителност
- Получете ясни указания и ресурси за благосъстояние при проекти с по-висока чувствителност
- Поискайте разумни улеснения
- Спечелете до 90 USD за всяка успешна препоръка, без посочен лимит на препоръките