51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект – английски и гуджарати (дистанционна работа по договор)
Тествайте най-модерни модели и агенти на изкуствения интелект за уязвимости в сигурността чрез враждебни разговори, включително jailbreak атаки, инжектиране на подкани, злоупотреба, пристрастност и манипулация. Създавайте анотирани набори от данни, сценарии за атаки и възпроизводими доклади за сигурността на английски и гуджарати.
Описание
- Тествайте конверсационни модели и агенти на изкуствения интелект чрез враждебни сценарии за jailbreak атаки, инжектиране на подкани, злоупотреба, използване на пристрастия и многоходова манипулация
- Създавайте данни, генерирани от хора, чрез анотиране на откази, категоризиране на уязвимости и идентифициране на системни рискове
- Използвайте утвърдени таксономии, бенчмаркове и ръководства за поддържане на последователни оценки
- Разработвайте възпроизводими доклади, набори от данни и сценарии за атаки
- Оценявайте резултати от изкуствения интелект, свързани с чувствителни теми, включително пристрастност, дезинформация и вредно поведение
- Идентифицирайте слабости, които автоматизираните методи за оценка не успяват да открият
- Разширявайте обхвата на оценяването, за да помогнете за ограничаване на неочаквани проблеми в продукционна среда
- Подобрявайте системите за изкуствен интелект на клиентите чрез структурирано враждебно тестване
Изисквания
- Владеене на английски и гуджарати на ниво носител на езика
- Добра преценка при оценяване на език и съдържание
- Способност да определяте дали отговорите на изкуствения интелект са точни, пълни и подходящи и да обяснявате оценката
- Внимателно забелязване на фини грешки, несъответствия и пропуски
- Последователно използване на таксономии, бенчмаркове, ръководства, насоки и стандарти за качество
- Способност за ясно обясняване на разсъжденията пред техническа и нетехническа аудитория
- Гъвкавост за работа по различни проекти, формати на задачи и за различни клиенти
- Предишен опит или образование в областта на враждебното машинно обучение, киберсигурността, социотехническия риск или творческото изследване на изкуствения интелект ще се считат за предимство
- Необходимо е да работите като независим изпълнител
- Кандидати с визи H-1B и STEM OPT не се поддържат
Придобивки
- Изцяло дистанционна позиция
- Гъвкав график с възможност сами да избирате работните си часове
- Седмични плащания чрез Stripe или Wise
- Проектите могат да бъдат удължени, съкратени или приключени по-рано според бизнес нуждите и представянето
- Доброволно участие в проекти, включващи съдържание с по-висока чувствителност
- Ясни насоки и ресурси за благополучие при задачи с чувствително съдържание
- При поискване са достъпни разумни улеснения
- Възможност за придобиване на опит в red teaming на изкуствен интелект, основан на данни, създадени от хора
- Работа с водещи изследователи
- Плащания за препоръки до 90 USD за всяка успешна препоръка, съобразно приложимите ограничения