51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект (английски и тамилски) – дистанционна работа по договор
Mercor търси експерт по безопасност на изкуствения интелект, който владее английски и тамилски, за red teaming на разговорни модели и агенти. Договорната роля е насочена към откриване на уязвимости, създаване на данни за оценяване и изготвяне на възпроизводими доклади за безопасност.
Описание
- Извършване на адверсариално тестване на разговорни модели и агенти с изкуствен интелект чрез jailbreak атаки, prompt injection, сценарии за злоупотреба, експлоатиране на пристрастия и многоходова манипулация.
- Създаване на данни, генерирани от хора, чрез анотиране на откази, категоризиране на уязвимости и идентифициране на системни рискове.
- Използване на установени таксономии, бенчмаркове и ръководства за поддържане на последователни оценки.
- Предоставяне на клиентите на възпроизводими доклади, набори от данни и случаи на атаки.
- Оценяване на резултати от изкуствения интелект, засягащи чувствителни теми, включително пристрастия, дезинформация и вредно поведение.
- Идентифициране на слабости, които автоматизираните методи за оценяване могат да пропуснат.
- Разширяване на обхвата на оценяването, за да се помогне за минимизиране на неочаквани проблеми в продукционна среда.
- Подобряване на системите с изкуствен интелект на клиентите чрез структурирано адверсариално тестване.
Изисквания
- Носител на езика или свободно владеене на английски и тамилски.
- Добра преценка при оценяване на език и съдържание.
- Способност да се определи дали отговорите на изкуствения интелект са точни, пълни и подходящи и да се обясни разсъждението.
- Силно внимание към фини грешки, несъответствия и пропуски.
- Последователно спазване на указанията и стандартите за качество.
- Способност за ясно обясняване на разсъждението пред техническа и нетехническа аудитория.
- Адаптивност към различни проекти, формати на задачи и клиенти.
- Способност за работа като независим изпълнител по договор.
- Кандидати с H1-B и STEM OPT не се поддържат.
- Предимство е опитът в адверсариално машинно обучение с набори от данни за jailbreak атаки, prompt injection атаки, RLHF или DPO атаки или извличане на модели.
- Предимство е опитът в киберсигурността с проникващо тестване, разработване на експлойти или обратно инженерство.
- Предимство е опитът със социотехнически рискове, включващ изследване на тормоз или дезинформация, анализ на злоупотреби или тестване на разговорен изкуствен интелект.
- Предимство е опитът с креативно изследване в психологията, актьорското майсторство или писането.
Придобивки
- Изцяло дистанционна работа.
- Гъвкаво работно време с възможност сами да определяте часовете си.
- Седмични плащания чрез Stripe или Wise.
- Възможност за участие в проекти с по-висока чувствителност.
- Ясни насоки и ресурси за благополучие при работа с чувствително съдържание.
- Конкурентно почасово заплащане.
- Възможност за сътрудничество с водещи изследователи.
- Плащания за препоръки до 90 USD за всяка успешна препоръка, съобразно приложимите ограничения.
- При поискване са налични разумни адаптации.