51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Дистанционен експерт по безопасност на ИИ (английски и тамилски)
Mercor търси договорен експерт по безопасност на ИИ, който владее английски и тамилски език и ще извършва стрес тестове на разговорни модели и агенти. Работата е насочена към тестване на jailbreak атаки, анализ на уязвимости, преглед на вредно поведение и структурирано създаване на човешки данни за разработването на авангарден ИИ.
Описание
- Тестване на разговорни модели и агенти чрез jailbreak атаки, prompt injection атаки, сценарии за злоупотреба, използване на пристрастия и многоходова манипулация
- Създаване на набори от данни, генерирани от хора, чрез анотиране на грешки, категоризиране на уязвимости и идентифициране на системни рискове
- Използване на утвърдени таксономии, бенчмаркове и ръководства за поддържане на последователни оценки
- Разработване на възпроизводими отчети, набори от данни и случаи на атаки
- Оценяване на резултати от ИИ, свързани с чувствителни теми, включително пристрастия, дезинформация и вредно поведение
- Разширяване на обхвата на оценяването за откриване на слабости, които автоматизираното тестване може да пропусне
- Подпомагане на лабораторията за ИИ на Mercor и корпоративните ѝ клиенти при обучението и подобряването на авангардни системи за ИИ
Изисквания
- Носител или свободно владеене на английски и тамилски език
- Добра преценка при оценяване на език и съдържание, включително дали отговорите на ИИ са точни, пълни и подходящи
- Способност за откриване на фини грешки, несъответствия и пропуски
- Последователно спазване на указания, таксономии, бенчмаркове, ръководства и стандарти за качество
- Ясно обясняване на аргументацията пред техническа и нетехническа аудитория
- Гъвкавост при работа по различни проекти, формати на задачи и с различни клиенти
- Способност за работа като независим изпълнител
- Кандидатите с визи H1-B и STEM OPT не могат да бъдат подкрепени към настоящия момент
- Опитът в областта на враждебното машинно обучение, киберсигурността, социотехническия риск или творческото изследване е предимство
Придобивки
- Работа изцяло от разстояние
- Избор на гъвкав график и работа в удобно за вас време
- Седмични плащания чрез Stripe или Wise
- Конкурентно възнаграждение
- Достъп до ресурси за благополучие и ясни указания за проекти с по-висока чувствителност
- Продължителността на проекта може да се промени или той да приключи по-рано в зависимост от бизнес нуждите и представянето
- Получаване на възнаграждение за препоръка до 90 USD за всяка успешна препоръка