51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Дистанционен експерт по безопасност на изкуствения интелект (английски и гуджарати) – договорна работа
Mercor търси договорен експерт по безопасност на изкуствения интелект, който владее английски и гуджарати, за red-team тестване на авангардни AI модели. Работата включва тестване на уязвимости, оценяване на откази и създаване на възпроизводими набори от данни и случаи на атаки.
Описание
- Тестване на разговорни AI модели и агенти за заобикаляне на защитите, инжектиране на подсказки, сценарии за злоупотреба, използване на пристрастия и многоходова манипулация
- Създаване на данни, генерирани от хора, чрез анотиране на откази, категоризиране на уязвимости и идентифициране на системни рискове
- Използване на утвърдени таксономии, бенчмаркове и ръководства за провеждане на последователни оценки
- Разработване на възпроизводими клиентски отчети, набори от данни и случаи на атаки
- Оценяване на AI изходите за чувствителни проблеми, включително пристрастия, дезинформация и вредно поведение
- Откриване на слабости, които автоматизираното тестване не установява
- Разширяване на обхвата на оценяването, за да се помогне за предотвратяване на неочаквани проблеми в продукционна среда
- Принос към проекти за обучение и подобряване на авангардни AI системи
Изисквания
- Роден или свободно владеен английски и гуджарати
- Добра преценка при оценяване на език и съдържание по отношение на точност, пълнота и уместност
- Способност за откриване на нюансирани грешки, несъответствия и пропуски
- Последователно спазване на установени насоки и стандарти за качество
- Ясно обясняване на разсъжденията пред техническа и нетехническа аудитория
- Гъвкавост при работа по различни проекти, формати на задачи и нужди на клиенти
- Ангажиране като независим договорен изпълнител
- Кандидатите с визи H-1B и STEM OPT не са допустими
- Предимство е опитът с враждебно машинно обучение, включително набори от данни за заобикаляне на защитите, инжектиране на подсказки, RLHF/DPO атаки или извличане на модели
- Предимство е опитът в киберсигурността с проникващо тестване, разработване на експлойти или обратно инженерство
- Предимство е опитът със социотехнически рискове, включващ изследване на тормоз или дезинформация, анализ на злоупотреби или тестване на разговорен AI
- Предимство е опитът в психологията, актьорството или писането, който подпомага нестандартното нападателно мислене
Придобивки
- Дистанционна работа от Съединените щати
- Избор на гъвкав график, съобразен с вашата наличност
- Ежеседмични плащания чрез Stripe или Wise
- Възможност за включване или отказ от проекти с по-висока чувствителност
- Достъп до ясни насоки и ресурси за благосъстояние при задачи с чувствително съдържание
- Конкурентно почасово възнаграждение
- При поискване са налични разумни улеснения
- Възможност за получаване на до 90 щатски долара за всяка успешна препоръка при спазване на приложимите ограничения