51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Специалист по тестване на безопасността на изкуствения интелект
Mercor търси специалист по тестване на безопасността на изкуствения интелект, който да изследва най-съвременните AI системи чрез враждебно тестване за проекти, свързани с обучението на AI. Ролята е насочена към създаване на предизвикателни подсказки и документиране на уязвимости във високорискови области.
Описание
- Създаване на враждебни подсказки, които подлагат на изпитание най-съвременните AI модели
- Откриване на jailbreak атаки, опасно поведение, халюцинации и нарушения на политики
- Оценяване на устойчивостта на моделите спрямо дезинформация, киберсигурност, биосигурност, измами, политическо съдържание и други чувствителни области
- Документиране на откритите уязвимости и подпомагане на сравнителните тестове за безопасност и докладите от red teaming
- Сътрудничество с AI изследователи за подобряване на съответствието, устойчивостта и безопасността на моделите
- Принос към проекти, които обучават и усъвършенстват AI системи
Изисквания
- Бакалавърска или по-висока степен по компютърни науки, киберсигурност, журналистика, комуникации, психология, биология, химия, публични политики или сродна област
- Поне пет години професионален опит в безопасността на AI, red teaming на AI, доверие и безопасност, киберсигурност, разследваща журналистика, науки за живота или сродна област
- Силно аналитично мислене, умения за разработване на подсказки и писмена комуникация
- Опит в създаването на враждебни подсказки или оценяването на най-съвременни AI системи
- Местоживеене в една от посочените допустими локации
- Кандидатите с H-1B и STEM OPT не се поддържат
Придобивки
- Работа изцяло от разстояние
- Избор на гъвкав график и работа в удобно за вас време
- Получаване на седмични плащания чрез Stripe или Wise
- Сътрудничество с водещи AI изследователи и екипи по безопасност
- Помагане за оформянето на безопасността и съответствието на най-съвременните AI системи
- Продължителността на проекта може да се промени или той да приключи по-рано в зависимост от бизнес нуждите и представянето
- Получаване на възнаграждения за препоръки до 340 USD за всяка успешна препоръка, при спазване на ограниченията за препоръки