51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект – английски и телугу (дистанционна работа по договор)
Провеждайте оценки тип „червен екип“ на разговорни модели и агенти с изкуствен интелект за Mercor, като откривате уязвимости чрез враждебно тестване. Създавайте висококачествени набори от данни, атакуващи сценарии и ясни отчети, насочени към представянето на английски и телугу.
Описание
- Тествайте разговорни модели и агенти с изкуствен интелект срещу заобикаляне на защитите, инжектиране на подсказвания, сценарии за злоупотреба, експлоатиране на пристрастия и многоходова манипулация
- Създавайте данни, генерирани от хора, чрез маркиране на откази, категоризиране на уязвимости и идентифициране на системни рискове
- Използвайте утвърдени таксономии, бенчмаркове и ръководства, за да осигурите последователни оценки
- Разработвайте възпроизводими отчети, набори от данни и враждебни атакуващи сценарии
- Оценявайте отговори на изкуствения интелект, свързани с пристрастия, дезинформация, вредно поведение и други чувствителни теми
- Идентифицирайте слабости, които автоматизираните методи за оценка могат да пропуснат
- Разширявайте обхвата на оценяването, за да помогнете за предотвратяване на неочаквани проблеми в продукционна среда
- Подобрявайте системите с изкуствен интелект на клиентите чрез структурирано враждебно тестване
Изисквания
- Владеене на английски и телугу на ниво носител на езика
- Добра преценка при оценяване на език и съдържание
- Способност да определяте дали отговорите на изкуствения интелект са точни, пълни и подходящи и да обяснявате разсъжденията си
- Изключително внимание към фини грешки, несъответствия и пропуски
- Последователно спазване на насоките и стандартите за качество
- Способност за ясно представяне на разсъждения пред техническа и нетехническа аудитория
- Гъвкавост при работа по различни проекти, формати на задачи и с различни клиенти
- Способност за работа като независим изпълнител
- Не трябва да се изисква спонсорство за H-1B или STEM OPT
- Предишен опит във враждебно машинно обучение, киберсигурност, социотехнически риск или творческо проучване е предимство
Придобивки
- Изцяло дистанционна работа
- Изберете гъвкав график според своята наличност
- Получавайте седмични плащания чрез Stripe или Wise
- Продължителността на проекта може да се промени или той да приключи по-рано според бизнес нуждите и представянето
- Достъп до ресурси за благосъстояние и ясни насоки за задачи с по-висока чувствителност
- Натрупайте опит в тестване на безопасността на изкуствения интелект с данни, генерирани от хора
- Помогнете за създаването на по-устойчиви, безопасни и надеждни системи с изкуствен интелект
- Конкурентно заплащане
- Сътрудничество с водещи изследователи
- При поискване са достъпни разумни улеснения