51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Дистанционен експерт по безопасност на ИИ (английски и одия) – договор
Mercor търси експерт по безопасност на ИИ, който владее английски и одия и ще извършва red-team тестване на разговорни модели на ИИ за обучение на авангардни модели. Работата включва създаване на анотации на уязвимости, атаки, набори от данни и възпроизводими доклади за безопасност.
Описание
- Тестване на разговорни модели и агенти на ИИ чрез jailbreak атаки, инжектиране на подсказки, сценарии за злоупотреба, експлоатиране на пристрастия и многоходова манипулация.
- Документиране на откази, категоризиране на уязвимости и идентифициране на системни рискове.
- Използване на утвърдени таксономии, бенчмаркове и ръководства за последователност на оценяването.
- Създаване на възпроизводими доклади за безопасност, набори от данни и атаки.
- Изследване на изходите на моделите за пристрастия, дезинформация и вредно поведение.
- Подпомагане на обучението и подобряването на авангардни системи за ИИ за лабораторията за ИИ на Mercor и корпоративните му клиенти.
Изисквания
- Владеене на английски и одия на ниво роден език.
- Добра преценка при оценяване на език и съдържание.
- Способност да се определи дали отговорите на ИИ са точни, пълни и подходящи и да се обяснят основанията.
- Силно внимание към дребни грешки, несъответствия и пропуски.
- Способност за надеждно следване на указания и стандарти за качество.
- Способност за ясно обясняване на начина на мислене пред техническа и нетехническа аудитория.
- Гъвкавост за работа по различни проекти, формати на задачи и с различни клиенти.
- Готовност за ангажиране като независим изпълнител.
- Кандидатите не трябва да са кандидати за H-1B или STEM OPT.
- Опит или специализация в сферата на противниковото машинно обучение, киберсигурността, социотехническия риск или креативното тестване са желателни.
Придобивки
- Изцяло дистанционна работа.
- Гъвкав график.
- Възможност за доброволно участие в проекти с по-висока чувствителност.
- Указания и ресурси за благополучие при проекти, включващи чувствително съдържание.
- Седмични плащания чрез Stripe или Wise.
- Конкурентно възнаграждение.
- Възможност за сътрудничество с водещи изследователи.
- Плащания за препоръки до 90 USD за всяка успешна препоръка.