51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по red teaming на безопасността на изкуствения интелект (английски и пенджабски)
Mercor търси експерт по безопасността на изкуствения интелект, който говори английски и пенджабски, за red teaming на разговорни модели и агенти. Договорната позиция е насочена към откриване на уязвимости, създаване на атакуващи сценарии и изготвяне на възпроизводими доклади за безопасност за клиенти, занимаващи се с изследвания в областта на изкуствения интелект.
Описание
- Тестване на разговорни модели и агенти с jailbreak атаки, prompt injection атаки, сценарии за злоупотреба, експлоатиране на пристрастия и многостъпкова манипулация
- Оценяване на отговорите на моделите по чувствителни теми, включително пристрастия, дезинформация и вредно поведение
- Документиране на сривове, категоризиране на уязвимости и идентифициране на системни рискове
- Използване на установени таксономии, бенчмаркове и ръководства за поддържане на последователни оценки
- Създаване на възпроизводими доклади, набори от данни и атакуващи сценарии за клиенти
- Проучване на слабости в системите с изкуствен интелект, които автоматизираното тестване може да пропусне
- Разширяване на обхвата на оценяването с цел ограничаване на неочаквани проблеми в продукционна среда
- Подобряване на клиентските системи с изкуствен интелект чрез red teaming, извършван от хора и основан на данни
Изисквания
- Носителско или свободно владеене на английски и пенджабски език
- Добра преценка при оценяване на език и съдържание
- Способност да се определи дали отговорите на изкуствения интелект са точни, пълни и подходящи и да се обясни оценката
- Прецизно внимание към незначителни грешки, несъответствия и пропуски
- Последователно спазване на указанията за тестване и стандартите за качество
- Способност за ясно обясняване на разсъжденията както на техническа, така и на нетехническа аудитория
- Гъвкавост за работа по различни проекти, формати на задачи и с различни клиенти
- Възможност за ангажиране като независим изпълнител
- Не трябва да се изисква подкрепа за H-1B или STEM OPT
- Предпочитаният опит може да включва състезателно машинно обучение, набори от данни за jailbreak атаки, prompt injection, RLHF/DPO атаки, извличане на модели, тестове за проникване, разработване на експлойти, обратно инженерство, проучване на тормоз или дезинформация, анализ на злоупотреби, тестване на разговорен изкуствен интелект, психология, актьорско майсторство или писане
Придобивки
- Дистанционна работа от всяко място, разрешено за тази позиция
- Самостоятелно определяне на работния график
- Получаване на седмични плащания за предоставените услуги чрез Stripe или Wise
- Проектите могат да бъдат удължени, намалени или прекратени по-рано според бизнес нуждите и представянето
- Достъп до ресурси за благосъстояние и ясни указания за проекти с по-висока чувствителност
- Натрупване на опит в red teaming на изкуствения интелект, основан на човешки данни
- Принос към създаването на по-устойчиви, безопасни и надеждни системи с изкуствен интелект
- Конкурентно възнаграждение
- Сътрудничество с водещи изследователи в областта на изкуствения интелект