Mercor
Mercor
51 – 200 Сотрудники
В доступном профиле Mercor недостаточно проверенной информации о продуктах, услугах, клиентах, отрасли или направлении найма компании, чтобы подготовить точный обзор. Для описания деятельности компании или её возможностей требуется дополнительный исходный материал.

Эксперт по проверке безопасности ИИ

Проверяйте передовые системы ИИ для лабораторий-партнёров Mercor, выявляя уязвимости и оценивая поведение моделей в ситуациях высокого риска. Разрабатывайте провокационные запросы и помогайте документировать результаты проверки безопасности.

Описание

  • Создавайте провокационные запросы, чтобы проверять передовые модели ИИ в условиях давления.
  • Выявляйте обходы ограничений, небезопасные ответы, галлюцинации и несоблюдение политик.
  • Оценивайте устойчивость моделей к дезинформации, угрозам кибербезопасности и биобезопасности, мошенничеству, политическому контенту и другим чувствительным темам.
  • Фиксируйте уязвимости и помогайте готовить тесты для оценки безопасности и отчёты по red teaming.
  • Работайте с исследователями ИИ над повышением согласованности моделей с заданными принципами, их устойчивости и безопасности.
  • Выполняйте проекты для лабораторий ИИ и компаний-партнёров Mercor, которые обучают и совершенствуют системы ИИ.

Требования

  • Степень бакалавра или выше в области компьютерных наук, кибербезопасности, журналистики, коммуникаций, психологии, биологии, химии, государственной политики или смежной области.
  • Не менее пяти лет профессионального опыта в сфере безопасности ИИ, red teaming ИИ, доверия и безопасности, кибербезопасности, журналистских расследований, биологических наук или смежной области.
  • Развитые аналитические способности, навыки разработки запросов и письменной коммуникации.
  • Опыт создания провокационных запросов или оценки передовых систем ИИ.
  • Приветствуется опыт в red teaming ИИ, RLHF, контролируемой тонкой настройке, согласовании ИИ или сфере доверия и безопасности.
  • Приветствуется знакомство с тестированием обхода ограничений, разработкой запросов или методами состязательной оценки.
  • Приветствуется экспертная компетентность в таких сложных областях, как кибербезопасность, биобезопасность, политический контент, дезинформация или научная безопасность.
  • Необходимо иметь право на работу в одном из указанных мест.
  • В настоящее время Mercor не может оказывать поддержку кандидатам на визу H-1B или STEM OPT.

Преимущества

  • Полностью удалённая работа.
  • Гибкий график и возможность выполнять работу в удобное для вас время.
  • Еженедельные выплаты через Stripe или Wise.
  • Срок проектов может быть продлён, сокращён или завершён досрочно в зависимости от потребностей проекта и результатов работы.
  • Конкурентная оплата.
  • Сотрудничество с ведущими исследователями ИИ и командами по безопасности.
  • Вклад в безопасность передовых систем ИИ и разработку моделей.
  • До 340 долларов за каждую успешную рекомендацию с учётом ограничений программы рекомендаций.
  • По запросу предоставляются разумные условия для адаптации.

Похожие вакансии

Enlight Renewable Energy Ltd (ENLT)

Директор по инженерии в сфере возобновляемой энергетики (Италия, гибридный формат)

Enlight Renewable Energy Ltd (ENLT)

Руководите инженерными командами и технической реализацией проектов в области солнечной и ветровой энергетики и накопления энергии в Enlight. Курируйте оптимизацию проектов, техническую комплексную проверку, поддержку закупок и инженерные риски.

Открыть
Enlight Renewable Energy Ltd (ENLT)

Директор по инженерии в сфере возобновляемой энергетики

Enlight Renewable Energy Ltd (ENLT)

Руководите инженерными работами в проектах Enlight в области солнечной и ветровой энергетики и систем накопления энергии, устанавливая технические стандарты и координируя команды на всех этапах проекта. В круг задач входят оптимизация, техническая экспертиза, поддержка закупок и руководство инженерными командами по всей Европе.

Открыть
General Dynamics Information Technology

Ведущий эксперт по инженерии автономных систем ИИ, БПЛА и роям дронов

General Dynamics Information Technology

Руководите разработкой автономных БПЛА, роев дронов и систем командования и управления для оборонных задач. Развивайте возможности ИИ и машинного обучения в структурах Министерства обороны США.

Открыть
nahc.io

Ведущий full-stack-разработчик (Go) — удалённая работа в Гонконге

nahc.io

Создавайте интерфейсы на TypeScript и сервисы на Go для компании, занимающейся проприетарной торговлей и исследованиями. Разрабатывайте модульные финансовые приложения, аналитику в реальном времени, повторно используемые компоненты и SDK.

Открыть
YASH Technologies

Ведущий специалист по Python-модулям

YASH Technologies

Руководите разработкой серверной части на Python в YASH Technologies, создавая масштабируемые микросервисы. Автоматизируйте тестирование REST API, развертывание в облаке и DevOps-процессы.

Открыть
Worldwide Clinical Trials

Ведущий специалист по статистическому программированию

Worldwide Clinical Trials

Руководите программированием на SAS и применением стандартов CDISC в сложных клинических исследованиях международной организации Worldwide Clinical Trials. Отвечайте за регуляторные подачи, инициативы по качеству и работу команд статистического программирования.

Открыть
Worldwide Clinical Trials

Ведущий программист клинических баз данных

Worldwide Clinical Trials

Настраивайте, тестируйте и проверяйте клинические базы данных, разрабатывая программы SAS для управления клиническими данными. Поддерживайте спонсоров, исследовательские центры и команды по управлению данными в Worldwide Clinical Trials.

Открыть
Divar

Инженер-программист, backend-сервисы

Divar

Создавайте высокодоступные backend-сервисы с низкой задержкой для продуктов, которыми пользуются миллионы людей. Пишите чистый код и сотрудничайте с гибкими командами.

Открыть
Flourish Health

Помощник генерального директора

Flourish Health

Поддержка генерального директора Flourish Health: координация работы руководства, ключевых отношений, дел совета директоров, найма и инициатив по развитию корпоративной культуры. Flourish Health — командная организация, оказывающая услуги в области психического здоровья молодежи.

Открыть
UQ College

Специалист по административной поддержке, биологические ресурсы UQ

UQ College
51 – 200 Сотрудники
Образование

Административная поддержка исследований на животных в UQ на площадке Long Pocket: ведение базы данных, координация операций и консультирование сотрудников.

Открыть