51 – 200 Қызметкерлер
Mercor компаниясының қолжетімді профилінде оның өнімдері, қызметтері, клиенттері, саласы немесе жұмысқа қабылдау бағыты туралы компанияны нақты сипаттауға жеткілікті расталған ақпарат жоқ. Бизнесті немесе ондағы мүмкіндіктерді сипаттамас бұрын қосымша бастапқы материал қажет.
Жасанды интеллект қауіпсіздігі бойынша қызыл команда маманы - Қашықтан келісімшарттық жұмыс (Америка Құрама Штаттары)
Mercor қарсы тестілеу арқылы озық жасанды интеллект модельдеріндегі осалдықтарды анықтайтын жасанды интеллект қауіпсіздігі бойынша қызыл команда маманын іздейді. Бұл рөл сұраулар әзірлеуді және жоғары тәуекелді модель мінез-құлқын жасанды интеллект қауіпсіздігі зерттеушілерімен бірге бағалауды қамтиды.
Сипаттама
- Озық жасанды интеллект модельдерін сынау үшін қарсы сұраулар жасаңыз
- Jailbreak әрекеттерін, қауіпті мінез-құлықты, галлюцинацияларды және саясат бұзушылықтарын анықтаңыз
- Жалған ақпарат, киберқауіпсіздік, биоқауіпсіздік, алаяқтық, саяси контент және басқа да сезімтал салалардағы модель орнықтылығын бағалаңыз
- Осалдықтарды тіркеп, қауіпсіздік өлшемдері мен қызыл команда есептерін қолдаңыз
- Модельдердің сәйкестігін, орнықтылығын және қауіпсіздігін күшейту үшін жасанды интеллект зерттеушілерімен бірлесіп жұмыс істеңіз
- Жасанды интеллект жүйелерін оқытатын және жетілдіретін жобаларға үлес қосыңыз
Талаптар
- Компьютерлік ғылымдар, киберқауіпсіздік, журналистика, коммуникациялар, психология, биология, химия, мемлекеттік саясат немесе тиісті сала бойынша бакалавр дәрежесі немесе одан жоғары
- Жасанды интеллект қауіпсіздігі, жасанды интеллект бойынша қызыл команда жұмысы, сенім және қауіпсіздік, киберқауіпсіздік, зерттеу журналистикасы, өмір туралы ғылымдар немесе тиісті салада кемінде бес жыл кәсіби тәжірибе
- Күшті аналитикалық ойлау, сұрау әзірлеу және жазбаша коммуникация дағдылары
- Қарсы сұраулар жасау немесе озық жасанды интеллект жүйелерін бағалау тәжірибесі
- Жасанды интеллект бойынша қызыл команда жұмысы, RLHF, SFT, жасанды интеллект сәйкестігі немесе сенім және қауіпсіздік салаларындағы тәжірибе құпталады
- Jailbreak тестілеуі, сұрау инженериясы немесе қарсы бағалау әдістері туралы білімі болғаны құпталады
- Киберқауіпсіздік, биоқауіпсіздік, саяси контент, жалған ақпарат немесе ғылыми қауіпсіздік сияқты сұр аймақтардың бірінде немесе бірнешеуінде сараптама болғаны құпталады
- Тәуелсіз мердігер ретінде жұмыс істей алу
- H-1B және STEM OPT кандидаттарына қолдау көрсетілмейді
Артықшылықтар
- Толығымен қашықтан жұмыс істеу
- Икемді жұмыс кестесі
- Stripe немесе Wise арқылы апта сайынғы төлемдер
- Жобалар іскерлік қажеттіліктер мен жұмыс нәтижесіне қарай ұзартылуы, қысқартылуы немесе мерзімінен бұрын аяқталуы мүмкін
- Жетекші жасанды интеллект зерттеушілерімен және қауіпсіздік топтарымен қарсы тестілеу жұмысы
- Жасанды интеллект жүйелерінің күрделі, нақты әлемдегі қауіпсіздік мәселелерін шешу тәсілін қалыптастыру мүмкіндігі
- Сұраныс бойынша ақылға қонымды жағдайлар жасалады
- Әр сәтті ұсыныс үшін ұсыныстар санының шектеулеріне байланысты 340 АҚШ долларына дейінгі реферал төлемдері