51 – 200 Қызметкерлер
Mercor компаниясының қолжетімді профилінде оның өнімдері, қызметтері, клиенттері, саласы немесе жұмысқа қабылдау бағыты туралы компанияны нақты сипаттауға жеткілікті расталған ақпарат жоқ. Бизнесті немесе ондағы мүмкіндіктерді сипаттамас бұрын қосымша бастапқы материал қажет.
AI қауіпсіздігі бойынша қызыл команда сарапшысы (ағылшын және пенджаби тілдері)
Mercor сөйлесу модельдері мен агенттерін қызыл команда әдісімен тексеретін, ағылшын және пенджаби тілдерін білетін AI қауіпсіздігі сарапшысын іздейді. Келісімшарт негізіндегі бұл рөл осалдықтарды анықтауға, шабуыл жағдайларын жасауға және AI зерттеу клиенттеріне қайта өндіруге болатын қауіпсіздік есептерін дайындауға бағытталған.
Сипаттама
- Сөйлесу AI модельдері мен агенттерін jailbreak, prompt injection, теріс пайдалану сценарийлері, біржақтылықты пайдалану және көп айналымды манипуляция арқылы тестілеу
- Біржақтылық, жалған ақпарат және зиянды мінез-құлықты қоса алғанда, сезімтал тақырыптардағы модель нәтижелерін бағалау
- Қателерді құжаттау, осалдықтарды санаттарға бөлу және жүйелік тәуекелдерді анықтау
- Бағалаулардың бірізділігін сақтау үшін белгіленген таксономияларды, бенчмарктерді және жұмыс нұсқаулықтарын пайдалану
- Клиенттерге арналған қайта өндіруге болатын есептер, деректер жиынтықтары және шабуыл жағдайларын жасау
- Автоматтандырылған тестілеу байқамай қалуы мүмкін әлсіз тұстарды анықтау үшін AI жүйелерін зерттеу
- Өндірісте күтпеген мәселелерді шектеуге көмектесу үшін бағалау ауқымын кеңейту
- Адам жетекшілік ететін, деректерге негізделген қызыл команда жұмысы арқылы клиенттердің AI жүйелерін жетілдіру
Талаптар
- Ағылшын және пенджаби тілдерін ана тілі деңгейінде немесе еркін меңгеру
- Тіл мен мазмұнды бағалау кезінде дұрыс пайымдай білу
- AI жауаптарының дәл, толық және орынды екенін анықтап, бағалауды түсіндіре білу
- Ұсақ қателерге, сәйкессіздіктерге және олқылықтарға мұқият назар аудару
- Тестілеу нұсқаулықтары мен сапа стандарттарын тұрақты сақтау
- Ой-пікірді техникалық және техникалық емес аудиторияға анық жеткізе білу
- Жобалар, тапсырма форматтары және клиенттер арасында жұмыс істеуге икемділік
- Тәуелсіз мердігер ретінде жұмыс істеуге дайын болу
- H-1B немесе STEM OPT қолдауын қажет етпеу
- Қалаулы тәжірибе салаларына adversarial machine learning, jailbreak деректер жиынтықтары, prompt injection, RLHF/DPO шабуылдары, модельді экстракциялау, ену тестілері, эксплойт әзірлеу, кері инженерия, қудалау немесе жалған ақпаратты зерттеу, теріс пайдалану талдауы, сөйлесу AI тестілеуі, психология, актерлік өнер немесе жазу кіруі мүмкін
Артықшылықтар
- Рөл рұқсат ететін кез келген жерден қашықтан жұмыс істеу
- Жұмыс кестесін өзіңіз белгілеу
- Көрсетілген қызметтер үшін Stripe немесе Wise арқылы апта сайын төлем алу
- Жобалар бизнес қажеттіліктері мен жұмыс нәтижесіне қарай ұзартылуы, қысқартылуы немесе мерзімінен бұрын тоқтатылуы мүмкін
- Сезімталдығы жоғары жобаларға арналған әл-ауқат ресурстары мен нақты нұсқауларға қол жеткізу
- Адам деректеріне негізделген AI қызыл команда жұмысында тәжірибе жинау
- AI жүйелерін анағұрлым орнықты, қауіпсіз және сенімді етуге көмектесу
- Бәсекеге қабілетті сыйақы
- Жетекші AI зерттеушілерімен бірлесіп жұмыс істеу