51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnost umetne inteligence (angleščina in teluščina) – delo na daljavo po pogodbi
Za podjetje Mercor izvajajte red-team ocenjevanja pogovornih modelov in agentov umetne inteligence s poudarkom na varnosti v angleščini in teluščini. Ustvarjajte podatke o ranljivostih, napadalne primere in ponovljive poročila za podporo varnejšemu razvoju umetne inteligence.
Opis
- Preizkušajte pogovorne modele in agente umetne inteligence z jailbreaki, vbrizgavanjem pozivov, scenariji zlorabe, izkoriščanjem pristranskosti in večkoračno manipulacijo
- Označujte napake, kategorizirajte ranljivosti in prepoznavajte sistemska tveganja
- Uporabljajte taksonomije, primerjalne teste in priročnike za dosledno izvajanje ocen
- Ustvarjajte ponovljiva poročila, nabore podatkov in napadalne primere za stranke
- Ocenjujte izhode umetne inteligence, povezane s pristranskostjo, dezinformacijami, škodljivim vedenjem in drugimi občutljivimi temami
- Sodelujte pri projektih za usposabljanje in izboljševanje sistemov umetne inteligence
- Prepoznavajte ranljivosti, ki jih avtomatizirano testiranje ne zazna
- Razširjajte obseg ocenjevanja, da bi pomagali zmanjšati nepričakovane težave v produkciji
Zahteve
- Materno ali tekoče znanje angleščine in teluščine
- Dobra presoja pri ocenjevanju, ali so odgovori umetne inteligence točni, popolni in primerni
- Sposobnost jasnega sporočanja razmišljanja tehničnemu in netehničnemu občinstvu
- Natančna pozornost do subtilnih napak, nedoslednosti in izpustov
- Dosledno upoštevanje smernic in standardov kakovosti
- Prilagodljivost pri različnih projektih, oblikah nalog in strankah
- Pripravljenost na delo kot neodvisni pogodbeni izvajalec
- Ne smete biti kandidat za H-1B ali STEM OPT; relevantne specializacije lahko vključujejo adversarno strojno učenje, nabore podatkov za jailbreak, vbrizgavanje pozivov, napade RLHF/DPO, ekstrakcijo modelov, penetracijsko testiranje, razvoj izkoriščanj, obratno inženirstvo, preverjanje nadlegovanja ali dezinformacij, analizo zlorab, testiranje pogovorne umetne inteligence, psihologijo, igranje ali pisanje.
- ugodnosti
Ugodnosti
- Delajte popolnoma na daljavo po urniku, ki ga določite sami
- Za opravljene storitve prejemajte tedenska plačila prek Stripe ali Wise
- Pridobite izkušnje z red-teamingom umetne inteligence, ki temelji na človeških podatkih in je osredotočen na varnost najsodobnejših sistemov
- Pomagajte, da bodo sistemi umetne inteligence odpornejši, varnejši in vredni zaupanja
- Izberite, ali želite sodelovati pri projektih z večjo občutljivostjo
- Pri projektih z večjo občutljivostjo dostopajte do jasnih navodil in virov za dobro počutje
- Zahtevajte razumne prilagoditve
- Zaslužite do 90 USD za vsako uspešno priporočilo, brez navedenega omejitvenega števila priporočil