51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť umelej inteligencie na diaľku – angličtina a ásamčina (zmluva)
Mercor hľadá odborníka na bezpečnosť umelej inteligencie na diaľku na zmluvnú spoluprácu, ktorý plynule ovláda angličtinu a ásamčinu na testovanie najmodernejších modelov, hodnotenie zraniteľností a tvorbu kvalitných údajov pre projekty bezpečnosti umelej inteligencie.
Popis
- Testovať konverzačné modely a agentov umelej inteligencie pomocou jailbreakov, injekcií promptov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Vytvárať ľuďmi označené údaje anotovaním zlyhaní, kategorizáciou zraniteľností a identifikáciou systémových rizík
- Používať taxonómie, benchmarky a príručky na zabezpečenie konzistentného hodnotenia
- Vytvárať reprodukovateľné správy, súbory údajov a testovacie prípady útokov pre zákazníkov
- Hodnotiť výstupy umelej inteligencie týkajúce sa citlivých tém vrátane zaujatosti, dezinformácií a škodlivého správania
- Identifikovať zraniteľnosti, ktoré automatizované testovanie nedokáže odhaliť
- Rozširovať pokrytie hodnotenia s cieľom minimalizovať neočakávané problémy v produkcii
- Prispievať k projektom, ktoré trénujú a zlepšujú najmodernejšie systémy umelej inteligencie
Požiadavky
- Plynulá znalosť angličtiny a ásamčiny na úrovni rodeného hovoriaceho
- Dobrý úsudok pri hodnotení kvality jazyka a obsahu
- Schopnosť určiť, či sú odpovede umelej inteligencie presné, úplné a vhodné
- Schopnosť jasne vysvetliť uvažovanie technickému aj netechnickému publiku
- Mimoriadna pozornosť venovaná jemným chybám, nezrovnalostiam a opomenutiam
- Schopnosť konzistentne uplatňovať usmernenia, taxonómie, benchmarky, príručky a normy kvality
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a podľa potrieb zákazníkov
- Je potrebné pracovať ako nezávislý dodávateľ
- Uchádzačom s vízami H-1B a STEM OPT v súčasnosti nie je možné poskytnúť podporu
- Uprednostňované oblasti odbornosti zahŕňajú kontradiktórne strojové učenie, kybernetickú bezpečnosť, sociotechnické riziko, hodnotenie konverzačnej umelej inteligencie, psychológiu, herectvo a písanie
Benefity
- Práca úplne na diaľku
- Nastavenie pracovného času podľa vlastných potrieb
- Týždenné platby prostredníctvom Stripe alebo Wise
- Získanie praktických skúseností s red teamingom umelej inteligencie založeným na údajoch vytvorených ľuďmi
- Pomoc pri zvyšovaní odolnosti, bezpečnosti a dôveryhodnosti systémov umelej inteligencie
- Spolupráca s poprednými výskumníkmi v oblasti umelej inteligencie
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok
- Možnosť získať odmeny za odporúčania až do výšky 90 USD za každé úspešné odporúčanie, s výhradou príslušných limitov