Faculty vyvíja špičkové riešenia v oblasti umelej inteligencie a strojového učenia, ktoré sú určené na riešenie komplexných prevádzkových výziev v obrane, zdravotníctve, finančných službách, verejných službách a maloobchode. Spoločnosť spolupracuje s organizáciami na využití pokročilej umelej inteligencie v oblastiach, ako sú národná bezpečnosť, predikcia výsledkov a zlepšovanie procesov, pričom kladie dôraz na praktický prínos, zodpovedné nasadenie a udržateľnosť.
Výskumný vedec pre bezpečnosť AI – hybridná práca v Londýne
Pozícia výskumného vedca zameraná na pochopenie a usmerňovanie správania veľkých jazykových modelov založených na transformeroch vo Faculty. Práca spája dôsledný výskum bezpečnosti AI, reprodukovateľné nástroje a praktické aplikácie.
Popis
- Skúmať otázky bezpečnosti AI, ktoré podporujú zodpovedné nasadenie dôveryhodnej AI
- Plánovať a realizovať experimenty na pochopenie a ovplyvňovanie správania modelov
- Používať white-boxové a black-boxové prístupy na analýzu veľkých jazykových modelov založených na transformeroch
- Písať modulárny a reprodukovateľný výskumný softvér v jazyku Python s nástrojmi, ako je PyTorch
- Vytvárať a podporovať infraštruktúru a technické nástroje potrebné na výskum
- Zdieľať výsledky prostredníctvom akademických publikácií, technických správ a prezentácií
- Spolupracovať so skúsenými vedcami na identifikácii medzier v literatúre, testovaní hypotéz a vymedzovaní výskumných programov
- Vysvetľovať technické zistenia špičkovým laboratóriám, vládnym organizáciám, externým partnerom a inštitútom pre bezpečnosť AI
Požiadavky
- Silné základy strojového učenia a architektúr transformera, najmä veľkých jazykových modelov
- Praktické znalosti white-boxových a black-boxových metód interpretovateľnosti vrátane riadiacich vektorov a mechanistickej interpretovateľnosti
- Schopnosť odvodiť dobre formulované hypotézy zo štruktúrovaných technických problémov
- Pokročilé programátorské zručnosti v jazyku Python a skúsenosti s frameworkmi hlbokého učenia, ako je PyTorch
- Preukázateľná schopnosť vytvárať čistý a modulárny výskumný softvér
- Skúsenosti so správou kódu pomocou Git
- Jasné komunikačné schopnosti potrebné na prezentovanie komplexných technických myšlienok a experimentálnych zistení v správach a prezentáciách
- Zvedavý, dôsledný a analytický prístup k výskumu
- Znalosť tém bezpečnosti AI, ako sú robustnosť, evaluácia alebo kalibrácia neistoty
- Schopnosť uviesť, či je potrebné sponzorstvo pracovného víza v Spojenom kráľovstve
Benefity
- Možnosť dohodnúť sa na práci na čiastočný úväzok
- Každú žiadosť posudzuje človek, nie AI
- Nástroje AI možno používať na výskum a prípravu na pohovor
- Možno odmietnuť používanie AI na zapisovanie poznámok počas pohovoru