Johnson & Johnson je globální zdravotnická společnost působící v oblasti inovativních léčiv a zdravotnických technologií. Její týmy vyvíjejí řešení v onkologii, imunologii, neurologii, specializované oftalmologii, intervenční péči a ortopedii a propojují vědu s technologiemi při řešení komplexních zdravotních potřeb. Společnost zároveň klade důraz na rovnost ve zdraví, environmentální udržitelnost, rozmanitost a inkluzi a slouží poskytovatelům zdravotní péče, pacientům i komunitám po celém světě.
Seniorní vědecký pracovník pro bezpečnost AI — Johnson & Johnson, hybridní režim, Madrid
Veďte výzkum bezpečnosti AI pro farmaceutickou platformu výzkumu a vývoje společnosti Johnson & Johnson se zaměřením na prokazatelné kontroly, odolnost vůči útokům a bezpečnostně orientované architektury. Hybridní pozice v Madridu nebo Barceloně.
Popis
- Vytvářet deterministické a vysvětlitelné kontrolní mechanismy napříč agentními pracovními postupy.
- Vytvářet strojově čitelné zásady pro chování agentů, používání nástrojů, přístup k datům a tok informací.
- Nasazovat auditovatelné vynucování akcí agentů s významným dopadem včetně cest vyžadujících schválení člověkem.
- Poskytovat přístupná rozhraní zásad, která vlastníkům umožní vytvářet, testovat a udržovat kontrolní mechanismy.
- Vyvíjet průběžné přístupy k red-team testování kombinující modely hrozeb AI se scénáři selhání farmaceutického výzkumu a vývoje.
- Integrovat adversariální testování do GenAI Platform napříč modely, agenty, nástroji a kompletními pracovními postupy.
- Stanovovat metody hodnocení, pravidla rozhodování a prahové hodnoty důkazů pro bezpečnostní vlastnosti.
- Zkoumat a prototypovat bezpečnostně orientované architektury založené na vrstvených technických kontrolách.
- Posuzovat zásahy do dat před trénováním a techniky po trénování, jako je učení s učitelem, optimalizace preferencí a bezpečnostní ladění.
- Převádět vědecké, kvalitativní, soukromí chránící a regulační povinnosti do testovatelných specifikací systému.
- Stanovovat opatření odpovědnosti a požadavky na důkazy pro tvrzení o bezpečnosti AI.
- Udržovat dohledatelná a rekonstruovatelná rozhodnutí o kontrolních mechanismech pro auditní důkazy.
- Spolupracovat s vědci z R&D, týmy platformního inženýrství, bezpečnosti, ochrany soukromí, právního oddělení a kvality.
- Vést vědeckou práci malého mezifunkčního týmu a zastupovat jej prostřednictvím publikací a příspěvků ke standardům.
- Vyvíjet prototypy, určovat technický směr a převádět výsledky do platformy ve spolupráci s inženýrskými partnery.
Požadavky
- Požaduje se PhD v oboru informatiky, AI/ML, aplikované matematiky nebo blízce příbuzné technické disciplíny.
- Nejméně jeden rok postdoktorských nebo průmyslových zkušeností s vývojem a nasazováním AI/ML, autonomních agentů nebo bezpečnostně kritických systémů.
- Pokročilá praktická znalost agentní AI včetně základových modelů, generování s podporou vyhledávání, orchestrací nástrojů, paměti, plánování, víceagentních frameworků a souvisejících režimů selhání.
- Výzkumné nebo aplikační zkušenosti s bezpečností a zarovnáním AI včetně učení s učitelem, optimalizace preferencí, bezpečnostního ladění, adversariálního hodnocení, interpretovatelnosti nebo škálovatelného dohledu.
- Odbornost alespoň v jedné oblasti: policy-as-code a autorizace; adversariální strojové učení a red teaming AI; řízení toku informací nebo přístupu k datům; původ a sledování dat; nebo formální specifikace a verifikace.
- Silné inženýrské schopnosti v oblasti AI včetně prototypování hodnoticích a kontrolních technik, provádění reprodukovatelných experimentů a tvorby kódu připraveného pro produkci.
- Vynikající písemné a ústní komunikační dovednosti.
- Vědecká rigoróznost při popisu chování modelů a agentů, nejistoty, omezení, podmínek selhání a podpůrných důkazů.
- Publikované nebo jinak uznávané práce v relevantních předních časopisech či na konferencích jsou výhodou.
- Zkušenosti s adaptací základových modelů pro vědecké obory a hodnocením jejich bezpečnostních vlastností jsou výhodou.
- Praktické zkušenosti s policy enginy, autorizačními jazyky nebo formálními specifikacemi zásad jsou výhodou.
- Znalost MITRE ATLAS, doporučení OWASP pro LLM, NIST AI RMF, ISO/IEC 42001 nebo evropského aktu o AI je výhodou.
- Zkušenosti s klasifikací dat, deanonymizací a strojovým učením chránícím soukromí jsou výhodou.
- Zkušenosti s nasazováním AI v biologických vědách nebo jiném regulovaném prostředí s vysokými nároky jsou výhodou.
- Znalost GxP, integrity dat a validace počítačových systémů s podporou AI je výhodou.
- Zkušenosti s hodnocením bezpečnosti, evaluace nebo kontrolních technologií AI třetích stran jsou výhodou.
- Zkušenosti s vytvářením opakovaně použitelných bezpečnostních funkcí AI, které přijalo více týmů, jsou výhodou.
Benefity
- Roční bonus s cílovou výší určenou platovou třídou a lokalitou na základě individuálních výsledků a výsledků společnosti.
- Placená dovolená.
- Nejméně 12 týdnů rodičovské dovolené.
- Volno při úmrtí blízké osoby.
- Volno pro pečující osoby.
- Volno na dobrovolnickou činnost.
- Příspěvek na well-being.
- Programy finančního, fyzického a duševního zdraví.
- Odměny za pracovní výročí a ocenění.
- Pojištění pro zaměstnance a v některých lokalitách také pro oprávněné vyživované osoby.