FAR.AI
FAR.AI
FAR.AI je výzkumná a vzdělávací nezisková organizace, jejímž cílem je učinit pokročilou umělou inteligenci bezpečnou a prospěšnou pro všechny. Její tým zkoumá klíčové výzvy spojené s důvěryhodnou AI, včetně odolnosti, klamání, interpretovatelnosti a hodnocení nejpokročilejších systémů. Prostřednictvím technického výzkumu, školení, akcí, workshopů, poskytování grantů a programů, jako je FAR.Labs, FAR.AI podporuje výzkumníky a posiluje schopnost tohoto oboru vyvíjet bezpečnou AI v souladu s lidskými zájmy. Organizace také sdílí výsledky výzkumu, propojuje akademické a průmyslové lídry a spolupracuje s univerzitami a veřejnými institucemi v oblasti bezpečnosti AI a politiky.

Vedoucí inženýrství pro AI Red Team

Veďte inženýrskou funkci FAR.AI v rámci globálního programu red teamingu průlomových AI systémů. Budujte týmy, agentní nástroje a hodnoticí systémy, které posouvají bezpečnost AI.

Popis

  • Rozvíjet inženýrskou organizaci FAR.AI pro Red Team a její systémy, produkty, služby, hodnocení a agenty
  • Vytvářet agentní red-teamingové systémy, které systematicky zkoumají útočné plochy
  • Vyhledávat nově zveřejněné veřejné jailbreaky a automaticky je začleňovat do red-teamingových platforem
  • Zlepšovat metody simulace útočníků a hodnocení škodlivých výstupů
  • Vyvíjet databáze zranitelností, možnosti statistické analýzy a infrastrukturu pro reporting
  • Dodávat systémy pro vysoce významné red-teamingové projekty s předními AI společnostmi a vládami
  • Pomáhat vytvářet veřejné zprávy, benchmarky a žebříčky
  • Podílet se na red teamingu uzavřených i open-weight průlomových modelů
  • Vyvíjet agentní pracovní postupy zvyšující efektivitu Red Teamu
  • Vést, mentorovat a podporovat členy inženýrských a red-teamingových týmů
  • Plánovat práci ve sprintech a řídit inženýrskou realizaci
  • Nastavovat škálovatelné procesy pro rychle se měnící projekty
  • Navrhovat náborové procesy a nabírat inženýrské manažery i další členy týmu
  • Identifikovat inženýrská omezení a zavádět účinná nápravná opatření
  • Spolupracovat s technickým vedením na inženýrských systémech, metodách, hodnoceních a výzkumu
  • Podílet se na utváření technické a produktové strategie Red Teamu
  • Převádět technické koncepty a zjištění do praktického dopadu v reálném světě

Požadavky

  • Významné zkušenosti se softwarovým inženýrstvím, AI nebo počítačovým inženýrstvím, včetně oblastí, jako je kybernetická bezpečnost nebo MLOps
  • Prokazatelné zkušenosti s budováním, rozvojem a vedením technických týmů, včetně startupů od jejich vzniku a týmů manažerů
  • Praktické zkušenosti s kódovacími agenty, Pythonem, API LLM, lokálními frameworky LLM, hodnoticími frameworky, agenty LLM, cloudovou infrastrukturou a výpočetními clustery
  • Schopnost efektivně fungovat v rychle se měnícím prostředí
  • Jasný závazek podporovat poslání a dopad průlomových AI systémů
  • Silné komunikační schopnosti pro vysvětlování technických řešení technickému i netechnickému publiku
  • Vytrvalost při dosahování ambiciózních cílů
  • Zkušenosti s vytvářením nebo red teamingem průlomových LLM či agentních systémů jsou výhodou
  • Zkušenosti s vytvářením technických týmů a produktů v podnikatelském prostředí jsou výhodou
  • Schopnost odhalovat nenápadné zranitelnosti s vysokou závažností ve složitých systémech je výhodou
  • Zkušenosti s adversariálním strojovým učením nebo bezpečností jsou výhodou
  • Předchozí práce v AI laboratořích, bezpečnostních týmech nebo vládních bezpečnostních institucích je výhodou
  • Publikovaný výzkum nebo jiná práce v oblasti bezpečnosti, zabezpečení či robustnosti AI je výhodou
  • Ochota pracovat s určitou flexibilitou v časových pásmech
  • Dostupnost pro práci na plný úvazek v rozsahu 40 hodin týdně

Benefity

  • Náklady na pracovní cesty jsou hrazeny
  • Náklady na vybavení jsou hrazeny
  • V kanceláři v Berkeley jsou zajištěny obědy a večeře
  • Je k dispozici vízové sponzorství pro USA nebo Singapur
  • Placená zkušební práce

Související pracovní nabídky

Kreato Global | BPO and Language Solutions

Vzdálený tlumočník angličtiny a španělštiny (OPI/VRI)

Kreato Global | BPO and Language Solutions

Tlumočte na dálku mezi anglicky a španělsky mluvícími lidmi v oblasti zdravotnictví, financí, sociálních služeb a zákaznické podpory. Poskytujte jazykovou podporu společnosti Kreato Global napříč Latinskou Amerikou.

Otevřít
Taurus SA

IT technik a specialista zákaznické podpory

Taurus SA
51 – 200 Zaměstnanci
BankovnictvíFintechKrypto

Podpora firemních uživatelů Taurus a externích klientů v regulované fintechové společnosti zaměřené na digitální aktiva. Správa infrastruktury Azure, koncových zařízení, třídění požadavků a řešení problémů klientů.

Otevřít
RecruitGo

Vzdálený výkonný asistent pro komunikaci a marketing — Filipíny

RecruitGo
51 – 200 Zaměstnanci
LogistikaMarketingPoradenství

Administrativní podpora, práce s CRM, oslovování kontaktů a marketing pro RecruitGo, zaměstnavatele na záznam, který zajišťuje globálním klientům talenty z rozvíjejících se trhů. Každodenní administrativní podpora dvou klientů působících na britském trhu a příprava kreativních kampaní.

Otevřít
Salonkee

Obchodní zástupce pro salonní software — Göttingen

Salonkee
51 – 200 Zaměstnanci
KrásaSaaSTržiště

Rozvíjejte prodej salonního softwaru Salonkee v Göttingenu: oslovujte nové zákazníky, předvádějte produkt a veďte obchodní případy od začátku do konce. Budujte vztahy s majiteli salonů a provázejte je od prvního kontaktu až po uzavření obchodu.

Otevřít
Salonkee

Hybridní obchodní zástupce, Lindau

Salonkee
51 – 200 Zaměstnanci
KrásaSaaSTržiště

Rozvíjejte podnikání Salonkee v oblasti salonního softwaru v Lindau a Friedrichshafenu: oslovujte klienty, předvádějte produkt a provázejte prodej od prvního kontaktu až po uzavření. Budujte vztahy s místními majiteli salonů a dotahujte každou obchodní příležitost k uzavření obchodu.

Otevřít