FAR.AI
FAR.AI
FAR.AI er en ideell organisasjon innen forskning og utdanning som arbeider for å gjøre avansert kunstig intelligens trygg og nyttig for alle. Teamet undersøker sentrale utfordringer innen pålitelig KI, blant annet robusthet, bedrag, fortolkningsmuligheter og evaluering av avanserte KI-systemer. Gjennom teknisk forskning, opplæring, arrangementer, workshopper, tildeling av støtte og programmer som FAR.Labs støtter FAR.AI forskere og styrker fagfeltets kapasitet til å utvikle trygg og målrettet KI. Organisasjonen deler også forskningsresultater, samler ledende aktører fra akademia og næringslivet og samarbeider med universiteter og offentlige etater om KI-sikkerhet og -politikk.

Teknisk leder for AI-red team

Led FAR.AI sin tekniske funksjon for et globalt red-teaming-program innen frontier-AI. Bygg team, agentbaserte verktøy og evalueringssystemer som fremmer AI-sikkerhet og -beskyttelse.

Beskrivelse

  • Skaler FAR.AI sin tekniske red-team-organisasjon og dens systemer, produkter, tjenester, evalueringer og agenter
  • Skap agentbaserte red-teaming-systemer som systematisk undersøker angrepsflater
  • Oppdag nylig offentliggjorte jailbreaks og integrer dem automatisk i red-teaming-plattformer
  • Forbedre metoder for angripersimulering og evaluering av skadelige utdata
  • Utvikle sårbarhetsdatabaser, funksjoner for statistisk analyse og rapporteringsinfrastruktur
  • Lever systemer for red-teaming-oppdrag med høy innsats for frontier-AI-selskaper og myndigheter
  • Bidra til offentlige rapporter, referansetester og ledertavler
  • Delta i red-teaming av både lukkede og åpne frontier-modeller
  • Utvikle agentbaserte arbeidsflyter som øker red-teamets effektivitet
  • Lede, veilede og støtte bidragsytere innen engineering og red-teaming
  • Planlegge sprintarbeid og styre teknisk levering
  • Etablere skalerbare prosesser for oppdrag i rask utvikling
  • Utforme rekrutteringsprosesser og rekruttere tekniske ledere og andre teammedlemmer
  • Identifisere tekniske begrensninger og iverksette effektive tiltak
  • Samarbeide med teknisk ledelse om tekniske systemer, metoder, evalueringer og forskning
  • Bidra til å forme red-teamets tekniske strategi og produktstrategi
  • Omsette tekniske konsepter og funn til praktisk virkning i den virkelige verden

Krav

  • Omfattende erfaring med programvareutvikling, AI eller datateknikk, inkludert områder som cybersikkerhet eller MLOps
  • Dokumenterte resultater med å bygge, utvikle og lede tekniske team, inkludert oppstartsbedrifter fra starten og team av ledere
  • Praktisk erfaring med kodeagenter, Python, LLM-API-er, lokale LLM-rammeverk, evalueringsrammeverk, LLM-agenter, skyinfrastruktur og dataklynger
  • Evne til å prestere effektivt i miljøer i rask endring
  • Et sterkt engasjement for å fremme oppdraget og virkningen av frontier-AI-systemer
  • Gode kommunikasjonsevner for å forklare tekniske løsninger til både tekniske og ikke-tekniske målgrupper
  • Utholdende gjennomføring av ambisiøse mål
  • Erfaring med å bygge eller gjennomføre red-teaming av frontier-LLM-er eller agentbaserte systemer er en fordel
  • Erfaring med å skape tekniske team og produkter i gründerpregede miljøer er en fordel
  • Evne til å avdekke subtile sårbarheter med høy alvorlighetsgrad i komplekse systemer er en fordel
  • Bakgrunn innen adversarial maskinlæring eller sikkerhet er en fordel
  • Tidligere arbeid med AI-laboratorier, sikkerhetsteam eller statlige sikkerhetsinstitutter er en fordel
  • Publisert forskning eller annet arbeid innen AI-sikkerhet, sikkerhet eller robusthet er en fordel
  • Villighet til å arbeide med noe fleksibilitet på tvers av tidssoner
  • Mulighet for heltidsarbeid på 40 timer per uke

Fordeler

  • Arbeidsrelaterte reisekostnader dekkes
  • Utstyrskostnader dekkes
  • Lunsj og middag tilbys på FAR.AI-kontoret i Berkeley
  • Visumsponsing er tilgjengelig for USA eller Singapore
  • Betalt arbeidsprøve

Relaterte jobber

RecruitGo

Fjernbasert lederassistent innen outreach og markedsføring – Filippinene

RecruitGo

Håndtere administrativ støtte, CRM, outreach og markedsføring for RecruitGo, en Employer of Record-leverandør som kobler globale kunder med talenter fra fremvoksende markeder. Støtte to kunder med fokus på Storbritannia med daglig administrasjon og kreative kampanjer.

Åpne
SPERTON - Where Great People Meet

Selger av heiser og parkeringssystemer

SPERTON - Where Great People Meet
51 – 200 Ansatte

Driv salget av heiser og parkeringssystemer i den vestlige regionen av Mumbai. Bygg relasjoner med kunder og forhandlere, og håndter avtaler fra første forespørsel til prosjektgjennomføring.

Åpne