LogoFresh Jobs Ahead
FAR.AI
FAR.AI
11 – 50 Anställda
Artificiell intelligensIdeell verksamhetUtbildning
FAR.AI är en forsknings- och utbildningsinriktad ideell organisation som arbetar för att göra avancerad artificiell intelligens säker och till nytta för alla. Teamet studerar centrala utmaningar inom tillförlitlig AI, bland annat robusthet, vilseledning, tolkbarhet och utvärdering av avancerade AI-system. Genom teknisk forskning, utbildning, evenemang, workshoppar, bidragsgivning och program som FAR.Labs stödjer FAR.AI forskare och stärker fältets kapacitet att utveckla säker och ändamålsenlig AI. Organisationen delar också forskningsresultat, samlar ledande företrädare från akademin och näringslivet samt samarbetar med universitet och offentliga myndigheter inom AI-säkerhet och AI-politik.
LinkedIn
Jobb på företaget

Teknisk chef för AI-red team

Led FAR.AI:s tekniska funktion för ett globalt red-teaming-program för frontier-AI. Bygg team, agentbaserade verktyg och utvärderingssystem som främjar AI-säkerhet och AI-skydd.

225 000 $ – 350 000 $ / år
DistansHeltidLeadObligatoriskt Språk: engelskaTeknikchef
CybersäkerhetMolnPython

Beskrivning

  • Skala upp FAR.AI:s tekniska red-team-organisation och dess system, produkter, tjänster, utvärderingar och agenter
  • Skapa agentbaserade red-teaming-system som systematiskt undersöker attackytor
  • Upptäcka nyligen offentliggjorda jailbreaks och automatiskt integrera dem i red-teaming-plattformar
  • Förbättra metoder för angriparsimulering och utvärdering av skadliga utdata
  • Utveckla sårbarhetsdatabaser, funktioner för statistisk analys och rapporteringsinfrastruktur
  • Leverera system för red-teaming-uppdrag med höga insatser åt företag och myndigheter som arbetar med frontier-AI
  • Bidra till att ta fram offentliga rapporter, benchmarktester och topplistor
  • Delta i red-teaming av både slutna och öppna frontier-modeller
  • Utveckla agentbaserade arbetsflöden som ökar red-teamets effektivitet
  • Leda, handleda och stödja medarbetare inom teknik och red-teaming
  • Planera sprintarbete och styra teknisk leverans
  • Etablera skalbara processer för uppdrag i snabb förändring
  • Utforma rekryteringsprocesser och rekrytera tekniska chefer och andra teammedlemmar
  • Identifiera tekniska begränsningar och införa effektiva åtgärder
  • Samarbeta med teknisk ledning kring tekniska system, metoder, utvärderingar och forskning
  • Bidra till att forma red-teamets tekniska strategi och produktstrategi
  • Omsätta tekniska koncept och resultat till praktisk påverkan i verkligheten

Krav

  • Omfattande erfarenhet av mjukvaruutveckling, AI eller datateknik, inklusive områden som cybersäkerhet eller MLOps
  • Dokumenterad erfarenhet av att bygga, utveckla och leda tekniska team, inklusive startup-team från grunden och team av chefer
  • Praktisk erfarenhet av kodagenter, Python, LLM-API:er, lokala LLM-ramverk, utvärderingsramverk, LLM-agenter, molninfrastruktur och beräkningskluster
  • Förmåga att prestera effektivt i snabbt föränderliga miljöer
  • Ett starkt engagemang för att främja uppdraget och påverkan från frontier-AI-system
  • God kommunikationsförmåga för att förklara tekniska lösningar för både tekniska och icke-tekniska målgrupper
  • Uthållighet i genomförandet av ambitiösa mål
  • Erfarenhet av att bygga eller genomföra red-teaming av frontier-LLM:er eller agentbaserade system är meriterande
  • Erfarenhet av att skapa tekniska team och produkter i entreprenöriella miljöer är meriterande
  • Förmåga att upptäcka subtila sårbarheter med allvarliga konsekvenser i komplexa system är meriterande
  • Bakgrund inom adversariellt maskininlärande eller säkerhet är meriterande
  • Tidigare arbete med AI-laboratorier, säkerhetsteam eller statliga säkerhetsinstitut är meriterande
  • Publicerad forskning eller annat arbete inom AI-säkerhet, cybersäkerhet eller robusthet är meriterande
  • Villighet att arbeta med viss flexibilitet kring tidszoner
  • Möjlighet att arbeta heltid, 40 timmar per vecka

Förmåner

  • Kostnader för arbetsrelaterade resor täcks
  • Kostnader för utrustning täcks
  • Lunch och middag tillhandahålls på FAR.AI:s kontor i Berkeley
  • Visumsponsring är tillgänglig för USA eller Singapore
  • Betalt arbetsprov

Relaterade jobb

Venture Media

Distansbaserad B2B-säljare inom försörjningskedjor och logistik

Venture Media
11 – 50 Anställda
E-handelKonsultverksamhetMarknadsföring
CAKanada
60 000 $ / år
DistansHeltidJuniorMellannivåIngen examen krävsObligatoriskt Språk: engelskaLeveranskedja

Vinn kanadensiska företagskunder för Chit Chats frakttjänster och vägled potentiella kunder från första kontakt och behovsanalys till offerter och kvalificering. Samordna överlämningar till kundteam och hjälp företag att skicka varor inom Kanada och internationellt.

Öppna
Walmart

Principal Software Engineer, moln och distribuerade system

Walmart
B2CDetaljhandelE-handel
USUSACAKalifornien
143 000 $ – 286 000 $ / år
På platsHeltidLeadObligatoriskt Språk: engelskaFullstackingenjörMjukvaruingenjör
AirflowAndroidBigQueryDistribuerade systemElasticsearchiOSJavaJavaScriptKafkaKotlinKubernetesMolnNode.jsPostgresReactSparkSpringSpring BootSQLSwiftTypeScript

Led Walmart:s molnbaserade, AI-stödda mGPS/Compass-plattform och forma distribuerade tjänster och inomhusnavigering. Förbättra butiksdriften med robust arkitektur och tekniskt ledarskap.

Öppna
Marigold

Senior mjukvaruutvecklare, distans i Australien

Marigold
1 001 – 5 000 Anställda
Sponsor för visum för kvalificerade arbetstagareB2BMarknadsföringSaaS
AUAustralienDistansHeltidSeniorObligatoriskt Språk: engelskaFullstackingenjörMjukvaruingenjör
AWSDockerEC2ElasticsearchJavaKafkaKubernetesMikrotjänsterMolnNoSQLSQLTerraform

Bygg och modernisera Marigolds infrastruktur för meddelanden, molntjänster och marknadsföringsteknik. Arbeta med Java, Kafka, AWS, DevOps och AI-stött utvecklingsarbete.

Öppna