LogoFresh Jobs Ahead
FAR.AI
FAR.AI
11 – 50 Medewerkers
Kunstmatige intelligentieNon-profitOnderwijs
FAR.AI is een non-profitorganisatie voor onderzoek en onderwijs die zich inzet om geavanceerde kunstmatige intelligentie voor iedereen veilig en nuttig te maken. Het team onderzoekt belangrijke uitdagingen op het gebied van betrouwbare AI, waaronder robuustheid, misleiding, interpreteerbaarheid en de evaluatie van geavanceerde systemen. Via technisch onderzoek, trainingen, evenementen, workshops, subsidieverstrekking en programma’s zoals FAR.Labs ondersteunt FAR.AI onderzoekers en versterkt het de capaciteit van het vakgebied om veilige en goed afgestemde AI te ontwikkelen. De organisatie deelt ook onderzoeksresultaten, brengt academische en industriële leiders samen en werkt met universiteiten en overheidsinstanties aan AI-veiligheid en beleid.
LinkedIn
Vacatures bij het bedrijf

Hoofd Engineering, AI Red Team

Geef leiding aan de engineeringfunctie van FAR.AI voor een wereldwijd frontier-AI-red-teamprogramma. Bouw teams, agentische tooling en evaluatiesystemen die AI-veiligheid en -beveiliging bevorderen.

$ 225.000 – $ 350.000 / jaar
Op afstandVoltijdLeadVereiste Taal: EngelsEngineeringmanager
CloudCyberbeveiligingPython

Beschrijving

  • Schaal de Red Team-engineeringorganisatie van FAR.AI en haar systemen, producten, diensten, evaluaties en agents op
  • Creëer agentische red-teamsystemen die aanvalsoppervlakken systematisch onderzoeken
  • Ontdek nieuw openbaar gemaakte jailbreaks en verwerk ze automatisch in red-teamplatforms
  • Verbeter methoden voor aanvallersimulatie en de evaluatie van schadelijke output
  • Ontwikkel databases met kwetsbaarheden, mogelijkheden voor statistische analyse en rapportage-infrastructuur
  • Lever systemen voor red-teamopdrachten met hoge inzet bij toonaangevende AI-bedrijven en overheden
  • Help openbare rapporten, benchmarks en ranglijsten te produceren
  • Neem deel aan red-teaming van zowel gesloten als open-weights frontiermodellen
  • Ontwikkel agentische workflows die de efficiëntie van het red team verhogen
  • Geef leiding aan engineering- en red-teammedewerkers, begeleid hen en bied ondersteuning
  • Plan sprintwerk en stuur de engineeringoplevering aan
  • Zet schaalbare processen op voor snel veranderende opdrachten
  • Ontwerp wervingsprocessen en werf engineeringmanagers en andere teamleden aan
  • Breng engineeringbeperkingen in kaart en implementeer effectieve oplossingen
  • Werk samen met de technische leiding aan engineeringsystemen, methoden, evaluaties en onderzoek
  • Help de technische en productstrategie van het red team vorm te geven
  • Vertaal technische concepten en bevindingen naar praktische impact in de echte wereld

Vereisten

  • Aanzienlijke ervaring in software-engineering, AI of computerengineering, waaronder gebieden zoals cybersecurity of MLOps
  • Een sterk trackrecord in het opbouwen, ontwikkelen en leiden van technische teams, waaronder startups vanaf de oprichting en teams van managers
  • Hands-onervaring met coding agents, Python, LLM-API's, lokale LLM-frameworks, evaluatieframeworks, LLM-agents, cloudinfrastructuur en rekenclusters
  • Vermogen om effectief te presteren in snel veranderende omgevingen
  • Sterke betrokkenheid bij het bevorderen van de missie en impact van frontier-AI-systemen
  • Sterke communicatieve vaardigheden om technische oplossingen uit te leggen aan zowel technische als niet-technische doelgroepen
  • Vastberaden uitvoering gericht op ambitieuze doelstellingen
  • Ervaring met het bouwen van of red-teamen van frontier-LLM's of agentische systemen strekt tot aanbeveling
  • Ervaring met het opzetten van technische teams en producten in ondernemende omgevingen strekt tot aanbeveling
  • Vermogen om subtiele kwetsbaarheden met een hoge ernst in complexe systemen bloot te leggen strekt tot aanbeveling
  • Achtergrond in adversarial machine learning of security strekt tot aanbeveling
  • Eerdere ervaring bij AI-labs, securityteams of overheidsinstituten voor AI-veiligheid strekt tot aanbeveling
  • Gepubliceerd onderzoek of ander werk op het gebied van AI-veiligheid, security of robuustheid strekt tot aanbeveling
  • Bereidheid om met enige flexibiliteit in tijdzones te werken
  • Beschikbaarheid voor fulltime werk van 40 uur per week

Voordelen

  • Werkgerelateerde reiskosten worden vergoed
  • Kosten voor apparatuur worden vergoed
  • Op het kantoor in Berkeley worden lunch en diner verzorgd
  • Visumsponsoring voor de VS of Singapore is beschikbaar
  • Betaalde werkproef

Gerelateerde vacatures

Kreato Global | BPO and Language Solutions

Tolken Engels-Spaans op afstand (OPI/VRI)

Kreato Global | BPO and Language Solutions
201 – 500 Medewerkers
GastvrijheidssectorGezondheidszorgLogistiek
ARArgentiniëBOBoliviaBRBraziliëCLChiliCOColombiaCRCosta RicaCUCubaDODominicaanse RepubliekECEcuadorGTGuatemalaHNHondurasHTHaïtiMXMexicoNINicaraguaPAPanamaPEPeruPRPuerto RicoPYParaguaySVEl SalvadorUYUruguayVEVenezuelaOp afstandVoltijdJuniorGeen diploma vereistVereiste Taal: EngelsVereiste Taal: SpaansVertaler

Tolkt op afstand tussen Engelstalige en Spaanstalige mensen in de medische sector, financiële dienstverlening, sociale dienstverlening en klantenservice. Biedt taalkundige ondersteuning voor Kreato Global in heel Latijns-Amerika.

Openen