ActiveFence
ActiveFence
ActiveFence is een cybersecurity- en kunstmatige-intelligentiebedrijf dat zich richt op vertrouwen en veiligheid voor onlineplatforms. Het geïntegreerde aanbod combineert inlichtingenonderzoek, AI-gestuurde detectie van schadelijke content en tools voor contentmoderatie om platforms te helpen risico's aan te pakken, zoals seksuele uitbuiting van kinderen, desinformatie, haatzaaiende uitlatingen, terrorisme, naaktheid, fraude en andere vormen van online schade. ActiveFence ondersteunt trust-and-safetyteams van verschillende omvang en helpt wereldwijd meer dan drie miljard gebruikers te beschermen in meer dan 100 talen.

Senior AI-onderzoeker – Hybride in Israël

Leid evaluaties van reinforcement learning, red-teaming en beveiligingsaudits voor open-weight AI-modellen. Bouw benchmarking- en post-trainingpipelines voor ActiveFences werk op het gebied van vertrouwen, veiligheid en beveiliging van AI.

Beschrijving

  • Leid post-trainingevaluaties, red-team-oefeningen en audits van reinforcement-learningomgevingen voor open-weightmodellen
  • Ontwerp rigoureuze benchmarkingmethoden
  • Beoordeel grote taalmodellen aan de hand van geavanceerde bedreigingen, waaronder aanvallen met indirecte promptinjectie
  • Bouw post-trainingevaluatiepipelines die realistische beveiligingsmogelijkheden op frontierniveau meten
  • Voer post-trainingexperimenten uit, zoals GRPO met open-weight generalistische modellen in beveiligingsgerichte reinforcement-learningomgevingen
  • Onderzoek live loss-curves en rollout-traces om reward hacking, trage policyconvergentie en slecht gespecificeerde verifiers te detecteren
  • Beoordeel taken en omgevingen met meerdere turns en toolgebruik, webnavigatie en computergebruik op realisme, nauwkeurigheid van het dreigingsmodel, gegevensdistributie en datasetbalans
  • Maak evaluatiekaarten met checkpoint-prestatieverbeteringen, faalmodi, rollout-tokens en -turns en succespercentages op taakniveau
  • Integreer gedockeriseerde omgevingen, waaronder omgevingen in Harbor-formaat, in interne trainingsframeworks
  • Verbeter de semantiek van resets en statefulness, evenals concurrency en doorvoerlimieten

Vereisten

  • Masterdiploma of PhD in data science, machine learning, computerwetenschappen of gelijkwaardige praktische ervaring met deep learning
  • Praktische ervaring met het trainen van grootschalige modellen met reinforcement-learningalgoritmen zoals GRPO of PPO op open-weightarchitecturen
  • Uitgebreide kennis van kwetsbaarheden in LLM's, red-teamingpraktijken en defensieve alignment tegen aanvallen met indirecte promptinjectie
  • Goede beheersing van PyTorch, Docker-containerisatie en architecturen voor gedistribueerde training
  • Vermogen om agent-rollout-traces te interpreteren, deterministische rubrics en verifiers te maken en complexe problemen met reward shaping op te lossen
  • Ervaring met standaardformaten voor reinforcement-learningomgevingen zoals Harbor is een pré
  • Ervaring met het beoordelen van complexe agentische workflows in omgevingen met toolgebruik of webbrowsers is een pré
  • Bekendheid met het evalueren van open-weightmodellen zoals Llama of Mistral aan de hand van adversarial workloads is een pré

Gerelateerde vacatures

Advocate Aurora Health

Stage op afstand in finance, accounting en de revenuecyclus

Advocate Aurora Health

Ondersteun budgettering, accounting, financiële analyses en revenuecyclusprocessen bij Advocate Aurora Health. Help Excel-processen automatiseren en controleer financiële gegevens en gegevens over patiëntentarieven.

Openen
Empower AI

Senior VoIP-engineer – Quantico, Virginia

Empower AI
501 – 1.000 Medewerkers
DefensieGezondheidszorgLogistiek

Leid veilige Cisco-communicatieoplossingen binnen DoD-netwerksegmenten voor de transformatie van de overheid door Empower AI en het DCSA-contract. Seniorfunctie in engineering op locatie, ter ondersteuning van bedrijfskritische spraak- en samenwerkingsdiensten.

Openen
Empower AI

Shiftleider servicedesk (op locatie, Virginia)

Empower AI
501 – 1.000 Medewerkers
DefensieGezondheidszorgLogistiek

Leid de Tier 0- en Tier I-IT-support voor overheidsklanten van Empower AI en stuur servicedeskmedewerkers aan in meerdere shifts. Houd toezicht op serviceniveaus, kritieke incidenten, kwaliteit en voortdurende verbetering.

Openen
Ausloans Finance Group

Remote assetfinancieringsmakelaar – Australië

Ausloans Finance Group
51 – 200 Medewerkers
FinanciënFintechMarktplaats

Bouw als assetfinancieringsmakelaar bij Ausloans Finance Group, een technologiegedreven platform voor autofinanciering, een klantenbestand op en bied financieringsoplossingen. Werk zelfstandig met ondersteuning van het platform en flexibele mogelijkheden om op afstand te werken.

Openen