FAR.AI ir pētniecības un izglītības bezpeļņas organizācija, kas strādā, lai padarītu progresīvu mākslīgo intelektu drošu un lietderīgu ikvienam. Tās komanda pēta uzticama mākslīgā intelekta galvenās problēmas, tostarp robustumu, maldinošu rīcību, interpretējamību un progresīvu sistēmu novērtēšanu. Veicot tehniskos pētījumus, rīkojot apmācības, pasākumus un darbnīcas, piešķirot grantus un īstenojot tādas programmas kā FAR.Labs, FAR.AI atbalsta pētniekus un stiprina nozares spēju izstrādāt drošu un mērķiem atbilstošu mākslīgo intelektu. Organizācija arī dalās ar pētījumu rezultātiem, pulcē akadēmiskās vides un industrijas līderus, kā arī sadarbojas ar universitātēm un valsts iestādēm mākslīgā intelekta drošības un politikas jomā.
Inženierijas vadītājs, mākslīgā intelekta red team
Vadi FAR.AI inženierijas funkciju globālā progresīvā mākslīgā intelekta red team programmā. Veido komandas, aģentiskus rīkus un novērtēšanas sistēmas, kas veicina mākslīgā intelekta drošumu un drošību.
225 000 $ – 350 000 $ / gads
AttālinātiPilna slodzeVadošais speciālistsNepieciešamā Valoda: angļuInženierijas vadītājsApraksts
- Attīsti FAR.AI Red Team inženierijas organizāciju un tās sistēmas, produktus, pakalpojumus, novērtējumus un aģentus
- Veido aģentiskas red team sistēmas, kas sistemātiski izmeklē uzbrukumu virsmas
- Atklāj nesen publiskotus publiskus jailbreak paņēmienus un automātiski iekļauj tos red team platformās
- Uzlabo uzbrucēju simulēšanas un kaitīgu izvadu novērtēšanas metodes
- Izstrādā ievainojamību datubāzes, statistiskās analīzes iespējas un ziņošanas infrastruktūru
- Nodrošini sistēmas augstas nozīmes red team projektiem ar progresīva mākslīgā intelekta uzņēmumiem un valdībām
- Palīdzi sagatavot publiskus ziņojumus, salīdzinošos testus un līderu tabulas
- Piedalies gan slēgtu, gan atvērtu svaru progresīvo modeļu red team testēšanā
- Izstrādā aģentiskas darbplūsmas, kas palielina red team efektivitāti
- Vadi, mentorē un atbalsti inženierijas un red team darba veicējus
- Plāno sprinta darbus un vadi inženierijas rezultātu izstrādi
- Izveido mērogojamus procesus ātri īstenojamiem projektiem
- Izstrādā personāla atlases procesus un piesaisti inženierijas vadītājus un citus komandas locekļus
- Atrodi inženierijas ierobežojumus un ievies efektīvus risinājumus
- Sadarbojies ar tehnisko vadību inženierijas sistēmu, metožu, novērtējumu un pētījumu jomā
- Palīdzi veidot red team tehnisko un produktu stratēģiju
- Pārvērt tehniskās koncepcijas un atklājumus praktiskā ietekmē reālajā pasaulē
Prasības
- Nozīmīga pieredze programmatūras inženierijā, mākslīgajā intelektā vai datorinženierijā, tostarp tādās jomās kā kiberdrošība vai MLOps
- Spēcīga pieredze tehnisko komandu veidošanā, attīstīšanā un vadīšanā, tostarp jaunuzņēmumu izveidē no pašiem pirmsākumiem un vadītāju komandu vadīšanā
- Praktiska pieredze ar kodēšanas aģentiem, Python, LLM API, lokālām LLM ietvarprogrammām, novērtēšanas ietvarprogrammām, LLM aģentiem, mākoņinfrastruktūru un skaitļošanas klasteriem
- Spēja efektīvi darboties strauji mainīgā vidē
- Skaidra apņemšanās veicināt progresīvu mākslīgā intelekta sistēmu misiju un ietekmi
- Spēcīgas komunikācijas prasmes tehnisko risinājumu skaidrošanai gan tehniskai, gan netehniskai auditorijai
- Neatlaidīga ambiciozu mērķu īstenošana
- Pieredze progresīvu LLM vai aģentisku sistēmu veidošanā vai red team testēšanā tiks uzskatīta par priekšrocību
- Pieredze tehnisko komandu un produktu izveidē uzņēmējdarbības vidē tiks uzskatīta par priekšrocību
- Spēja sarežģītās sistēmās atklāt smalkas, augstas bīstamības ievainojamības tiks uzskatīta par priekšrocību
- Pieredze adversārajā mašīnmācīšanās vai drošības jomā tiks uzskatīta par priekšrocību
- Iepriekšēja pieredze mākslīgā intelekta laboratorijās, drošības komandās vai valdības drošības institūtos tiks uzskatīta par priekšrocību
- Publicēti pētījumi vai cits darbs mākslīgā intelekta drošuma, drošības vai robustuma jomā tiks uzskatīts par priekšrocību
- Gatavība strādāt ar zināmu elastību attiecībā uz laika joslām
- Iespēja strādāt pilnu slodzi 40 stundas nedēļā
Priekšrocības
- Ar darbu saistītie ceļa izdevumi tiek segti
- Darba aprīkojuma izmaksas tiek segtas
- Bērklijas birojā tiek nodrošinātas pusdienas un vakariņas
- Ir pieejams vīzas sponsorējums ASV vai Singapūrā
- Apmaksāts darba izmēģinājums