Η ActiveFence είναι εταιρεία κυβερνοασφάλειας και τεχνητής νοημοσύνης που επικεντρώνεται στην εμπιστοσύνη και την ασφάλεια για διαδικτυακές πλατφόρμες. Η ολοκληρωμένη σουίτα λύσεών της συνδυάζει έρευνα πληροφοριών, ανίχνευση επιβλαβούς περιεχομένου με τη βοήθεια τεχνητής νοημοσύνης και εργαλεία εποπτείας περιεχομένου, βοηθώντας τις πλατφόρμες να αντιμετωπίζουν κινδύνους όπως η εκμετάλλευση παιδιών, η παραπληροφόρηση, η ρητορική μίσους, η τρομοκρατία, το γυμνό, η απάτη και άλλες μορφές διαδικτυακής βλάβης. Η ActiveFence υποστηρίζει ομάδες εμπιστοσύνης και ασφάλειας κάθε μεγέθους, συμβάλλοντας στην προστασία περισσότερων από τριών δισεκατομμυρίων χρηστών παγκοσμίως σε περισσότερες από 100 γλώσσες.
Ομάδα επιθετικής αξιολόγησης AI – Αντιπαραθετική αξιολόγηση παραγωγικής AI στην ActiveFence
Ανάπτυξη αντιπαραθετικών επιθέσεων, συνόλων δεδομένων και σημείων αναφοράς για την πλατφόρμα ασφάλειας AI της ActiveFence. Δοκιμή της ανθεκτικότητας μεγάλων γλωσσικών μοντέλων μέσω red teaming και έρευνας ευπαθειών.
Περιγραφή
- Σχεδιασμός νέων αντιπαραθετικών επιθέσεων.
- Συμβολή στη δημιουργία κλιμακούμενων συστημάτων για τη μαζική παραγωγή και δοκιμή επιθέσεων.
- Αξιολόγηση των επιθέσεων ως προς την ποιότητα, την αποτελεσματικότητα, την πρωτοτυπία και την αναπαραγωγιμότητά τους.
- Εντοπισμός αναδυόμενων μοτίβων επιθέσεων και ευπαθειών μοντέλων.
- Δημιουργία αντιπαραθετικών συνόλων δεδομένων, σημείων αναφοράς και δοκιμών παλινδρόμησης.
- Κοινοποίηση ευρημάτων, μεθόδων και δομημένων δεδομένων επιθέσεων στις ομάδες Επιστήμης Δεδομένων, Ασφάλειας και Μηχανικής.
- Συμβολή στην ενίσχυση της ανθεκτικότητας των μοντέλων και των αμυνών.
Απαιτήσεις
- Τουλάχιστον τρία χρόνια επαγγελματικής εμπειρίας στην κυβερνοασφάλεια, στην έρευνα ασφάλειας, στο red teaming ή σε συναφή τομέα ασφάλειας.
- Πτυχίο στην Επιστήμη Δεδομένων, στη Μηχανική Υπολογιστών, στην Επιστήμη Υπολογιστών ή σε στενά συναφή τεχνικό τομέα.
- Ισχυρή γνώση μεγάλων γλωσσικών μοντέλων, prompt injection και ασφάλειας AI.
- Εμπειρία σε red teaming, έρευνα ασφάλειας ή αντιπαραθετικές δοκιμές.
- Ισχυρές δεξιότητες Python και αυτοματοποίησης.
- Δημιουργικές δεξιότητες επίλυσης προβλημάτων και ικανότητα ανάπτυξης νέων τεχνικών επίθεσης.
- Ικανότητα ανάλυσης αποτελεσμάτων και σαφούς επικοινωνίας ευρημάτων.
- Θα προτιμηθούν πιστοποιήσεις επιθετικής κυβερνοασφάλειας όπως OSWA, OSWE, OSCE3, SEC542 ή SEC522.