51 – 200 Εργαζόμενοι
Οι διαθέσιμες πληροφορίες για τη Mercor δεν περιλαμβάνουν επαρκή επαληθευμένα στοιχεία σχετικά με τα προϊόντα, τις υπηρεσίες, τους πελάτες, τον κλάδο ή τον προσανατολισμό της στις προσλήψεις, επομένως δεν είναι δυνατή η准确ής παρουσίαση της εταιρείας. Απαιτείται περισσότερο υλικό από πηγές πριν περιγραφούν η δραστηριότητα της επιχείρησης ή οι ευκαιρίες που προσφέρει.
Red Teamer Ασφάλειας AI - Σύμβαση εξ αποστάσεως (Ηνωμένες Πολιτείες)
Η Mercor αναζητά Red Teamer Ασφάλειας AI για τον εντοπισμό ευπαθειών σε προηγμένα μοντέλα AI μέσω επιθετικών δοκιμών. Ο ρόλος περιλαμβάνει τον σχεδιασμό προτροπών και την αξιολόγηση συμπεριφοράς μοντέλων υψηλού κινδύνου μαζί με ερευνητές ασφάλειας AI.
Περιγραφή
- Δημιουργία επιθετικών προτροπών για την πρόκληση προηγμένων μοντέλων AI
- Εντοπισμός jailbreaks, μη ασφαλούς συμπεριφοράς, παραισθήσεων και παραβιάσεων πολιτικών
- Αξιολόγηση της ανθεκτικότητας των μοντέλων σε παραπληροφόρηση, κυβερνοασφάλεια, βιοασφάλεια, απάτη, πολιτικό περιεχόμενο και άλλους ευαίσθητους τομείς
- Καταγραφή ευπαθειών και υποστήριξη δεικτών ασφάλειας και αναφορών red teaming
- Συνεργασία με ερευνητές AI για την ενίσχυση της ευθυγράμμισης, της ανθεκτικότητας και της ασφάλειας των μοντέλων
- Συμμετοχή σε έργα που εκπαιδεύουν και βελτιώνουν συστήματα AI
Απαιτήσεις
- Πτυχίο ή ανώτερος τίτλος σπουδών στην επιστήμη υπολογιστών, την κυβερνοασφάλεια, τη δημοσιογραφία, τις επικοινωνίες, την ψυχολογία, τη βιολογία, τη χημεία, τη δημόσια πολιτική ή συναφή κλάδο
- Τουλάχιστον πέντε χρόνια επαγγελματικής εμπειρίας στην ασφάλεια AI, στο red teaming AI, στην εμπιστοσύνη και ασφάλεια, στην κυβερνοασφάλεια, στη διερευνητική δημοσιογραφία, στις επιστήμες ζωής ή σε συναφή τομέα
- Ισχυρή αναλυτική σκέψη και ικανότητες σχεδιασμού προτροπών και γραπτής επικοινωνίας
- Εμπειρία στη δημιουργία επιθετικών προτροπών ή στην αξιολόγηση προηγμένων συστημάτων AI
- Επιθυμητή εμπειρία σε red teaming AI, RLHF, SFT, ευθυγράμμιση AI ή εμπιστοσύνη και ασφάλεια
- Επιθυμητή εξοικείωση με δοκιμές jailbreak, μηχανική προτροπών ή μεθόδους επιθετικής αξιολόγησης
- Επιθυμητή εξειδίκευση σε έναν ή περισσότερους γκρίζους τομείς, όπως κυβερνοασφάλεια, βιοασφάλεια, πολιτικό περιεχόμενο, παραπληροφόρηση ή επιστημονική ασφάλεια
- Ικανότητα εργασίας ως ανεξάρτητος συνεργάτης
- Δεν υποστηρίζονται υποψήφιοι με H-1B και STEM OPT
Παροχές
- Πλήρως εξ αποστάσεως εργασία
- Ευέλικτο ωράριο
- Εβδομαδιαίες πληρωμές μέσω Stripe ή Wise
- Τα έργα ενδέχεται να παραταθούν, να συντομευτούν ή να ολοκληρωθούν πρόωρα ανάλογα με τις επιχειρηματικές ανάγκες και την απόδοση
- Εργασία επιθετικών δοκιμών με κορυφαίους ερευνητές AI και ομάδες ασφάλειας
- Ευκαιρία να επηρεάσετε τον τρόπο με τον οποίο τα συστήματα AI αντιμετωπίζουν σύνθετες προκλήσεις ασφάλειας στον πραγματικό κόσμο
- Διατίθενται εύλογες προσαρμογές κατόπιν αιτήματος
- Πληρωμές παραπομπής έως 340 δολάρια ανά επιτυχημένη παραπομπή, με την επιφύλαξη των ορίων παραπομπών