51 – 200 Εργαζόμενοι
Οι διαθέσιμες πληροφορίες για τη Mercor δεν περιλαμβάνουν επαρκή επαληθευμένα στοιχεία σχετικά με τα προϊόντα, τις υπηρεσίες, τους πελάτες, τον κλάδο ή τον προσανατολισμό της στις προσλήψεις, επομένως δεν είναι δυνατή η准确ής παρουσίαση της εταιρείας. Απαιτείται περισσότερο υλικό από πηγές πριν περιγραφούν η δραστηριότητα της επιχείρησης ή οι ευκαιρίες που προσφέρει.
Ελεγκτής ασφάλειας AI με επιθετική προσέγγιση - Εξ αποστάσεως στις Ηνωμένες Πολιτείες
Η Mercor αναζητά ελεγκτή ασφάλειας AI με επιθετική προσέγγιση για εξ αποστάσεως εργασία, με στόχο την πρόκληση προηγμένων μοντέλων AI και τον εντοπισμό ευπαθειών σε τομείς υψηλού κινδύνου. Ο συμβατικός ρόλος υποστηρίζει εργαστήρια AI που αναπτύσσουν και βελτιώνουν προηγμένα συστήματα.
Περιγραφή
- Δημιουργία εχθρικών προτροπών για τη διερεύνηση προηγμένων μοντέλων AI
- Εντοπισμός παρακάμψεων προστασιών, μη ασφαλούς συμπεριφοράς, παραισθήσεων και παραβιάσεων πολιτικών
- Αξιολόγηση της ανθεκτικότητας των μοντέλων απέναντι σε παραπληροφόρηση, κυβερνοαπειλές, κινδύνους βιοασφάλειας, απάτη, πολιτικό περιεχόμενο και άλλα ευαίσθητα θέματα
- Καταγραφή των ευπαθειών που εντοπίζονται και συμβολή στην παραγωγή δεικτών ασφάλειας και αναφορών ελέγχου
- Συνεργασία με ερευνητές AI για την ενίσχυση της ευθυγράμμισης, της ανθεκτικότητας και της ασφάλειας των μοντέλων
- Συμμετοχή σε έργα εκπαίδευσης και βελτίωσης συστημάτων AI
Απαιτήσεις
- Πτυχίο ή ανώτερος τίτλος στην επιστήμη υπολογιστών, την κυβερνοασφάλεια, τη δημοσιογραφία, τις επικοινωνίες, την ψυχολογία, τη βιολογία, τη χημεία, τη δημόσια πολιτική ή συναφή τομέα
- Τουλάχιστον πέντε χρόνια επαγγελματικής εμπειρίας στην ασφάλεια AI, στους ελέγχους AI με επιθετική προσέγγιση, στην εμπιστοσύνη και ασφάλεια, στην κυβερνοασφάλεια, στην ερευνητική δημοσιογραφία, στις επιστήμες ζωής ή σε συναφή τομέα
- Ισχυρή αναλυτική κρίση, ικανότητα σχεδιασμού προτροπών και δεξιότητες γραπτής επικοινωνίας
- Εμπειρία στη δημιουργία εχθρικών προτροπών ή στην αξιολόγηση προηγμένων συστημάτων AI
- Επιθυμητή είναι η εμπειρία σε ελέγχους AI με επιθετική προσέγγιση, RLHF, SFT, ευθυγράμμιση AI ή εμπιστοσύνη και ασφάλεια
- Επιθυμητή είναι η εξοικείωση με ελέγχους παράκαμψης προστασιών, τη μηχανική προτροπών ή μεθόδους εχθρικής αξιολόγησης
- Επιθυμητή είναι η εξειδίκευση σε τουλάχιστον έναν αμφίσημο τομέα, όπως η κυβερνοασφάλεια, η βιοασφάλεια, το πολιτικό περιεχόμενο, η παραπληροφόρηση ή η επιστημονική ασφάλεια
- Ικανότητα εργασίας ως ανεξάρτητος συνεργάτης
- Δεν υποστηρίζονται υποψήφιοι με H-1B και STEM OPT
Παροχές
- Πλήρως εξ αποστάσεως εργασία
- Ευέλικτο πρόγραμμα με αυτοδιαχείριση
- Εβδομαδιαίες πληρωμές μέσω Stripe ή Wise
- Τα έργα μπορούν να παραταθούν, να συντομευθούν ή να ολοκληρωθούν νωρίτερα ανάλογα με τις επιχειρηματικές ανάγκες και την απόδοση
- Ανταγωνιστική αμοιβή
- Συνεργασία με κορυφαίους ερευνητές AI και ομάδες ασφάλειας
- Διατίθενται εύλογες προσαρμογές κατόπιν αιτήματος
- Πληρωμές παραπομπής έως 340 δολάρια για κάθε επιτυχημένη παραπομπή, με την επιφύλαξη των ισχυόντων ορίων