51 – 200 Εργαζόμενοι
Οι διαθέσιμες πληροφορίες για τη Mercor δεν περιλαμβάνουν επαρκή επαληθευμένα στοιχεία σχετικά με τα προϊόντα, τις υπηρεσίες, τους πελάτες, τον κλάδο ή τον προσανατολισμό της στις προσλήψεις, επομένως δεν είναι δυνατή η准确ής παρουσίαση της εταιρείας. Απαιτείται περισσότερο υλικό από πηγές πριν περιγραφούν η δραστηριότητα της επιχείρησης ή οι ευκαιρίες που προσφέρει.
Red Teamer Ασφάλειας Τεχνητής Νοημοσύνης - Σύμβαση εξ αποστάσεως στις Ηνωμένες Πολιτείες
Η Mercor αναζητά Red Teamer Ασφάλειας Τεχνητής Νοημοσύνης με σύμβαση, για να挑战σει προηγμένα μοντέλα τεχνητής νοημοσύνης και να εντοπίσει ευπάθειες. Ο ρόλος εστιάζει σε τομείς υψηλού κινδύνου και υποστηρίζει την ανάπτυξη ασφαλέστερων και πιο αξιόπιστων συστημάτων τεχνητής νοημοσύνης.
Περιγραφή
- Δημιουργία επιθετικών προτροπών που δοκιμάζουν αυστηρά προηγμένα μοντέλα τεχνητής νοημοσύνης
- Εντοπισμός παρακάμψεων προστατευτικών μηχανισμών, μη ασφαλούς συμπεριφοράς, παραισθήσεων και αποτυχιών συμμόρφωσης με πολιτικές ασφάλειας
- Αξιολόγηση της ανθεκτικότητας των μοντέλων απέναντι σε παραπληροφόρηση, κυβερνοασφάλεια, βιοασφάλεια, απάτη, πολιτικό περιεχόμενο και άλλους ευαίσθητους τομείς
- Καταγραφή των αδυναμιών που εντοπίζονται και υποστήριξη δεικτών ασφάλειας και αναφορών red teaming
- Συνεργασία με ερευνητές τεχνητής νοημοσύνης για την προώθηση της ευθυγράμμισης, της ανθεκτικότητας και της ασφάλειας των μοντέλων
- Συμβολή στην προστασία και βελτίωση αναδυόμενων προηγμένων συστημάτων τεχνητής νοημοσύνης
- Διαμόρφωση του τρόπου με τον οποίο τα μοντέλα τεχνητής νοημοσύνης χειρίζονται δύσκολα σενάρια ασφάλειας σε πραγματικά περιβάλλοντα
Απαιτήσεις
- Πτυχίο ή ανώτερος τίτλος σπουδών στην επιστήμη υπολογιστών, την κυβερνοασφάλεια, τη δημοσιογραφία, την επικοινωνία, την ψυχολογία, τη βιολογία, τη χημεία, τη δημόσια πολιτική ή συναφή κλάδο
- Τουλάχιστον πέντε έτη επαγγελματικής εμπειρίας στην ασφάλεια τεχνητής νοημοσύνης, το red teaming τεχνητής νοημοσύνης, την εμπιστοσύνη και ασφάλεια, την κυβερνοασφάλεια, την ερευνητική δημοσιογραφία, τις επιστήμες ζωής ή συναφή τομέα
- Ισχυρή αναλυτική κρίση, ικανότητα ανάπτυξης προτροπών και δεξιότητες γραπτής επικοινωνίας
- Πρακτική εμπειρία στη δημιουργία επιθετικών προτροπών ή στην αξιολόγηση προηγμένων συστημάτων τεχνητής νοημοσύνης
- Επιθυμητό: υπόβαθρο σε red teaming τεχνητής νοημοσύνης, RLHF, SFT, ευθυγράμμιση τεχνητής νοημοσύνης ή εμπιστοσύνη και ασφάλεια
- Επιθυμητό: εξοικείωση με αξιολογήσεις παρακάμψεων προστατευτικών μηχανισμών, μηχανική προτροπών ή μεθόδους επιθετικής αξιολόγησης
- Επιθυμητό: εξειδίκευση σε σύνθετους τομείς όπως κυβερνοασφάλεια, βιοασφάλεια, πολιτικό περιεχόμενο, παραπληροφόρηση ή επιστημονική ασφάλεια
- Διαθεσιμότητα για εργασία ως ανεξάρτητος συνεργάτης
- Δεν υποστηρίζονται υποψήφιοι με H-1B και STEM OPT
Παροχές
- Πλήρως εξ αποστάσεως εργασία
- Καθορισμός του δικού σας ωραρίου και ολοκλήρωση εργασιών με ευέλικτο πρόγραμμα
- Εβδομαδιαίες πληρωμές μέσω Stripe ή Wise
- Η διάρκεια του έργου μπορεί να αλλάξει ή να ολοκληρωθεί νωρίτερα ανάλογα με τις επιχειρηματικές ανάγκες και την απόδοση
- Ανταγωνιστική αμοιβή
- Συνεργασία με κορυφαίους ερευνητές τεχνητής νοημοσύνης και ομάδες ασφάλειας
- Διατίθενται εύλογες προσαρμογές κατόπιν αιτήματος
- Πρόγραμμα παραπομπών που προσφέρει έως 340 δολάρια για κάθε επιτυχημένη παραπομπή, με την επιφύλαξη των ορίων παραπομπών