51 – 200 Εργαζόμενοι
Οι διαθέσιμες πληροφορίες για τη Mercor δεν περιλαμβάνουν επαρκή επαληθευμένα στοιχεία σχετικά με τα προϊόντα, τις υπηρεσίες, τους πελάτες, τον κλάδο ή τον προσανατολισμό της στις προσλήψεις, επομένως δεν είναι δυνατή η准确ής παρουσίαση της εταιρείας. Απαιτείται περισσότερο υλικό από πηγές πριν περιγραφούν η δραστηριότητα της επιχείρησης ή οι ευκαιρίες που προσφέρει.
Ειδικός Red Team για την Ασφάλεια της Τεχνητής Νοημοσύνης στα Αγγλικά και τα Παντζαμπί
Η Mercor αναζητά ειδικό στην ασφάλεια της τεχνητής νοημοσύνης, με γνώση Αγγλικών και Παντζαμπί, για red teaming συνομιλιακών μοντέλων και πρακτόρων. Ο συμβατικός ρόλος επικεντρώνεται στον εντοπισμό ευπαθειών, στη δημιουργία περιπτώσεων επίθεσης και στην παραγωγή αναπαραγώγιμων αναφορών ασφάλειας για πελάτες έρευνας τεχνητής νοημοσύνης.
Περιγραφή
- Δοκιμή συνομιλιακών μοντέλων και πρακτόρων τεχνητής νοημοσύνης με jailbreaks, injections προτροπών, σενάρια κακής χρήσης, εκμετάλλευση μεροληψίας και χειραγώγηση πολλαπλών γύρων
- Αξιολόγηση των εξόδων των μοντέλων σε ευαίσθητα θέματα, όπως μεροληψία, παραπληροφόρηση και επιβλαβής συμπεριφορά
- Τεκμηρίωση αστοχιών, κατηγοριοποίηση ευπαθειών και εντοπισμός συστημικών κινδύνων
- Χρήση καθιερωμένων ταξινομιών, σημείων αναφοράς και playbooks για τη διατήρηση συνεπών αξιολογήσεων
- Δημιουργία αναπαραγώγιμων αναφορών, συνόλων δεδομένων και περιπτώσεων επίθεσης για πελάτες
- Διερεύνηση αδυναμιών σε συστήματα τεχνητής νοημοσύνης που ενδέχεται να παραβλέψουν οι αυτοματοποιημένες δοκιμές
- Διεύρυνση της κάλυψης αξιολόγησης για τον περιορισμό απρόβλεπτων προβλημάτων στην παραγωγή
- Βελτίωση των συστημάτων τεχνητής νοημοσύνης των πελατών μέσω red teaming από ανθρώπους, με βάση δεδομένα
Απαιτήσεις
- Εγγενής ή άπταιστη γνώση Αγγλικών και Παντζαμπί
- Ισχυρή κρίση κατά την αξιολόγηση γλώσσας και περιεχομένου
- Ικανότητα προσδιορισμού του κατά πόσο οι απαντήσεις τεχνητής νοημοσύνης είναι ακριβείς, πλήρεις και κατάλληλες, καθώς και εξήγησης της αξιολόγησης
- Σχολαστική προσοχή σε λεπτά σφάλματα, ασυνέπειες και παραλείψεις
- Συνεπής τήρηση οδηγιών δοκιμών και προτύπων ποιότητας
- Ικανότητα σαφούς επικοινωνίας του σκεπτικού σε τεχνικό και μη τεχνικό κοινό
- Ευελιξία εργασίας σε διαφορετικά έργα, μορφές εργασιών και πελάτες
- Διαθεσιμότητα για συνεργασία ως ανεξάρτητος ανάδοχος
- Δεν πρέπει να απαιτείται υποστήριξη H-1B ή STEM OPT
- Η επιθυμητή εμπειρία μπορεί να περιλαμβάνει επιθετική μηχανική μάθηση, σύνολα δεδομένων jailbreak, injection προτροπών, επιθέσεις RLHF ή DPO, εξαγωγή μοντέλων, δοκιμές διείσδυσης, ανάπτυξη exploits, αντίστροφη μηχανική, διερεύνηση παρενόχλησης ή παραπληροφόρησης, ανάλυση κακής χρήσης, δοκιμές συνομιλιακής τεχνητής νοημοσύνης, ψυχολογία, υποκριτική ή συγγραφή
Παροχές
- Εργασία εξ αποστάσεως από οπουδήποτε επιτρέπεται από τον ρόλο
- Καθορισμός του δικού σας προγράμματος εργασίας
- Εβδομαδιαίες πληρωμές μέσω Stripe ή Wise για τις παρεχόμενες υπηρεσίες
- Τα έργα μπορεί να παραταθούν, να περιοριστούν ή να ολοκληρωθούν νωρίτερα ανάλογα με τις επιχειρηματικές ανάγκες και την απόδοση
- Πρόσβαση σε πόρους ευεξίας και σαφείς οδηγίες για έργα υψηλότερης ευαισθησίας
- Απόκτηση εμπειρίας στο red teaming τεχνητής νοημοσύνης με ανθρώπινα δεδομένα
- Συμβολή στη δημιουργία πιο ανθεκτικών, ασφαλών και αξιόπιστων συστημάτων τεχνητής νοημοσύνης
- Ανταγωνιστική αμοιβή
- Συνεργασία με κορυφαίους ερευνητές τεχνητής νοημοσύνης