51 – 200 Εργαζόμενοι
Οι διαθέσιμες πληροφορίες για τη Mercor δεν περιλαμβάνουν επαρκή επαληθευμένα στοιχεία σχετικά με τα προϊόντα, τις υπηρεσίες, τους πελάτες, τον κλάδο ή τον προσανατολισμό της στις προσλήψεις, επομένως δεν είναι δυνατή η准确ής παρουσίαση της εταιρείας. Απαιτείται περισσότερο υλικό από πηγές πριν περιγραφούν η δραστηριότητα της επιχείρησης ή οι ευκαιρίες που προσφέρει.
Ειδικός Ασφάλειας Τεχνητής Νοημοσύνης από Απόσταση (Αγγλικά και Κανάντα)
Διενέργεια επιθετικών δοκιμών στα προηγμένα μοντέλα τεχνητής νοημοσύνης της Mercor με εισόδους στα Αγγλικά και τα Κανάντα για τον εντοπισμό ευπαθειών. Δημιουργία αναπαραγώγιμων δεδομένων ασφάλειας, περιπτώσεων επίθεσης και αναφορών για πελάτες τεχνητής νοημοσύνης.
Περιγραφή
- Δοκιμή συνομιλιακών μοντέλων και πρακτόρων τεχνητής νοημοσύνης με παρακάμψεις προστασιών, εισαγωγές προτροπών, σενάρια κακής χρήσης, εκμετάλλευση προκαταλήψεων και χειραγώγηση πολλαπλών γύρων
- Δημιουργία δεδομένων από ανθρώπους με σχολιασμό αστοχιών, κατηγοριοποίηση ευπαθειών και εντοπισμό συστημικών κινδύνων
- Χρήση καθιερωμένων ταξινομήσεων, σημείων αναφοράς και εγχειριδίων διαδικασιών για συνεπείς αξιολογήσεις
- Ανάπτυξη αναπαραγώγιμων αναφορών, συνόλων δεδομένων και περιπτώσεων επίθεσης που μπορούν να χρησιμοποιούν οι πελάτες
- Αξιολόγηση εξόδων τεχνητής νοημοσύνης σε ευαίσθητα θέματα, όπως προκαταλήψεις, παραπληροφόρηση και επιβλαβής συμπεριφορά
- Εντοπισμός αδυναμιών που ενδέχεται να παραβλέψουν οι αυτοματοποιημένες αξιολογήσεις
- Διεύρυνση της κάλυψης αξιολόγησης για την πρόληψη απρόβλεπτων προβλημάτων στην παραγωγή
- Συμβολή σε έργα εκπαίδευσης και βελτίωσης συστημάτων τεχνητής νοημοσύνης για το εργαστήριο τεχνητής νοημοσύνης της Mercor και τους εταιρικούς πελάτες της
Απαιτήσεις
- Εγγενής ή άριστη γνώση τόσο των Αγγλικών όσο και των Κανάντα
- Ορθή κρίση κατά την αξιολόγηση γλώσσας και περιεχομένου, συμπεριλαμβανομένης της ακρίβειας, της πληρότητας και της καταλληλότητας των απαντήσεων τεχνητής νοημοσύνης
- Ικανότητα σαφούς επικοινωνίας του σκεπτικού σε τεχνικά και μη τεχνικά ακροατήρια
- Προσεκτική προσοχή σε λεπτά λάθη, ασυνέπειες και παραλείψεις
- Ικανότητα συνεπούς εφαρμογής ταξινομήσεων, σημείων αναφοράς, εγχειριδίων διαδικασιών, κατευθυντήριων οδηγιών και προτύπων ποιότητας
- Ευελιξία εργασίας σε διαφορετικά έργα, μορφές εργασιών και πελάτες
- Απαιτείται εργασία ως ανεξάρτητος συνεργάτης
- Οι υποψήφιοι δεν πρέπει να επιδιώκουν καθεστώς H-1B ή STEM OPT
- Επιθυμητή εμπειρία σε επιθετική μηχανική μάθηση, όπως σύνολα δεδομένων για παρακάμψεις προστασιών, εισαγωγές προτροπών, επιθέσεις RLHF ή DPO ή εξαγωγή μοντέλων
- Επιθυμητό υπόβαθρο στην κυβερνοασφάλεια, όπως δοκιμές διείσδυσης, ανάπτυξη εκμεταλλεύσεων ή αντίστροφη μηχανική
- Επιθυμητή εμπειρία σε κοινωνικοτεχνικούς κινδύνους, όπως διερεύνηση παρενόχλησης ή παραπληροφόρησης, ανάλυση κακοποίησης ή δοκιμές συνομιλιακής τεχνητής νοημοσύνης
- Επιθυμητή εμπειρία στην ψυχολογία, την υποκριτική ή τη συγγραφή, που υποστηρίζει μη συμβατική επιθετική σκέψη
Παροχές
- Πλήρως απομακρυσμένη συμβατική εργασία με ευελιξία στον προγραμματισμό
- Εβδομαδιαία πληρωμή μέσω Stripe ή Wise βάσει των παρεχόμενων υπηρεσιών
- Ευκαιρία ανάπτυξης εμπειρίας σε ανθρώπινα δεδομένα για red teaming τεχνητής νοημοσύνης με επίκεντρο την ασφάλεια προηγμένων συστημάτων
- Ουσιαστική συμβολή στη δημιουργία πιο ανθεκτικών, ασφαλών και αξιόπιστων συστημάτων τεχνητής νοημοσύνης
- Πόροι ευεξίας και σαφής καθοδήγηση για έργα που περιλαμβάνουν περιεχόμενο υψηλότερης ευαισθησίας
- Διατίθενται εύλογες προσαρμογές κατόπιν αιτήματος
- Πληρωμές παραπομπής έως 90 δολάρια ανά επιτυχή παραπομπή, με την επιφύλαξη των ισχυόντων περιορισμών