51 – 200 Εργαζόμενοι
Οι διαθέσιμες πληροφορίες για τη Mercor δεν περιλαμβάνουν επαρκή επαληθευμένα στοιχεία σχετικά με τα προϊόντα, τις υπηρεσίες, τους πελάτες, τον κλάδο ή τον προσανατολισμό της στις προσλήψεις, επομένως δεν είναι δυνατή η准确ής παρουσίαση της εταιρείας. Απαιτείται περισσότερο υλικό από πηγές πριν περιγραφούν η δραστηριότητα της επιχείρησης ή οι ευκαιρίες που προσφέρει.
Ειδικός Ασφάλειας Τεχνητής Νοημοσύνης – Αγγλικά και Ασαμικά | Απομακρυσμένη σύμβαση με τη Mercor
Διενέργεια εχθρικών δοκιμών σε προηγμένα μοντέλα τεχνητής νοημοσύνης για jailbreaks, μεροληψία, κακή χρήση και άλλους κινδύνους ασφάλειας. Δημιουργία σχολιασμών ανθρώπινων δεδομένων, ταξινομήσεων ευπαθειών και αναπαραγώγιμων στοιχείων επιθέσεων για πελάτες της Mercor.
Περιγραφή
- Διενέργεια εχθρικών δοκιμών σε συνομιλιακά μοντέλα και πράκτορες τεχνητής νοημοσύνης για jailbreaks, έγχυση προτροπών, κακή χρήση, εκμετάλλευση μεροληψίας και χειραγώγηση πολλαπλών γύρων
- Δημιουργία σχολιασμών ανθρώπινων δεδομένων, ταξινόμηση αστοχιών και εντοπισμός συστημικών κινδύνων
- Χρήση καθιερωμένων ταξινομιών, σημείων αναφοράς και εγχειριδίων για την τυποποίηση των αξιολογήσεων
- Παράδοση αναπαραγώγιμων αναφορών, συνόλων δεδομένων και περιπτώσεων επιθέσεων στους πελάτες
- Αξιολόγηση απαντήσεων τεχνητής νοημοσύνης που αφορούν μεροληψία, παραπληροφόρηση, επιβλαβή συμπεριφορά και άλλα ευαίσθητα θέματα
- Εντοπισμός αδυναμιών που δεν ανιχνεύονται από αυτοματοποιημένες δοκιμές
- Διεύρυνση της κάλυψης αξιολόγησης για την πρόληψη απρόβλεπτων προβλημάτων στην παραγωγή
- Βελτίωση των συστημάτων τεχνητής νοημοσύνης των πελατών μέσω δομημένων εχθρικών δοκιμών
Απαιτήσεις
- Άριστη γνώση αγγλικών και ασαμικών σε επίπεδο μητρικής γλώσσας
- Ορθή κρίση κατά την αξιολόγηση γλώσσας και περιεχομένου ως προς την ακρίβεια, την πληρότητα και την καταλληλότητα
- Ικανότητα εντοπισμού λεπτών σφαλμάτων, ασυνεπειών και παραλείψεων
- Συνεπής τήρηση οδηγιών και προτύπων ποιότητας
- Σαφής επικοινωνία του σκεπτικού σε τεχνικό και μη τεχνικό κοινό
- Ευελιξία σε διαφορετικά έργα, μορφές εργασιών και ανάγκες πελατών
- Επιθυμητή: εμπειρία σε εχθρική μηχανική μάθηση με σύνολα δεδομένων jailbreak, έγχυση προτροπών, επιθέσεις RLHF ή DPO ή εξαγωγή μοντέλων
- Επιθυμητή: εμπειρία στην κυβερνοασφάλεια με δοκιμές διείσδυσης, ανάπτυξη exploits ή αντίστροφη μηχανική
- Επιθυμητή: εμπειρία σε κοινωνικοτεχνικούς κινδύνους με διερεύνηση παρενόχλησης ή παραπληροφόρησης, ανάλυση κακοποίησης ή δοκιμές συνομιλιακής τεχνητής νοημοσύνης
- Επιθυμητή: εμπειρία στην ψυχολογία, την υποκριτική ή τη συγγραφή που υποστηρίζει ασυνήθιστη εχθρική σκέψη
- Απαιτείται εργασία ως ανεξάρτητος συνεργάτης
- Δεν υποστηρίζονται υποψήφιοι με H-1B και STEM OPT
Παροχές
- Πλήρως απομακρυσμένη εργασία
- Επιλογή του δικού σας προγράμματος εργασίας
- Εβδομαδιαίες πληρωμές μέσω Stripe ή Wise
- Απόκτηση πρακτικής εμπειρίας στο red teaming τεχνητής νοημοσύνης με βάση ανθρώπινα δεδομένα
- Συμβολή στο να γίνουν τα συστήματα τεχνητής νοημοσύνης πιο ανθεκτικά, ασφαλή και αξιόπιστα
- Εργασία με κορυφαίους ερευνητές
- Διατίθενται εύλογες προσαρμογές κατόπιν αιτήματος
- Κέρδη από παραπομπές έως 90 δολάρια για επιτυχημένες παραπομπές