51 – 200 Εργαζόμενοι
Οι διαθέσιμες πληροφορίες για τη Mercor δεν περιλαμβάνουν επαρκή επαληθευμένα στοιχεία σχετικά με τα προϊόντα, τις υπηρεσίες, τους πελάτες, τον κλάδο ή τον προσανατολισμό της στις προσλήψεις, επομένως δεν είναι δυνατή η准确ής παρουσίαση της εταιρείας. Απαιτείται περισσότερο υλικό από πηγές πριν περιγραφούν η δραστηριότητα της επιχείρησης ή οι ευκαιρίες που προσφέρει.
Ειδικός Red Team για την Ασφάλεια της Τεχνητής Νοημοσύνης – Αγγλικά και Φινλανδικά, Εξ αποστάσεως στις Ηνωμένες Πολιτείες
Διενέργεια επιθετικών δοκιμών σε συνομιλιακά μοντέλα και πράκτορες τεχνητής νοημοσύνης για έργα ανθρώπινων δεδομένων AI της Mercor. Δημιουργία αναπαραγώγιμων δεδομένων ευπαθειών για την ενίσχυση προηγμένων συστημάτων τεχνητής νοημοσύνης.
Περιγραφή
- Δοκιμή συνομιλιακών μοντέλων και πρακτόρων τεχνητής νοημοσύνης με jailbreaks, injections προτροπών, σενάρια κακής χρήσης, εκμετάλλευση μεροληψιών και χειραγώγηση πολλαπλών γύρων
- Καταγραφή αποτυχιών, κατηγοριοποίηση ευπαθειών και εντοπισμός συστημικών κινδύνων
- Εφαρμογή καθιερωμένων ταξινομιών, benchmarks και playbooks για συνεπείς αξιολογήσεις
- Δημιουργία αναπαραγώγιμων αναφορών, συνόλων δεδομένων και περιπτώσεων επίθεσης για πελάτες
- Εντοπισμός ευπαθειών που ενδέχεται να παραβλέπουν οι αυτοματοποιημένες δοκιμές
- Διεύρυνση της κάλυψης αξιολόγησης και συμβολή στη μείωση απρόβλεπτων προβλημάτων στην παραγωγή
- Συνεργασία με κορυφαίους ερευνητές σε έργα εκπαίδευσης και βελτίωσης συστημάτων τεχνητής νοημοσύνης
Απαιτήσεις
- Άριστη ή μητρική γνώση αγγλικών και φινλανδικών
- Προηγούμενη εμπειρία σε red teaming για επιθέσεις κατά συστημάτων τεχνητής νοημοσύνης, στην κυβερνοασφάλεια ή σε κοινωνικοτεχνική διερεύνηση
- Ικανότητα επιθετικής δοκιμής συστημάτων τεχνητής νοημοσύνης και ώθησής τους σε σημεία αποτυχίας
- Εμπειρία στην εφαρμογή πλαισίων ή benchmarks για δομημένες δοκιμές
- Ικανότητα σαφούς επικοινωνίας κινδύνων σε τεχνικό και μη τεχνικό κοινό
- Προσαρμοστικότητα σε διαφορετικά έργα και απαιτήσεις πελατών
- Διαθεσιμότητα για συνεργασία ως ανεξάρτητος ανάδοχος
- Δεν πρέπει να είστε υποψήφιος για H-1B ή STEM OPT
- Επιθυμητή εμπειρία σε adversarial machine learning, συμπεριλαμβανομένων datasets για jailbreaks, prompt injection, επιθέσεων RLHF ή DPO ή εξαγωγής μοντέλων
- Επιθυμητή εμπειρία στην κυβερνοασφάλεια, όπως penetration testing, ανάπτυξη exploits ή reverse engineering
- Επιθυμητή εμπειρία σε κοινωνικοτεχνικούς κινδύνους, όπως διερεύνηση παρενόχλησης ή παραπληροφόρησης, ανάλυση κακοποίησης ή δοκιμές συνομιλιακής τεχνητής νοημοσύνης
- Επιθυμητό υπόβαθρο στην ψυχολογία, την υποκριτική ή τη συγγραφή που υποστηρίζει ασυνήθιστη επιθετική σκέψη
Παροχές
- Πλήρως εξ αποστάσεως εργασία
- Ευέλικτο ωράριο
- Εβδομαδιαίες πληρωμές μέσω Stripe ή Wise
- Πόροι ευεξίας και σαφείς οδηγίες για έργα υψηλότερης ευαισθησίας
- Ευκαιρία απόκτησης εμπειρίας σε red teaming τεχνητής νοημοσύνης με ανθρώπινα δεδομένα
- Άμεση ευκαιρία συμβολής ώστε τα συστήματα τεχνητής νοημοσύνης να γίνουν πιο ανθεκτικά, ασφαλή και αξιόπιστα
- Ανταγωνιστική αμοιβή
- Μπόνους παραπομπής έως 250 $ για κάθε επιτυχημένη παραπομπή