51 – 200 Εργαζόμενοι
Οι διαθέσιμες πληροφορίες για τη Mercor δεν περιλαμβάνουν επαρκή επαληθευμένα στοιχεία σχετικά με τα προϊόντα, τις υπηρεσίες, τους πελάτες, τον κλάδο ή τον προσανατολισμό της στις προσλήψεις, επομένως δεν είναι δυνατή η准确ής παρουσίαση της εταιρείας. Απαιτείται περισσότερο υλικό από πηγές πριν περιγραφούν η δραστηριότητα της επιχείρησης ή οι ευκαιρίες που προσφέρει.
Ειδικός Red Team για την ασφάλεια της τεχνητής νοημοσύνης – Αγγλικά και Ταμίλ, απομακρυσμένη σύμβαση
Δοκίμασε μοντέλα και πράκτορες συνομιλιακής τεχνητής νοημοσύνης για ευπάθειες μέσω επιθετικής διερεύνησης και δομημένης ανάλυσης Red Team. Δημιούργησε περιπτώσεις επίθεσης, δεδομένα ευπαθειών και αναπαραγώγιμες αναφορές για πελάτες του εργαστηρίου τεχνητής νοημοσύνης της Mercor.
Περιγραφή
- Διερεύνησε μοντέλα και πράκτορες συνομιλιακής τεχνητής νοημοσύνης χρησιμοποιώντας παρακάμψεις περιορισμών, εγχύσεις προτροπών, σενάρια κακής χρήσης, εκμετάλλευση προκαταλήψεων και χειραγώγηση πολλαπλών γύρων
- Δημιούργησε δεδομένα με ανθρώπινη επισήμανση τεκμηριώνοντας αποτυχίες, κατηγοριοποιώντας ευπάθειες και εντοπίζοντας συστημικούς κινδύνους
- Χρησιμοποίησε καθιερωμένες ταξινομίες, σημεία αναφοράς και εγχειρίδια διαδικασιών για συνεπείς αξιολογήσεις
- Ανάπτυξε αναπαραγώγιμες αναφορές, σύνολα δεδομένων και περιπτώσεις επίθεσης για πελάτες
- Αξιολόγησε εξόδους τεχνητής νοημοσύνης που αφορούν προκαταλήψεις, παραπληροφόρηση, επιβλαβή συμπεριφορά και άλλα ευαίσθητα θέματα
- Εντόπισε αδυναμίες που μπορεί να παραβλέψουν οι αυτοματοποιημένες δοκιμές
- Διεύρυνε την κάλυψη αξιολόγησης και βοήθησε στην αποτροπή απρόβλεπτων προβλημάτων παραγωγής
- Βελτίωσε τα συστήματα τεχνητής νοημοσύνης των πελατών και συνέβαλε σε ασφαλέστερα και πιο αξιόπιστα μοντέλα
Απαιτήσεις
- Επάρκεια επιπέδου μητρικής γλώσσας τόσο στα Αγγλικά όσο και στα Ταμίλ
- Ορθή κρίση κατά την αξιολόγηση γλώσσας και περιεχομένου
- Ικανότητα να προσδιορίζεις αν οι απαντήσεις τεχνητής νοημοσύνης είναι ακριβείς, πλήρεις και κατάλληλες και να εξηγείς την αξιολόγηση
- Προσεκτική προσοχή σε λεπτά σφάλματα, ασυνέπειες και παραλείψεις
- Ικανότητα συνεπούς εφαρμογής οδηγιών και προτύπων ποιότητας
- Σαφής επικοινωνία του σκεπτικού σε τεχνικό και μη τεχνικό κοινό
- Ευελιξία σε διαφορετικά έργα, μορφές εργασιών και πελάτες
- Επιθυμητό: εμπειρία σε επιθετική μηχανική μάθηση με σύνολα δεδομένων για παρακάμψεις περιορισμών, εγχύσεις προτροπών, επιθέσεις RLHF ή DPO ή εξαγωγή μοντέλων
- Επιθυμητό: υπόβαθρο στην κυβερνοασφάλεια με εμπειρία σε δοκιμές διείσδυσης, ανάπτυξη exploit ή αντίστροφη μηχανική
- Επιθυμητό: εμπειρία σε κοινωνικοτεχνικούς κινδύνους, όπως διερεύνηση παρενόχλησης και παραπληροφόρησης, ανάλυση κακοποίησης ή δοκιμές συνομιλιακής τεχνητής νοημοσύνης
- Επιθυμητό: εμπειρία σε δημιουργική διερεύνηση στην ψυχολογία, την υποκριτική ή τη συγγραφή
- Απαιτείται εργασία ως ανεξάρτητος συνεργάτης
- Δεν υποστηρίζονται υποψήφιοι με H-1B και STEM OPT
Παροχές
- Πλήρως απομακρυσμένη εργασία
- Ευέλικτο πρόγραμμα με δυνατότητα να καθορίζεις τις ώρες σου
- Εβδομαδιαίες πληρωμές μέσω Stripe ή Wise
- Ανταγωνιστική ωριαία αμοιβή
- Ευκαιρία απόκτησης εμπειρίας σε Red Team τεχνητής νοημοσύνης με επίκεντρο την προηγμένη ασφάλεια και βασισμένο σε δεδομένα από ανθρώπους
- Άμεση συμβολή σε πιο ανθεκτικά, ασφαλή και αξιόπιστα συστήματα τεχνητής νοημοσύνης
- Προαιρετική συμμετοχή σε έργα υψηλότερης ευαισθησίας
- Οδηγίες και πόροι ευεξίας για έργα που περιλαμβάνουν ευαίσθητο περιεχόμενο
- Διατίθενται εύλογες προσαρμογές κατόπιν αιτήματος
- Πρόγραμμα παραπομπών που προσφέρει έως 90 δολάρια για κάθε επιτυχημένη παραπομπή, με την επιφύλαξη ορίων παραπομπών