51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Güvenliği Kırmızı Takım Uzmanı – İngilizce ve Tamilce, Uzaktan Sözleşmeli
Konuşmaya dayalı yapay zekâ modellerini ve ajanlarını, karşıtlık içeren testler ve yapılandırılmış kırmızı takım analizleriyle güvenlik açıkları açısından test edin. Mercor’un yapay zekâ laboratuvarı müşterileri için saldırı senaryoları, güvenlik açığı verileri ve tekrarlanabilir raporlar oluşturun.
Açıklama
- Jailbreak yöntemleri, istem enjeksiyonları, kötüye kullanım senaryoları, önyargı istismarı ve çok turlu manipülasyon kullanarak konuşmaya dayalı yapay zekâ modellerini ve ajanlarını test edin
- Hataları belgeleyerek, güvenlik açıklarını sınıflandırarak ve sistemik riskleri belirleyerek insanlar tarafından etiketlenmiş veriler oluşturun
- Tutarlı değerlendirmeler yapmak için yerleşik taksonomileri, kıyaslamaları ve çalışma kılavuzlarını kullanın
- Müşteriler için tekrarlanabilir raporlar, veri kümeleri ve saldırı senaryoları geliştirin
- Önyargı, yanlış bilgi, zararlı davranış ve diğer hassas konuları içeren yapay zekâ çıktılarını değerlendirin
- Otomatik testlerin gözden kaçırabileceği zayıflıkları belirleyin
- Değerlendirme kapsamını genişletin ve beklenmedik üretim sorunlarının önlenmesine yardımcı olun
- Müşterilerin yapay zekâ sistemlerini iyileştirin ve daha güvenli, güvenilir modellere katkıda bulunun
Gereksinimler
- İngilizce ve Tamilcede ana dil düzeyinde akıcılık
- Dil ve içeriği değerlendirirken sağduyulu karar verme
- Yapay zekâ yanıtlarının doğru, eksiksiz ve uygun olup olmadığını belirleyebilme ve değerlendirmeyi açıklayabilme
- İnce hatalara, tutarsızlıklara ve eksikliklere dikkat etme
- Yönergeleri ve kalite standartlarını tutarlı biçimde uygulayabilme
- Teknik ve teknik olmayan kitlelere gerekçeyi açıkça aktarabilme
- Projeler, görev biçimleri ve müşteriler arasında esneklik
- Tercihen: jailbreak veri kümeleri, istem enjeksiyonu, RLHF veya DPO saldırıları ya da model çıkarımıyla adversarial makine öğrenimi deneyimi
- Tercihen: sızma testi, istismar geliştirme veya tersine mühendislik alanlarında siber güvenlik geçmişi
- Tercihen: taciz ve dezenformasyon araştırması, kötüye kullanım analizi veya konuşmaya dayalı yapay zekâ testi gibi sosyo-teknik risklerle ilgili deneyim
- Tercihen: psikoloji, oyunculuk veya yazarlık alanlarında yaratıcı araştırma deneyimi
- Bağımsız yüklenici olarak çalışabilme
- H-1B ve STEM OPT adayları desteklenmemektedir
Yan Haklar
- Tamamen uzaktan çalışma
- Kendi çalışma saatlerinizi belirleyebilme olanağıyla esnek program
- Stripe veya Wise üzerinden haftalık ödemeler
- Rekabetçi saatlik ücret
- Öncü güvenliğe odaklanan, insan verileriyle yürütülen yapay zekâ kırmızı takım çalışmalarında deneyim kazanma fırsatı
- Daha dayanıklı, güvenli ve güvenilir yapay zekâ sistemlerine doğrudan katkı
- Daha yüksek hassasiyet gerektiren projelere isteğe bağlı katılım
- Hassas içerik içeren projeler için yönergeler ve iyi oluş kaynakları
- Talep üzerine makul uyarlamalar sağlanır
- Yönlendirme sınırlarına tabi olarak başarılı her yönlendirme için 90 ABD dolarına kadar ödeme sunan yönlendirme programı