51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Güvenliği Uzmanı – İngilizce ve Marathi (Uzaktan)
Mercor, diyalog modelleri ve ajanlar üzerinde kırmızı ekip testleri gerçekleştirecek İngilizce ve Marathi konuşan yapay zekâ güvenliği uzmanları arıyor. Çalışma; güvenlik açıklarını belirlemeyi, hassas çıktıları değerlendirmeyi ve yapay zekâ laboratuvarları ile müşteriler için tekrarlanabilir güvenlik verileri oluşturmayı içerir.
Açıklama
- Jailbreak'ler, istem enjeksiyonları, kötüye kullanım senaryoları, önyargı istismarı ve çok turlu manipülasyon kullanarak diyalog tabanlı yapay zekâ modelleri ve ajanları üzerinde kırmızı ekip testleri gerçekleştirmek
- Hataları açıklayarak, güvenlik açıklarını kategorilere ayırarak ve sistemik riskleri belirleyerek insan değerlendirme verileri oluşturmak
- Tutarlı değerlendirmeleri desteklemek için yerleşik taksonomileri, kıyaslamaları ve çalışma kılavuzlarını kullanmak
- Müşteriler için tekrarlanabilir raporlar, veri kümeleri ve saldırı senaryoları geliştirmek
- Önyargı, yanlış bilgi, zararlı davranış ve diğer hassas konularla ilgili yapay zekâ çıktılarını değerlendirmek
- Otomatik testlerin gözden kaçırabileceği güvenlik açıklarını belirlemek
- Beklenmedik üretim sorunlarını en aza indirmeye yardımcı olmak için değerlendirme kapsamını genişletmek
- Müşterilerin yapay zekâ sistemlerinin güvenliğini, dayanıklılığını ve güvenilirliğini geliştirmesine destek olmak
Gereksinimler
- İngilizce ve Marathi dillerinde ana dil düzeyinde akıcılık
- Yapay zekâ yanıtlarının doğru, eksiksiz ve uygun olup olmadığı da dahil olmak üzere dili ve içeriği değerlendirirken güçlü muhakeme yeteneği
- İnce hataları, tutarsızlıkları ve eksiklikleri tespit edebilme
- Kılavuzları ve kalite standartlarını tutarlı biçimde uygulayabilme
- Gerekçelerini teknik ve teknik olmayan kitlelere açıkça aktarabilme
- Farklı projelere, görev türlerine ve müşterilere uyum sağlayabilme
- Bağımsız yüklenici olarak çalışabilme
- H-1B veya STEM OPT desteğine ihtiyaç duymama
- Tercihen jailbreak veri kümeleri, istem enjeksiyonu, RLHF veya DPO saldırıları ya da model çıkarımıyla adversarial makine öğrenmesi deneyimi
- Tercihen sızma testi, exploit geliştirme veya tersine mühendislik alanlarında siber güvenlik deneyimi
- Tercihen taciz veya dezenformasyon araştırması, kötüye kullanım analizi ya da diyalog tabanlı yapay zekâ testi alanlarında sosyo-teknik risk deneyimi
- Tercihen alışılmadık adversarial düşünmeyi destekleyen psikoloji, oyunculuk veya yazarlık deneyimi
Yan Haklar
- Kendi programınıza göre tamamlanabilen tamamen uzaktan çalışma
- Stripe veya Wise üzerinden haftalık ödemeler
- Daha yüksek hassasiyet gerektiren projelere isteğe bağlı katılım
- Hassas içerikle çalışmaya yönelik açık kılavuzlar ve iyi olma kaynakları
- Rekabetçi ücret
- Önde gelen araştırmacılarla iş birliği yapma fırsatı
- Sınırlandırmalara tabi olarak, başarılı yönlendirme başına 90 ABD dolarına kadar yönlendirme ödemeleri