51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Mercor'da Uzaktan Yapay Zekâ Güvenliği Uzmanı (İngilizce ve Marathi)
İngilizce ve Marathi dillerinde kırmızı takım testleriyle sohbet tabanlı yapay zekâ modellerindeki güvenlik açıklarını araştırın. İnsan verisi odaklı yapay zekâ güvenliği projeleri için tekrarlanabilir veri kümeleri, saldırı örnekleri ve raporlar oluşturun.
Açıklama
- Jailbreak, istem enjeksiyonu, kötüye kullanım senaryoları, önyargıdan yararlanma ve çok turlu manipülasyon yöntemlerini kullanarak sohbet tabanlı yapay zekâ modellerini ve ajanlarını kırmızı takım testlerine tabi tutun
- Hataları etiketleyerek, güvenlik açıklarını kategorilere ayırarak ve sistemik riskleri belirleyerek insan verileri oluşturun
- Değerlendirmeleri tutarlı tutmak için sınıflandırmaları, kıyaslamaları ve çalışma kılavuzlarını kullanın
- Müşteriler için tekrarlanabilir raporlar, veri kümeleri ve saldırı örnekleri geliştirin
- Önyargı, yanlış bilgi ve zararlı davranışlar dâhil olmak üzere hassas konuları içeren yapay zekâ çıktılarını değerlendirin
- Otomatik testlerin gözden kaçırabileceği zayıflıkları belirleyin
- Beklenmedik üretim sorunlarını önlemeye yardımcı olmak için değerlendirme kapsamını genişletin
- Müşterilerin yapay zekâ sistemlerinin güvenliğini, dayanıklılığını ve güvenilirliğini geliştirmelerine destek olun
Gereksinimler
- Akıcı veya ana dili seviyesinde İngilizce ve Marathi bilgisi gereklidir
- Dil ve içerik hakkında sağduyulu karar verebilme; yapay zekâ yanıtlarının doğru, eksiksiz ve uygun olup olmadığını değerlendirebilme ve gerekçeyi açıklayabilme
- İnce hatalara, tutarsızlıklara ve eksikliklere olağanüstü dikkat
- Belirlenmiş yönergelere ve kalite standartlarına sürekli uyum
- Gerekçeyi hem teknik hem de teknik olmayan kitlelere açıkça aktarabilme
- Projeler, görev biçimleri ve müşteriler arasında uyum sağlayabilme
- Bağımsız yüklenici olarak çalışmak gerekir
- H1-B ve STEM OPT adayları desteklenmemektedir
- Tercihen jailbreak veri kümeleri, istem enjeksiyonu, RLHF veya DPO saldırıları ya da model çıkarımı konusunda düşmanca makine öğrenmesi deneyimi
- Tercihen sızma testi, istismar geliştirme veya tersine mühendislik alanlarında siber güvenlik deneyimi
- Tercihen taciz veya dezenformasyon araştırması, kötüye kullanım analizi ya da sohbet tabanlı yapay zekâ testi içeren sosyo-teknik risk deneyimi
- Tercihen alışılmadık düşmanca düşünmeyi destekleyen psikoloji, oyunculuk veya yazarlık deneyimi
Yan Haklar
- Tamamen uzaktan çalışma
- Çalışma saatlerinizi seçebilme imkânı sunan esnek program
- Sunulan hizmetlere bağlı olarak Stripe veya Wise üzerinden haftalık ödemeler
- Proje süresi iş ihtiyaçlarına ve performansa göre uzatılabilir, kısaltılabilir veya erken sonlandırılabilir
- Daha yüksek hassasiyetli içerik içeren projeler için sağlık ve esenlik kaynakları ile açık yönlendirme
- Talep üzerine makul düzenlemeler sağlanır
- Her başarılı yönlendirme için 90 ABD dolarına kadar ödeme sunan ve yönlendirme sayısında sınır bulunmayan tavsiye programı
- Önde gelen araştırmacılarla iş birliği yapma fırsatı
- Yapay zekâ güvenliğinin ön saflarında insan verisi odaklı yapay zekâ kırmızı takım çalışması deneyimi