51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Güvenliği Uzmanı - İngilizce ve Pencapça
İngilizce ve Pencapçayı akıcı konuşan yapay zekâ güvenliği uzmanları için, Mercor’un konuşmaya dayalı yapay zekâ kırmızı takım projelerini destekleyen uzaktan sözleşmeli rol. Jailbreak, istem enjeksiyonu, zararlı içerik riskleri ve model güvenlik açıklarını test ederken tekrarlanabilir bulguları belgelersiniz.
Açıklama
- Jailbreak, istem enjeksiyonu, kötüye kullanım senaryoları, önyargı istismarı ve çok turlu manipülasyon kullanarak konuşmaya dayalı yapay zekâ modelleri ve aracılarında karşıt testler gerçekleştirmek
- Hataları etiketleyerek, güvenlik açıklarını sınıflandırarak ve sistemik riskleri belirleyerek insan tarafından oluşturulmuş veriler üretmek
- Tutarlı değerlendirmeler sağlamak için yerleşik taksonomileri, kıyaslamaları ve çalışma kılavuzlarını uygulamak
- Müşteriler için tekrarlanabilir raporlar, veri kümeleri ve saldırı örnekleri hazırlamak
- Yapay zekâ çıktılarında önyargı, yanlış bilgi, zararlı davranış ve diğer hassas içerik risklerini değerlendirmek
- Otomatik değerlendirmelerin gözden kaçırabileceği zayıflıkları belirlemek
- Üretimde beklenmedik sorunları sınırlamaya yardımcı olmak için değerlendirme kapsamını genişletmek
- Yapılandırılmış karşıt testlerle müşterilerin yapay zekâ sistemlerini iyileştirmek
Gereksinimler
- İngilizce ve Pencapçada ana dil düzeyinde akıcılık
- Dil ve içeriği değerlendirirken sağduyulu karar verebilme
- Yapay zekâ yanıtlarının doğru, eksiksiz ve uygun olup olmadığını belirleyebilme ve değerlendirmeyi açıklayabilme
- İnce hatalara, tutarsızlıklara ve eksikliklere karşı güçlü dikkat
- Kılavuzlara ve kalite standartlarına tutarlı biçimde uyma
- Gerekçeleri teknik ve teknik olmayan kitlelere açıkça aktarabilme
- Projeler, görev biçimleri ve müşteriler arasında uyum sağlayabilme
- Bağımsız yüklenici statüsü
- H-1B veya STEM OPT adayı olmamak
- Tercihen jailbreak veri kümeleri, istem enjeksiyonu, RLHF/DPO saldırıları veya model çıkarımı konusunda karşıt makine öğrenimi deneyimi
- Tercihen sızma testi, istismar geliştirme veya tersine mühendislik alanlarında siber güvenlik deneyimi
- Tercihen taciz veya dezenformasyon araştırması, kötüye kullanım analizi ya da konuşmaya dayalı yapay zekâ testi dâhil sosyo-teknik risk deneyimi
- Tercihen alışılmadık karşıt düşünmeyi destekleyen psikoloji, oyunculuk veya yazarlık deneyimi
Yan Haklar
- Tamamen uzaktan çalışma
- Kendi programınıza göre çalışabilme olanağı sunan esnek çalışma saatleri
- Stripe veya Wise üzerinden haftalık ödemeler
- Projeler, iş ihtiyaçlarına ve performansa bağlı olarak uzatılabilir, kısaltılabilir veya erken sonlandırılabilir
- Daha yüksek hassasiyet gerektiren projelere isteğe bağlı katılım
- İçerik kılavuzları ve iyi olma kaynakları sağlanır
- Rekabetçi ücret
- Talep üzerine makul düzenlemeler sağlanır
- Başarılı yönlendirme başına, yönlendirme sınırlarına tabi olarak 90 ABD dolarına kadar yönlendirme ödemesi