51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Güvenliği Uzmanı, İngilizce ve Felemenkçe (Uzaktan Sözleşmeli)
Mercor, konuşma modelleri ve ajanlarında kırmızı takım testleri yapacak İngilizce ve Felemenkçe bilen yapay zekâ güvenliği uzmanları arıyor. Çalışma; öncü yapay zekâ geliştirme süreçleri için güvenlik açığı verileri, saldırı senaryoları ve yeniden üretilebilir güvenlik raporları oluşturmayı kapsıyor.
Açıklama
- Konuşma tabanlı yapay zekâ modellerini ve ajanlarını jailbreak, istem enjeksiyonu, kötüye kullanım senaryoları, önyargı istismarı ve çok turlu manipülasyon kullanarak test edin
- Hataları etiketleyerek, güvenlik açıklarını sınıflandırarak ve sistemik riskleri belirleyerek insanlar tarafından oluşturulan veriler üretin
- Tutarlı güvenlik testlerini desteklemek için sınıflandırmalar, kıyaslamalar ve kılavuzlardan yararlanın
- Müşteriler için yeniden üretilebilir raporlar, veri kümeleri ve saldırı vakaları geliştirin
- Otomatik testlerin gözden kaçırabileceği güvenlik açıklarını bulun
- Beklenmedik üretim risklerini azaltmaya yardımcı olmak için değerlendirme kapsamını genişletin
- Öncü yapay zekâ sistemlerini eğitmek ve geliştirmek için önde gelen araştırmacılarla çalışın
Gereksinimler
- İngilizce ve Felemenkçeyi ana dil düzeyinde bilmek
- Yapay zekâ kırmızı takım testleri, siber güvenlikte adversarial çalışmalar veya sosyo-teknik inceleme konularında önceki deneyim
- Yapay zekâ sistemlerini adversarial yöntemlerle test edebilme ve onları hata koşullarına yönlendirebilme
- Yapılandırılmış testlerde çerçeveleri veya kıyaslamaları uygulama deneyimi
- Riskleri teknik ve teknik olmayan kitlelere açıkça iletebilme
- Farklı projelere ve müşterilere uyum sağlayabilme
- Jailbreak veri kümeleri, istem enjeksiyonu, RLHF/DPO saldırıları veya model çıkarımıyla adversarial makine öğrenmesi deneyimi tercih edilir
- Sızma testi, istismar geliştirme veya tersine mühendislik alanlarında siber güvenlik deneyimi tercih edilir
- Taciz veya dezenformasyon incelemesi, kötüye kullanım analizi ya da konuşma tabanlı yapay zekâ testi içeren sosyo-teknik risk deneyimi tercih edilir
- Psikoloji, oyunculuk veya yazarlık alanlarında yaratıcı inceleme deneyimi tercih edilir
- Bağımsız yüklenici olarak çalışabilmek
- H-1B ve STEM OPT adaylarına destek sağlanmamaktadır
Yan Haklar
- Tamamen uzaktan çalışma
- Kendi çalışma saatlerinizi belirleyebileceğiniz esnek çalışma düzeni
- Sunulan hizmetlere bağlı olarak Stripe veya Wise üzerinden haftalık ödemeler
- Projeler, iş ihtiyaçlarına ve performansa bağlı olarak uzatılabilir, kısaltılabilir veya erken sonlandırılabilir
- Daha yüksek hassasiyet gerektiren projelere katılım isteğe bağlıdır
- İçerik yönergeleri ve iyi olma kaynakları sağlanır
- Talep üzerine makul düzenlemeler yapılabilir
- Rekabetçi saatlik ücret
- Başarılı her yönlendirme için, sınırlara tabi olarak 250 ABD dolarına kadar yönlendirme fırsatı