51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Güvenliği Kırmızı Ekip Uzmanı – İngilizce ve Fince, Amerika Birleşik Devletleri Uzaktan
Mercor’un insan verisi odaklı yapay zekâ projeleri için sohbet tabanlı yapay zekâ modellerini ve ajanlarını adversarial yöntemlerle test edin. Öncü yapay zekâ sistemlerini güçlendirmeye yardımcı olacak tekrarlanabilir güvenlik açığı verileri oluşturun.
Açıklama
- Jailbreak, prompt injection, kötüye kullanım senaryoları, önyargı istismarı ve çok turlu manipülasyon kullanarak sohbet tabanlı yapay zekâ modellerini ve ajanlarını test edin
- Hataları açıklayın, güvenlik açıklarını kategorilere ayırın ve sistemik riskleri belirleyin
- Tutarlı değerlendirmeler için yerleşik taksonomileri, kıyaslamaları ve çalışma kılavuzlarını uygulayın
- Müşteriler için tekrarlanabilir raporlar, veri kümeleri ve saldırı örnekleri oluşturun
- Otomatik testlerin gözden kaçırabileceği güvenlik açıklarını belirleyin
- Değerlendirme kapsamını genişletin ve beklenmedik üretim sorunlarını azaltmaya yardımcı olun
- Yapay zekâ sistemlerini eğiten ve geliştiren projelerde önde gelen araştırmacılarla çalışın
Gereksinimler
- İngilizce ve Fince dillerinde akıcı veya ana dil düzeyinde yetkinlik
- Yapay zekâda adversarial çalışmalar, siber güvenlik veya sosyo-teknik araştırmalarda önceki kırmızı ekip deneyimi
- Yapay zekâ sistemlerini adversarial yöntemlerle test etme ve onları başarısızlık noktalarına kadar zorlama becerisi
- Yapılandırılmış testler için çerçeveleri veya kıyaslamaları uygulama deneyimi
- Riskleri teknik ve teknik olmayan kitlelere açıkça aktarabilme becerisi
- Projeler ve müşteri gereksinimleri arasında uyum sağlayabilme
- Bağımsız yüklenici çalışmasına uygunluk
- H-1B veya STEM OPT adayı olmamak
- Tercihen jailbreak veri kümeleri, prompt injection, RLHF/DPO saldırıları veya model çıkarımı dâhil adversarial makine öğrenimi deneyimi
- Tercihen penetrasyon testi, açık geliştirme veya tersine mühendislik alanlarında siber güvenlik deneyimi
- Tercihen taciz veya dezenformasyon araştırması, kötüye kullanım analizi ya da sohbet tabanlı yapay zekâ testi alanlarında sosyo-teknik risk deneyimi
- Tercihen alışılmadık adversarial düşünmeyi destekleyen psikoloji, oyunculuk veya yazarlık deneyimi
Yan Haklar
- Tamamen uzaktan çalışma
- Esnek çalışma saatleri
- Stripe veya Wise üzerinden haftalık ödemeler
- Daha yüksek hassasiyet gerektiren projeler için zindelik kaynakları ve net yönergeler
- İnsan verisi odaklı yapay zekâ kırmızı ekip çalışmalarında deneyim kazanma fırsatı
- Yapay zekâ sistemlerini daha dayanıklı, güvenli ve güvenilir hâle getirmeye doğrudan katkı sağlama fırsatı
- Rekabetçi ücret
- Başarılı her yönlendirme için 250 ABD dolarına kadar yönlendirme bonusu