51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Güvenliği Uzmanı – İngilizce ve Assamca | Mercor Uzaktan Sözleşmeli Pozisyon
Öncü yapay zekâ modellerini jailbreak, önyargı, kötüye kullanım ve diğer güvenlik riskleri açısından düşmanca test edin. Mercor müşterileri için insan verisi ek açıklamaları, güvenlik açığı sınıflandırmaları ve tekrarlanabilir saldırı kanıtları oluşturun.
Açıklama
- Diyaloğa dayalı yapay zekâ modellerini ve ajanlarını jailbreak, prompt injection, kötüye kullanım, önyargı istismarı ve çok turlu manipülasyon açısından düşmanca test edin
- İnsan verisi ek açıklamaları oluşturun, hataları sınıflandırın ve sistemik riskleri belirleyin
- Değerlendirmeleri standartlaştırmak için yerleşik taksonomileri, kıyaslamaları ve çalışma yönergelerini kullanın
- Müşteriler için tekrarlanabilir raporlar, veri kümeleri ve saldırı vakaları sunun
- Önyargı, yanlış bilgi, zararlı davranış ve diğer hassas konuları içeren yapay zekâ yanıtlarını değerlendirin
- Otomatik testlerin tespit edemediği zayıflıkları bulun
- Beklenmedik üretim sorunlarını önlemeye yardımcı olmak için değerlendirme kapsamını genişletin
- Yapılandırılmış düşmanca testlerle müşterilerin yapay zekâ sistemlerini geliştirin
Gereksinimler
- İngilizce ve Assamca dillerinde ana dil düzeyinde akıcılık
- Dil ve içeriği doğruluk, eksiksizlik ve uygunluk açısından değerlendirirken sağduyulu karar verme becerisi
- İnce hataları, tutarsızlıkları ve eksiklikleri tespit edebilme
- Yönergelere ve kalite standartlarına tutarlı biçimde uyma
- Gerekçeleri hem teknik hem de teknik olmayan kitlelere açıkça aktarabilme
- Projeler, görev biçimleri ve müşteri ihtiyaçları arasında esneklik
- Tercihen: jailbreak veri kümeleri, prompt injection, RLHF veya DPO saldırıları ya da model çıkarımı konusunda düşmanca makine öğrenimi deneyimi
- Tercihen: sızma testi, istismar geliştirme veya tersine mühendislik alanlarında siber güvenlik deneyimi
- Tercihen: taciz veya dezenformasyon araştırması, kötüye kullanım analizi ya da diyaloğa dayalı yapay zekâ testi alanlarında sosyo-teknik risk deneyimi
- Tercihen: alışılmadık düşmanca düşünmeyi destekleyen psikoloji, oyunculuk veya yazarlık deneyimi
- Bağımsız yüklenici olarak çalışabilmelidir
- H-1B ve STEM OPT adayları desteklenmemektedir
Yan Haklar
- Tamamen uzaktan çalışın
- Çalışma programınızı kendiniz seçin
- Stripe veya Wise üzerinden haftalık ödeme alın
- İnsan verilerine dayalı yapay zekâ kırmızı takım çalışmalarında pratik deneyim kazanın
- Yapay zekâ sistemlerini daha dayanıklı, güvenli ve güvenilir hâle getirmeye yardımcı olun
- Önde gelen araştırmacılarla çalışın
- Talep üzerine makul düzenlemeler sağlanır
- Başarılı yönlendirmeler için 90 ABD dolarına kadar yönlendirme ödemesi kazanın