51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Güvenliği Uzmanı – İngilizce ve Bengalce (Uzaktan Sözleşmeli)
Mercor, diyalog tabanlı yapay zekâ sistemlerindeki güvenlik açıklarını belirlemek üzere İngilizce ve Bengalce bilen bir yapay zekâ güvenliği kırmızı takım uzmanı arıyor. Rol, yeniden üretilebilir saldırı örnekleri ve öncü modelleri eğiten yapay zekâ laboratuvarları için insanlar tarafından oluşturulmuş veriler hazırlamayı içeriyor.
Açıklama
- Diyalog tabanlı yapay zekâ modellerini ve aracılarını jailbreak, prompt injection, kötüye kullanım senaryoları, önyargı istismarı ve çok turlu manipülasyon yöntemleriyle test etmek
- Başarısızlıkları açıklayarak, güvenlik açıklarını kategorilere ayırarak ve sistemik riskleri belirleyerek insanlar tarafından oluşturulmuş veriler hazırlamak
- Değerlendirmelerin tutarlı kalması için yerleşik taksonomileri, kıyaslamaları ve çalışma kılavuzlarını kullanmak
- Müşteriler için yeniden üretilebilir raporlar, veri kümeleri ve saldırı örnekleri sunmak
- Önyargı, yanlış bilgilendirme, zararlı davranış ve diğer hassas konuları içeren yapay zekâ yanıtlarını değerlendirmek
- Değerlendirme kapsamını genişletmek ve müşterilerin daha güçlü yapay zekâ sistemlerine katkıda bulunmak
Gereksinimler
- Hem İngilizcede hem Bengalcede ana dil düzeyinde veya akıcı yeterlilik
- Yapay zekâ yanıtlarının doğru, eksiksiz ve uygun olup olmadığını belirleyebilme ve değerlendirmenin gerekçesini açıklayabilme dâhil olmak üzere dil ve içeriği değerlendirirken sağduyulu karar verebilme
- İnce hatalara, tutarsızlıklara ve eksikliklere karşı güçlü dikkat
- Test yönergelerine ve kalite standartlarına güvenilir biçimde uyma
- Gerekçeleri hem teknik hem de teknik olmayan kitlelere açıkça aktarabilme
- Projeler, görev biçimleri ve müşteriler arasında uyum sağlayabilme isteği
- Bağımsız yüklenici olarak çalışma becerisi
- H-1B veya STEM OPT sponsorluğuna ihtiyaç duymamak
- Tercihen: jailbreak veri kümeleri, prompt injection, RLHF/DPO saldırıları veya model çıkarımıyla adversarial makine öğrenimi deneyimi
- Tercihen: sızma testi, exploit geliştirme veya tersine mühendislik alanlarında siber güvenlik deneyimi
- Tercihen: taciz veya dezenformasyon araştırması, kötüye kullanım analizi ya da diyalog tabanlı yapay zekâ testi alanlarında sosyo-teknik risk deneyimi
- Tercihen: alışılmadık adversarial düşünmeyi destekleyen psikoloji, oyunculuk veya yazarlık deneyimi
Yan Haklar
- Tamamen uzaktan çalışma
- Esnek bir program belirleyerek kendi müsaitliğinize göre çalışma
- Stripe veya Wise üzerinden haftalık ödeme alma
- Daha yüksek hassasiyet gerektiren projelere katılıp katılmayacağınızı seçme
- Hassas içerikli görevler için açık yönlendirmelere ve esenlik kaynaklarına erişim
- Rekabetçi ücret alma
- İnsan verilerine dayalı yapay zekâ kırmızı takım çalışmasında deneyim kazanma
- Önde gelen yapay zekâ araştırmacılarıyla iş birliği yapma
- Her başarılı yönlendirme için 90 ABD dolarına kadar yönlendirme ödemesi kazanma