51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Güvenliği Uzmanı – İngilizce ve Marathi (Uzaktan Sözleşmeli)
Mercor, konuşmaya dayalı yapay zekâ sistemlerinde kırmızı takım testleri yapmak üzere İngilizce ve Marathi dillerine hâkim bir yapay zekâ güvenliği uzmanı arıyor. Sözleşmeli rol; karşıt saldırı testleri, güvenlik açığı analizi ve insan verisi ile öncü yapay zekâ projeleri için anlaşılır raporlamaya odaklanıyor.
Açıklama
- Konuşmaya dayalı yapay zekâ modellerini ve aracılarını jailbreak, istem enjeksiyonu, kötüye kullanım senaryoları, önyargı istismarı ve çok turlu manipülasyona karşı test etmek
- Hataları açıklayarak, güvenlik açıklarını sınıflandırarak ve sistemik riskleri belirleyerek insan verisi varlıkları oluşturmak
- Tutarlı değerlendirmeler sağlamak için yerleşik taksonomileri, kıyaslamaları ve uygulama kılavuzlarını kullanmak
- Tekrarlanabilir saldırı örnekleri, veri kümeleri ve müşteriye yönelik raporlar sunmak
- Önyargı, yanlış bilgi ve zararlı davranışlar dâhil olmak üzere hassas konulardaki yapay zekâ yanıtlarını değerlendirmek
- Otomatik değerlendirme yöntemlerinin gözden kaçırabileceği zayıflıkları bulmak
- Beklenmedik üretim sorunlarını önlemeye yardımcı olmak için test kapsamını genişletmek
- Müşterilerin yapay zekâ sistemlerinin güvenliğini, dayanıklılığını ve güvenilirliğini geliştirmelerine destek olmak
- Öncü yapay zekâ modellerini eğiten ve ilerleten girişimlerde önde gelen araştırmacılarla çalışmak
Gereksinimler
- Ana dil düzeyinde veya akıcı İngilizce ve Marathi bilgisi
- Dil ve içeriği değerlendirirken sağduyulu karar verebilme
- Yapay zekâ yanıtlarının doğru, eksiksiz ve uygun olup olmadığını belirleyebilme ve bunu anlaşılır biçimde açıklayabilme
- İnce hatalara, tutarsızlıklara ve eksikliklere dikkat etme
- Test yönergelerine ve kalite gerekliliklerine güvenilir biçimde uyma
- Gerekçeleri hem teknik hem de teknik olmayan kitlelere açıkça aktarabilme
- Farklı projeler, görevler ve müşteriler arasında çalışabilme esnekliği
- Bağımsız yüklenici olarak çalışabilme
- H-1B veya STEM OPT sponsorluğuna ihtiyaç duymama
- Tercihen: jailbreak veri kümeleri, istem enjeksiyonu, RLHF/DPO saldırıları veya model çıkarımıyla adversarial makine öğrenimi deneyimi
- Tercihen: sızma testi, istismar geliştirme veya tersine mühendislik alanlarında siber güvenlik deneyimi
- Tercihen: taciz veya dezenformasyon araştırması, kötüye kullanım analizi ya da konuşmaya dayalı yapay zekâ testi alanlarında sosyo-teknik risk deneyimi
- Tercihen: alışılmadık karşıt saldırı düşüncesini destekleyen psikoloji, oyunculuk veya yazarlık deneyimi
Yan Haklar
- Tamamen uzaktan sözleşmeli çalışma
- Çalışma saatlerinizi kendiniz belirleyebileceğiniz esnek program
- Stripe veya Wise üzerinden haftalık ödemeler
- Proje süresi, iş ihtiyaçlarına ve performansa bağlı olarak değişebilir veya erken sona erebilir
- Daha yüksek hassasiyet içeren projelere isteğe bağlı katılım
- Hassas içerikli görevler için belirlenmiş rehberlik ve sağlık kaynakları
- Talep üzerine makul düzenlemeler sağlanır
- Başarılı her yönlendirme için 90 ABD dolarına kadar yönlendirme ödemesi