51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Güvenliği Kırmızı Ekip Uzmanı (İngilizce ve Pencapça)
İngilizce ve Pencapça dillerinde sohbet tabanlı yapay zekâ modellerini ve ajanlarını düşmanca yöntemlerle test edin. Mercor’un insan verisi odaklı yapay zekâ güvenliği projeleri için güvenlik açığı açıklamaları, saldırı senaryoları, veri kümeleri ve yeniden üretilebilir güvenlik raporları oluşturun.
Açıklama
- Sohbet tabanlı yapay zekâ modellerini ve ajanlarını jailbreak yöntemleri, istem enjeksiyonları, kötüye kullanım senaryoları, önyargı istismarı ve çok turlu manipülasyonla sınayın
- Hataları belgeleyerek, güvenlik açıklarını sınıflandırarak ve sistemik riskleri belirleyerek insan verisi açıklamaları oluşturun
- Tutarlı değerlendirmeler için yerleşik taksonomileri, kıyaslamaları ve çalışma kılavuzlarını kullanın
- Müşteriler için yeniden üretilebilir raporlar, veri kümeleri ve saldırı senaryoları teslim edin
- Önyargı, yanlış bilgi, zararlı davranış ve diğer hassas konularla ilgili yapay zekâ çıktılarını değerlendirin
- Otomatik testlerin gözden kaçırabileceği güvenlik açıklarını belirlemek için değerlendirme kapsamını genişletin
- Müşterilerin yapay zekâ sistemlerinin güvenliğini, dayanıklılığını ve güvenilirliğini geliştirmeye yardımcı olun
Gereksinimler
- Ana dil düzeyinde veya akıcı İngilizce ve Pencapça bilgisi
- Yapay zekâ tarafından oluşturulan içeriğin doğruluğunu, eksiksizliğini ve uygunluğunu değerlendirirken sağduyulu karar verebilme
- İnce hataları, tutarsızlıkları ve eksiklikleri tespit edebilme
- Kılavuzlara, taksonomilere, kıyaslamalara, çalışma kılavuzlarına ve kalite standartlarına sürekli uyma
- Gerekçeleri teknik ve teknik olmayan kitlelere açıkça aktarabilme
- Projeler, görev formatları ve müşteri gereksinimleri arasında esnek çalışabilme
- Bağımsız yüklenici olarak çalışabilme
- H1-B ve STEM OPT adayları desteklenmemektedir
- Düşmanca makine öğrenmesi, jailbreak veri kümeleri, istem enjeksiyonu veya RLHF/DPO saldırıları, model çıkarımı, sızma testleri, istismar geliştirme, tersine mühendislik, taciz veya dezenformasyon araştırması, kötüye kullanım analizi, sohbet tabanlı yapay zekâ testi, psikoloji, oyunculuk ya da alışılmadık düşmanca yazım alanlarında deneyim tercih sebebidir
Yan Haklar
- Esnek ve kendi kendine yönetilen çalışma saatleriyle tamamen uzaktan çalışma
- Stripe veya Wise üzerinden haftalık ödemeler
- Rekabetçi ücretlendirme
- Sağlık ve esenlik kaynakları ile daha yüksek hassasiyet gerektiren projeler için açık yönlendirme
- Talep üzerine makul düzenlemeler sağlanır
- Başarılı her yönlendirme için 90 ABD dolarına kadar yönlendirme ödemesi
- Önde gelen araştırmacılarla iş birliği fırsatları
- Yapay zekâ güvenliğinin ön saflarında insan verisiyle kırmızı ekip çalışması konusunda uygulamalı deneyim