51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Uzaktan Yapay Zekâ Güvenliği Uzmanı (İngilizce ve Kannada)
İngilizce ve Kannada girdileri kullanarak Mercor’un öncü yapay zekâ modellerinde karşıtlık temelli testler gerçekleştirin ve güvenlik açıklarını belirleyin. Yapay zekâ müşterilerinin kullanabileceği tekrarlanabilir güvenlik verileri, saldırı senaryoları ve raporlar oluşturun.
Açıklama
- Konuşmaya dayalı yapay zekâ modellerini ve ajanlarını jailbreak, istem enjeksiyonu, kötüye kullanım senaryoları, önyargı istismarı ve çok turlu manipülasyonla test edin
- Hataları açıklama, güvenlik açıklarını kategorilere ayırma ve sistemik riskleri belirleme yoluyla insanlar tarafından oluşturulmuş veriler üretin
- Tutarlı değerlendirmeleri sürdürmek için yerleşik taksonomileri, kıyaslamaları ve çalışma kılavuzlarını kullanın
- Müşterilerin kullanabileceği tekrarlanabilir raporlar, veri kümeleri ve saldırı senaryoları geliştirin
- Önyargı, yanlış bilgi ve zararlı davranışlar dâhil olmak üzere hassas konulardaki yapay zekâ çıktılarını değerlendirin
- Otomatik değerlendirmelerin gözden kaçırabileceği zayıflıkları bulun
- Beklenmedik üretim sorunlarını önlemeye yardımcı olmak için değerlendirme kapsamını genişletin
- Mercor’un yapay zekâ laboratuvarı ve kurumsal müşterileri için yapay zekâ sistemlerini eğiten ve geliştiren projelere katkıda bulunun
Gereksinimler
- Hem İngilizce hem de Kannada dillerinde ana dili düzeyinde veya akıcı yeterlilik
- Yapay zekâ yanıtlarının doğruluğu, eksiksizliği ve uygunluğu dâhil olmak üzere dili ve içeriği değerlendirirken sağduyulu karar verebilme
- Gerekçeleri teknik ve teknik olmayan kitlelere açıkça iletebilme
- İnce hatalara, tutarsızlıklara ve eksikliklere dikkat etme
- Taksonomileri, kıyaslamaları, çalışma kılavuzlarını, yönergeleri ve kalite standartlarını tutarlı biçimde uygulayabilme
- Farklı projeler, görev biçimleri ve müşteriler arasında çalışabilme esnekliği
- Bağımsız yüklenici olarak çalışabilme
- Başvuru sahipleri H-1B veya STEM OPT statüsü için başvuruyor olmamalıdır
- Tercihen jailbreak veri kümeleri, istem enjeksiyonu, RLHF veya DPO saldırıları ya da model çıkarımı konularında karşıtlık temelli makine öğrenimi deneyimi
- Tercihen sızma testi, istismar geliştirme veya tersine mühendislik alanlarında siber güvenlik geçmişi
- Tercihen taciz veya dezenformasyon araştırması, kötüye kullanım analizi ya da konuşmaya dayalı yapay zekâ testi gibi sosyo-teknik risk deneyimi
- Tercihen alışılmadık karşıtlık temelli düşünmeyi destekleyen psikoloji, oyunculuk veya yazarlık deneyimi
Yan Haklar
- Çalışma saatlerinde esneklik sunan tamamen uzaktan sözleşmeli çalışma
- Sunulan hizmetlere bağlı olarak Stripe veya Wise üzerinden haftalık ödeme
- Öncü yapay zekâ güvenliğine odaklanan, insan verileriyle yürütülen yapay zekâ kırmızı takım çalışmalarında deneyim geliştirme fırsatı
- Yapay zekâ sistemlerini daha dayanıklı, güvenli ve güvenilir hâle getirmeye anlamlı katkı
- Daha yüksek hassasiyet içeren projeler için sağlık ve esenlik kaynakları ile belirlenmiş yönlendirme
- Talep üzerine makul düzenlemeler sağlanır
- Geçerli kısıtlamalara tabi olmak üzere, başarılı her yönlendirme için 90 ABD dolarına kadar yönlendirme ödemesi