51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Güvenliği Kırmızı Ekip Uzmanı (İngilizce ve Pencapça)
Mercor, konuşma modelleri ve aracılarını kırmızı ekip testine tabi tutacak İngilizce ve Pencapça bilen bir yapay zekâ güvenliği uzmanı arıyor. Sözleşmeli bu rol; güvenlik açıklarını ortaya çıkarmaya, saldırı senaryoları oluşturmaya ve yapay zekâ araştırması yapan müşteriler için yeniden üretilebilir güvenlik raporları hazırlamaya odaklanır.
Açıklama
- Konuşma yapay zekâ modellerini ve aracılarını jailbreak, istem enjeksiyonu, kötüye kullanım senaryoları, önyargı istismarı ve çok turlu manipülasyonla test etmek
- Önyargı, yanlış bilgilendirme ve zararlı davranışlar dahil olmak üzere hassas konulardaki model çıktılarını değerlendirmek
- Hataları belgelemek, güvenlik açıklarını kategorilere ayırmak ve sistemik riskleri belirlemek
- Değerlendirmelerin tutarlı olmasını sağlamak için yerleşik taksonomileri, kıyaslamaları ve çalışma kılavuzlarını kullanmak
- Müşteriler için yeniden üretilebilir raporlar, veri kümeleri ve saldırı senaryoları oluşturmak
- Otomatik testlerin gözden kaçırabileceği zayıflıkları bulmak için yapay zekâ sistemlerini incelemek
- Üretimde beklenmedik sorunları sınırlamaya yardımcı olmak için değerlendirme kapsamını genişletmek
- İnsan liderliğinde, veriye dayalı kırmızı ekip çalışmasıyla müşterilerin yapay zekâ sistemlerini geliştirmek
Gereksinimler
- İngilizce ve Pencapçada ana dil düzeyinde veya akıcı yeterlilik
- Dil ve içeriği değerlendirirken güçlü muhakeme yeteneği
- Yapay zekâ yanıtlarının doğru, eksiksiz ve uygun olup olmadığını belirleyebilme ve değerlendirmeyi açıklayabilme
- İnce hatalara, tutarsızlıklara ve eksikliklere titizlikle dikkat etme
- Test yönergelerine ve kalite standartlarına tutarlı biçimde uyma
- Gerekçeleri hem teknik hem de teknik olmayan kitlelere açıkça aktarabilme
- Projeler, görev biçimleri ve müşteriler arasında çalışabilecek esneklik
- Bağımsız yüklenici olarak çalışmaya uygunluk
- H-1B veya STEM OPT desteğine ihtiyaç duymamak
- Tercih edilen uzmanlık alanları arasında düşmanca makine öğrenimi, jailbreak veri kümeleri, istem enjeksiyonu, RLHF/DPO saldırıları, model çıkarımı, sızma testleri, açık geliştirme, tersine mühendislik, taciz veya dezenformasyon araştırması, kötüye kullanım analizi, konuşma yapay zekâsı testi, psikoloji, oyunculuk veya yazarlık bulunabilir
Yan Haklar
- Rolün izin verdiği her yerden uzaktan çalışma
- Çalışma programınızı kendiniz belirleme
- Sunulan hizmetler karşılığında Stripe veya Wise üzerinden haftalık ödeme alma
- Projeler, iş ihtiyaçlarına ve performansa bağlı olarak uzatılabilir, azaltılabilir veya erken sonlandırılabilir
- Daha yüksek hassasiyet gerektiren projeler için iyi oluş kaynaklarına ve açık yönlendirmelere erişim
- İnsan verilerine dayalı yapay zekâ kırmızı ekip çalışmasında deneyim kazanma
- Yapay zekâ sistemlerinin daha dayanıklı, güvenli ve güvenilir olmasına katkı sağlama
- Rekabetçi ücretlendirme
- Önde gelen yapay zekâ araştırmacılarıyla iş birliği yapma