51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Güvenliği Kırmızı Ekip Uzmanı
Mercor, yapay zekâ eğitimi projeleri için öncü yapay zekâ sistemlerini adversaryal testlerle sınayacak bir Yapay Zekâ Güvenliği Kırmızı Ekip Uzmanı arıyor. Rol, yüksek riskli konu alanlarında zorlu istemler oluşturmayı ve güvenlik açıklarını kaydetmeyi içeriyor.
Açıklama
- Öncü yapay zekâ modellerini zorlayan adversaryal istemler oluşturun
- Jailbreak girişimlerini, güvenli olmayan davranışları, halüsinasyonları ve politika ihlallerini tespit edin
- Yanlış bilgilendirme, siber güvenlik, biyogüvenlik, dolandırıcılık, siyasi içerik ve diğer hassas alanlarda model dayanıklılığını değerlendirin
- Keşfedilen güvenlik açıklarını kaydedin ve güvenlik kıyaslamaları ile kırmızı ekip raporlarını destekleyin
- Model uyumunu, sağlamlığını ve güvenliğini güçlendirmek için yapay zekâ araştırmacılarıyla iş birliği yapın
- Yapay zekâ sistemlerini eğiten ve geliştiren projelere katkıda bulunun
Gereksinimler
- Bilgisayar bilimi, siber güvenlik, gazetecilik, iletişim, psikoloji, biyoloji, kimya, kamu politikası veya ilgili bir alanda lisans ya da daha yüksek derece
- Yapay zekâ güvenliği, yapay zekâ kırmızı ekip çalışmaları, güven ve güvenlik, siber güvenlik, araştırmacı gazetecilik, yaşam bilimleri veya ilgili bir alanda en az beş yıl profesyonel deneyim
- Güçlü analitik düşünme, istem mühendisliği ve yazılı iletişim becerileri
- Adversaryal istemler oluşturma veya öncü yapay zekâ sistemlerini değerlendirme deneyimi
- Uygun olarak listelenen konumlardan birinde ikamet etme
- H-1B ve STEM OPT adayları desteklenmemektedir
Yan Haklar
- Tamamen uzaktan çalışın
- Esnek bir program seçin ve size uygun zamanlarda çalışmayı tamamlayın
- Stripe veya Wise üzerinden haftalık ödemeler alın
- Önde gelen yapay zekâ araştırmacıları ve güvenlik ekipleriyle iş birliği yapın
- Öncü yapay zekâ sistemlerinin güvenliğini ve uyumunu şekillendirmeye yardımcı olun
- Proje süresi, iş ihtiyaçlarına ve performansa bağlı olarak değişebilir veya erken sona erebilir
- Yönlendirme sınırlarına tabi olmak üzere, başarılı her yönlendirme için 340 ABD dolarına kadar yönlendirme ödemesi kazanın