51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zeka Güvenliği Kırmızı Takım Uzmanı - Amerika Birleşik Devletleri Uzaktan
Mercor, öncü yapay zeka modellerini sınamak ve yüksek riskli alanlardaki güvenlik açıklarını ortaya çıkarmak üzere uzaktan çalışacak bir Yapay Zeka Güvenliği Kırmızı Takım Uzmanı arıyor. Sözleşmeli bu rol, gelişmiş sistemler geliştiren ve iyileştiren yapay zeka laboratuvarlarını destekler.
Açıklama
- Öncü yapay zeka modellerini sınamak için düşmanca istemler oluşturun
- Korumaları aşma girişimlerini, güvenli olmayan davranışları, halüsinasyonları ve politika ihlallerini tespit edin
- Modelin yanlış bilgilendirme, siber tehditler, biyogüvenlik riskleri, dolandırıcılık, siyasi içerik ve diğer hassas konular karşısındaki dayanıklılığını değerlendirin
- Tespit edilen güvenlik açıklarını kaydedin ve güvenlik kıyaslamaları ile kırmızı takım raporlarının hazırlanmasına yardımcı olun
- Model uyumunu, dayanıklılığını ve güvenliğini güçlendirmek için yapay zeka araştırmacılarıyla iş birliği yapın
- Yapay zeka sistemlerini eğiten ve geliştiren projelere katkıda bulunun
Gereksinimler
- Bilgisayar bilimi, siber güvenlik, gazetecilik, iletişim, psikoloji, biyoloji, kimya, kamu politikası veya ilgili bir alanda lisans ya da daha üstü derece
- Yapay zeka güvenliği, yapay zeka kırmızı takım çalışmaları, güven ve güvenlik, siber güvenlik, araştırmacı gazetecilik, yaşam bilimleri veya ilgili bir alanda en az beş yıllık profesyonel deneyim
- Güçlü analitik muhakeme, istem tasarlama becerisi ve yazılı iletişim yeteneği
- Düşmanca istemler oluşturma veya öncü yapay zeka sistemlerini değerlendirme deneyimi
- Yapay zeka kırmızı takım çalışmaları, RLHF, SFT, yapay zeka uyumu veya güven ve güvenlik deneyimi tercih edilir
- Korumaları aşma testi, istem mühendisliği veya düşmanca değerlendirme yöntemlerine aşinalık tercih edilir
- Siber güvenlik, biyogüvenlik, siyasi içerik, yanlış bilgilendirme veya bilimsel güvenlik gibi gri alanlardan en az birinde uzmanlık tercih edilir
- Bağımsız yüklenici olarak çalışma becerisi
- H-1B ve STEM OPT adayları desteklenmemektedir
Yan Haklar
- Tamamen uzaktan çalışma
- Esnek ve kişinin kendi yönettiği çalışma programı
- Stripe veya Wise üzerinden haftalık ödemeler
- Projeler, iş ihtiyaçlarına ve performansa bağlı olarak uzatılabilir, kısaltılabilir veya erken sonlandırılabilir
- Rekabetçi ücret
- Önde gelen yapay zeka araştırmacıları ve güvenlik ekipleriyle iş birliği
- Talep üzerine makul düzenlemeler sağlanır
- Geçerli sınırlamalara tabi olarak başarılı her yönlendirme için 340 ABD dolarına kadar yönlendirme ödemesi