51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Model Güvenliği Kırmızı Takım Uzmanı
Mercor’un ileri düzey yapay zekâ modellerini güvenlik açıkları açısından saldırgan testlerle sınayın. Güvenlik açıklarını belirleyin ve model uyumunu geliştirmeye katkı sağlayın.
Açıklama
- İleri düzey yapay zekâ modellerini sınamak için saldırgan istemler oluşturun.
- Jailbreak girişimlerini, güvensiz davranışları, halüsinasyonları ve politika ihlallerini tespit edin.
- Yanlış bilgi, siber güvenlik, biyogüvenlik, dolandırıcılık, siyasi içerik ve diğer hassas alanlarda modellerin dayanıklılığını sınayın.
- Güvenlik açıklarını kaydedin; güvenlik kıyaslamaları ve kırmızı takım raporlarının hazırlanmasına katkıda bulunun.
- Model uyumunu, dayanıklılığını ve güvenliğini güçlendirmek için yapay zekâ araştırmacılarıyla iş birliği yapın.
- İleri düzey yapay zekâ modellerinin yeni neslini korumaya ve geliştirmeye yardımcı olun.
- Yapay zekâ sistemlerini eğiten ve geliştiren projelere katkı sağlayın.
Gereksinimler
- Bilgisayar bilimi, siber güvenlik, gazetecilik, iletişim, psikoloji, biyoloji, kimya, kamu politikası veya ilgili bir alanda lisans ya da daha üst düzey diploma
- Yapay zekâ güvenliği, yapay zekâ kırmızı takım çalışmaları, güven ve emniyet, siber güvenlik, araştırmacı gazetecilik, yaşam bilimleri veya ilgili bir alanda en az beş yıllık profesyonel deneyim
- Güçlü analitik düşünme, istem tasarımı ve yazma becerileri
- Saldırgan istemler oluşturma veya ileri düzey yapay zekâ sistemlerini değerlendirme deneyimi
- Yapay zekâ kırmızı takım çalışmaları, RLHF, denetimli ince ayar, yapay zekâ uyumu veya güven ve emniyet alanlarında deneyim tercih edilir
- Jailbreak testleri, istem mühendisliği veya saldırgan değerlendirme yöntemlerine aşinalık tercih edilir
- Siber güvenlik, biyogüvenlik, siyasi içerik, yanlış bilgi veya bilimsel güvenlik gibi hassas alanlardan en az birinde uzmanlık tercih edilir
- H-1B veya STEM OPT sponsorluğu gerektirmemelidir; Mercor bu sponsorluk türlerinden herhangi birine ihtiyaç duyan adayları destekleyemez
Yan Haklar
- Esnek çalışma saatleriyle tamamen uzaktan çalışma
- Verilen hizmetler karşılığında Stripe veya Wise üzerinden haftalık ödeme
- Proje süresi, ihtiyaçlara ve performansa bağlı olarak değişebilir veya erken sona erebilir
- Önde gelen yapay zekâ araştırmacıları ve güvenlik ekipleriyle çalışma
- Yapay zekâ sistemlerinin karmaşık gerçek yaşam güvenlik sorunlarını ele alma biçimini şekillendirmeye katkı
- Talep üzerine makul düzenlemeler sağlanır
- Belirli sınırlamalara tabi olarak, başarılı her yönlendirme için 340 ABD dolarına kadar ödeme