51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Güvenliği Kırmızı Takım Uzmanı - Uzaktan Sözleşmeli (Amerika Birleşik Devletleri)
Mercor, karşıt testler yoluyla öncü yapay zekâ modellerindeki güvenlik açıklarını ortaya çıkaracak bir Yapay Zekâ Güvenliği Kırmızı Takım Uzmanı arıyor. Bu rol, istemler tasarlamayı ve yüksek riskli model davranışlarını yapay zekâ güvenliği araştırmacılarıyla birlikte değerlendirmeyi içerir.
Açıklama
- Öncü yapay zekâ modellerini zorlamak için karşıt istemler oluşturun
- Jailbreak girişimlerini, güvensiz davranışları, halüsinasyonları ve politika ihlallerini tespit edin
- Dezenformasyon, siber güvenlik, biyogüvenlik, dolandırıcılık, siyasi içerik ve diğer hassas alanlarda model dayanıklılığını değerlendirin
- Güvenlik açıklarını kaydedin ve güvenlik kıyaslamaları ile kırmızı takım raporlarını destekleyin
- Model uyumunu, dayanıklılığını ve güvenliğini güçlendirmek için yapay zekâ araştırmacılarıyla iş birliği yapın
- Yapay zekâ sistemlerini eğiten ve geliştiren projelere katkıda bulunun
Gereksinimler
- Bilgisayar bilimi, siber güvenlik, gazetecilik, iletişim, psikoloji, biyoloji, kimya, kamu politikası veya ilgili bir alanda lisans ya da daha ileri derece
- Yapay zekâ güvenliği, yapay zekâ kırmızı takım çalışmaları, güven ve güvenlik, siber güvenlik, araştırmacı gazetecilik, yaşam bilimleri veya ilgili bir alanda en az beş yıllık profesyonel deneyim
- Güçlü analitik düşünme, istem tasarımı ve yazılı iletişim becerileri
- Karşıt istemler oluşturma veya öncü yapay zekâ sistemlerini değerlendirme deneyimi
- Yapay zekâ kırmızı takım çalışmaları, RLHF, SFT, yapay zekâ uyumu ya da güven ve güvenlik alanlarında tercihen deneyim
- Jailbreak testi, istem mühendisliği veya karşıt değerlendirme yöntemlerine tercihen aşinalık
- Siber güvenlik, biyogüvenlik, siyasi içerik, dezenformasyon veya bilimsel güvenlik gibi gri alanlardan birinde ya da birkaçında tercihen uzmanlık
- Bağımsız yüklenici olarak çalışma becerisi
- H-1B ve STEM OPT adayları desteklenmemektedir
Yan Haklar
- Tamamen uzaktan çalışma
- Esnek çalışma saatleri
- Stripe veya Wise üzerinden haftalık ödemeler
- Projeler, iş ihtiyaçlarına ve performansa bağlı olarak uzatılabilir, kısaltılabilir veya erken sonlandırılabilir
- Önde gelen yapay zekâ araştırmacıları ve güvenlik ekipleriyle karşıt test çalışmaları
- Yapay zekâ sistemlerinin karmaşık ve gerçek dünyadaki güvenlik zorluklarını ele alma biçimini şekillendirme fırsatı
- Talep üzerine makul düzenlemeler sunulur
- Başarılı yönlendirme başına, yönlendirme sınırlarına tabi olarak 340 ABD dolarına kadar yönlendirme ödemesi