51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
Yapay Zekâ Güvenliği Kırmızı Takım Uzmanı
Mercor, gelişmiş yapay zekâ sistemlerini karşıt amaçlı istemlerle sınamak üzere bir Yapay Zekâ Güvenliği Kırmızı Takım Uzmanı arıyor. Bu rolde riskleri belgeleyecek ve model güvenliğini güçlendirmek için araştırmacılarla çalışacaksınız.
Açıklama
- Gelişmiş yapay zekâ modellerini sınamak için karşıt amaçlı istemler oluşturun
- Jailbreak yöntemlerini, güvenli olmayan çıktıları, halüsinasyonları ve politika boşluklarını tespit edin
- Yanlış bilgi, siber güvenlik, biyogüvenlik, dolandırıcılık ve siyasi içerik gibi hassas alanlarda model dayanıklılığını değerlendirin
- Güvenlik açıklarını kaydedin; güvenlik kıyaslamaları ve kırmızı takım raporları hazırlanmasına katkı sağlayın
- Model uyumunu, dayanıklılığını ve güvenliğini güçlendirmek için yapay zekâ araştırmacılarıyla çalışın
- Yapay zekâ sistemlerini eğiten ve geliştiren projelere katkıda bulunun
Gereksinimler
- Bilgisayar bilimi, siber güvenlik, gazetecilik, iletişim, psikoloji, biyoloji, kimya, kamu politikası veya ilgili bir alanda lisans ya da daha ileri bir derece
- Yapay zekâ güvenliği, yapay zekâ kırmızı takım çalışmaları, güven ve emniyet, siber güvenlik, araştırmacı gazetecilik, yaşam bilimleri veya ilgili bir alanda en az beş yıllık profesyonel deneyim
- Güçlü analitik düşünme, istem tasarlama ve yazma becerileri
- Karşıt amaçlı istemler oluşturma veya gelişmiş yapay zekâ sistemlerini değerlendirme deneyimi
- Tercihen: Yapay zekâ kırmızı takım çalışmaları, RLHF, gözetimli ince ayar, yapay zekâ uyumu ya da güven ve emniyet alanında geçmiş
- Tercihen: Jailbreak testleri, istem mühendisliği veya karşıt değerlendirme yöntemlerine aşinalık
- Tercihen: Siber güvenlik, biyogüvenlik, siyasi içerik, yanlış bilgi veya bilimsel güvenlik gibi incelikli alanlarda uzmanlık
- Bağımsız yüklenici olarak çalışabilme
- H-1B ve STEM OPT adaylarına destek sağlanmamaktadır
Yan Haklar
- Esnek çalışma saatleriyle tamamen uzaktan çalışma
- Verilen hizmetler karşılığında Stripe veya Wise üzerinden haftalık ödeme
- Proje süresi ihtiyaçlara ve performansa bağlı olarak uzatılabilir, kısaltılabilir veya erken sona erdirilebilir
- Rekabetçi ücret
- Önde gelen araştırmacılar ve güvenlik ekipleriyle iş birliği fırsatı
- Talep üzerine makul düzenlemeler sağlanır
- Belirli sınırlara tabi olarak, başarılı her yönlendirme için 340 ABD dolarına kadar teşvik