51 – 200 Çalışanlar
Mercor’un mevcut profili; ürünleri, hizmetleri, müşterileri, faaliyet gösterdiği sektör veya işe alım odağı hakkında doğru bir şirket tanıtımı hazırlamak için yeterli doğrulanmış bilgi içermiyor. Şirketi ya da sunduğu fırsatları açıklamadan önce daha fazla kaynak materyale ihtiyaç duyuluyor.
AI Güvenliği Kırmızı Takım Uzmanı - Amerika Birleşik Devletleri Uzaktan Sözleşmeli
Mercor, öncü yapay zekâ modellerini sınamak ve güvenlik açıklarını ortaya çıkarmak üzere sözleşmeli bir AI Güvenliği Kırmızı Takım Uzmanı arıyor. Rol; yüksek riskli alanlara odaklanır ve daha güvenli, daha güvenilir AI sistemlerinin geliştirilmesine katkı sağlar.
Açıklama
- Öncü yapay zekâ modellerini titizlikle sınayan karşıt saldırı istemleri oluşturmak
- Jailbreak girişimlerini, güvenli olmayan davranışları, halüsinasyonları ve güvenlik politikalarına uyulmamasını tespit etmek
- Dezenformasyon, siber güvenlik, biyogüvenlik, dolandırıcılık, siyasi içerik ve diğer hassas alanlarda model dayanıklılığını değerlendirmek
- Tespit edilen zayıflıkları kaydetmek ve güvenlik kıyaslamaları ile kırmızı takım raporlarına katkı sağlamak
- Model uyumunu, dayanıklılığını ve güvenliğini geliştirmek için yapay zekâ araştırmacılarıyla birlikte çalışmak
- Yeni nesil öncü yapay zekâ sistemlerinin korunmasına ve geliştirilmesine yardımcı olmak
- Yapay zekâ modellerinin gerçek dünyadaki zorlu güvenlik senaryolarını ele alma biçimini şekillendirmek
Gereksinimler
- Bilgisayar bilimi, siber güvenlik, gazetecilik, iletişim, psikoloji, biyoloji, kimya, kamu politikası veya ilgili bir alanda lisans ya da daha yüksek derece
- Yapay zekâ güvenliği, yapay zekâ kırmızı takım çalışmaları, güven ve güvenlik, siber güvenlik, araştırmacı gazetecilik, yaşam bilimleri veya ilgili bir alanda en az beş yıllık profesyonel deneyim
- Güçlü analitik muhakeme, istem geliştirme becerisi ve yazılı iletişim yetkinliği
- Karşıt saldırı istemleri oluşturma veya öncü yapay zekâ sistemlerini değerlendirme konusunda uygulamalı deneyim
- Tercihen yapay zekâ kırmızı takım çalışmaları, RLHF, SFT, yapay zekâ uyumu veya güven ve güvenlik alanında geçmiş
- Tercihen jailbreak değerlendirmeleri, istem mühendisliği veya karşıt değerlendirme yöntemlerine aşinalık
- Tercihen siber güvenlik, biyogüvenlik, siyasi içerik, dezenformasyon veya bilimsel güvenlik gibi incelikli alanlarda uzmanlık
- Bağımsız yüklenici olarak çalışmaya uygunluk
- H-1B ve STEM OPT adayları desteklenmemektedir
Yan Haklar
- Tamamen uzaktan çalışma
- Çalışma saatlerinizi kendiniz belirleme ve görevleri esnek bir programla tamamlama
- Stripe veya Wise üzerinden haftalık ödeme alma
- Proje süresi, iş ihtiyaçlarına ve performansa bağlı olarak değişebilir veya erken sona erebilir
- Rekabetçi ücretlendirme
- Önde gelen yapay zekâ araştırmacıları ve güvenlik ekipleriyle çalışma
- Talep üzerine makul kolaylıklar sağlanır
- Yönlendirme sınırlarına tabi olmak üzere, başarılı her yönlendirme için 340 ABD dolarına kadar ödeme sunan yönlendirme programı