FAR.AI
FAR.AI
FAR.AI — дослідницька та освітня неприбуткова організація, яка прагне зробити передовий штучний інтелект безпечним і корисним для всіх. Її команда вивчає ключові проблеми надійного ШІ, зокрема стійкість, обман, інтерпретованість і оцінювання передових систем. Завдяки технічним дослідженням, навчанню, заходам, семінарам, грантовим програмам та ініціативам на кшталт FAR.Labs FAR.AI підтримує дослідників і зміцнює спроможність галузі створювати безпечний ШІ, узгоджений із людськими інтересами. Організація також поширює результати досліджень, об’єднує лідерів академічної та промислової сфер і співпрацює з університетами та державними установами у сфері безпеки ШІ та політики.

Керівник інженерного напряму з AI Red Team

Керуйте інженерною функцією FAR.AI у межах глобальної програми тестування передових ШІ-систем на стійкість до атак. Створюйте команди, агентні інструменти та системи оцінювання, що сприяють розвитку безпеки ШІ.

Опис

  • Розвивати інженерну організацію FAR.AI з напряму Red Team, а також її системи, продукти, сервіси, оцінювання та агентів
  • Створювати агентні системи тестування на стійкість до атак, які систематично досліджують поверхні атак
  • Виявляти нещодавно оприлюднені публічні джейлбрейки та автоматично інтегрувати їх у платформи тестування
  • Удосконалювати методи моделювання атакувальників і оцінювання шкідливих результатів
  • Розробляти бази даних уразливостей, можливості статистичного аналізу та інфраструктуру звітності
  • Постачати системи для відповідальних проєктів із тестування передових ШІ-систем спільно з компаніями та державними органами
  • Допомагати готувати публічні звіти, бенчмарки та рейтинги
  • Брати участь у тестуванні як закритих, так і відкритих за вагами передових моделей
  • Розробляти агентні робочі процеси, що підвищують ефективність Red Team
  • Керувати учасниками інженерних і Red Team-команд, наставляти їх і підтримувати
  • Планувати роботу спринтів і спрямовувати інженерну реалізацію
  • Створювати масштабовані процеси для проєктів, що швидко змінюються
  • Розробляти процеси найму та залучати інженерних менеджерів й інших учасників команди
  • Виявляти інженерні обмеження та впроваджувати ефективні заходи для їх усунення
  • Працювати з технічним керівництвом над інженерними системами, методами, оцінюваннями та дослідженнями
  • Брати участь у формуванні технічної та продуктової стратегії Red Team
  • Перетворювати технічні концепції та результати досліджень на практичний вплив у реальному світі

Вимоги

  • Значний досвід у розробленні програмного забезпечення, ШІ або комп’ютерній інженерії, зокрема в таких сферах, як кібербезпека чи MLOps
  • Підтверджений досвід створення, розвитку та керування технічними командами, зокрема стартапами від початку та командами менеджерів
  • Практичний досвід роботи з агентами для програмування, Python, API LLM, локальними фреймворками LLM, фреймворками оцінювання, агентами LLM, хмарною інфраструктурою та обчислювальними кластерами
  • Здатність ефективно працювати в середовищі, що швидко змінюється
  • Чітка відданість розвитку місії та впливу передових ШІ-систем
  • Сильні комунікативні навички для пояснення технічних рішень як технічній, так і нетехнічній аудиторії
  • Наполегливість у досягненні амбітних цілей
  • Досвід створення або тестування передових LLM чи агентних систем буде перевагою
  • Досвід створення технічних команд і продуктів у підприємницькому середовищі буде перевагою
  • Здатність виявляти непомітні вразливості високої серйозності у складних системах буде перевагою
  • Досвід у сфері змагального машинного навчання або безпеки буде перевагою
  • Попередній досвід роботи в ШІ-лабораторіях, командах безпеки або державних інститутах безпеки буде перевагою
  • Опубліковані дослідження чи інші роботи у сфері безпеки, захищеності або стійкості ШІ будуть перевагою
  • Готовність працювати з певною гнучкістю щодо часових поясів
  • Готовність працювати повний робочий день — 40 годин на тиждень

Переваги

  • Витрати на робочі поїздки покриваються
  • Витрати на обладнання покриваються
  • В офісі в Берклі надаються обіди та вечері
  • Доступне візове спонсорство для США або Сінгапуру
  • Оплачуваний випробувальний період

Схожі вакансії

RELX

Науковий редактор Cell Host & Microbe

RELX

Оцінюйте дослідження з мікробіології та замовляйте матеріали для журналу Elsevier Cell Host & Microbe. Долучайтеся до рецензування, підтримки авторів, редакційної стратегії та наукової комунікації.

Відкрити
Studies Weekly

Дистанційний менеджер із роботи з клієнтами: продаж навчальних програм для 1–8 класів у Studies Weekly

Studies Weekly
201 – 500 Працівники
SaaSОсвіта

Керуйте продовженнями контрактів, пошуком потенційних клієнтів і роботою в CRM для продажу навчальних програм Studies Weekly для 1–8 класів. Допомагайте утримувати клієнтів і розвивати територію, підтримуючи впровадження програм.

Відкрити
Thomson Reuters

Помічник фоторедактора, глобальна фотослужба Reuters

Thomson Reuters

Редагуйте світлини Reuters і підписи до них для світових новин, забезпечуючи точне й оперативне висвітлення новин, спорту та розваг.

Відкрити
Johnson Controls

Заступник юридичного директора з трудового права

Johnson Controls

Консультуйте Johnson Controls з питань трудового права у США та в усьому світі, зокрема щодо розслідувань, судових спорів, кадрових правил і угод M&A. Керуйте юридичними напрямами роботи з трудового права та консультуйте HR і керівників бізнесу.

Відкрити
Ace Hardware Corporation

Менеджер із продажу обладнання в регіоні — Су-Фолс

Ace Hardware Corporation
5 001 – 10 000 Працівники
КонсалтингЛогістикаМаркетинг

Розвивайте оптові продажі обладнання в Південній Дакоті, Міннесоті та Небрасці, зміцнюючи партнерство з роздрібними продавцями та залучаючи нових клієнтів. Створюйте індивідуальні стратегії й плани продажів, щоб збільшувати дохід Emery Jensen.

Відкрити
Pan-American Life Insurance Group

Регіональний віцепрезидент із продажів і розвитку бізнесу — Аризона

Pan-American Life Insurance Group

Керуйте зростанням продажів страхових продуктів Pan-American Life у сферах страхування життя, від нещасних випадків і здоров’я в Аризоні, розвиваючи партнерства з брокерами. Керуйте фахівцями з розвитку бізнесу та відповідайте за стратегію території, воронку продажів і виконання планів.

Відкрити
Incora

Менеджер із роботи з клієнтами II, Канада (віддалено)

Incora

Ведення клієнтських рахунків Incora в Канаді, виконання зобов’язань щодо обслуговування та зростання доходу. Координація прогнозування, планування запасів, роботи ланцюга постачання та взаємин із клієнтами.

Відкрити
Capita

Менеджер із розвитку бізнесу в державному секторі Capita

Capita

Розвивайте бізнес Capita у державному секторі, залучаючи проєкти у сфері контакт-центрів, технологій, BPO та управління справами. Будуйте партнерські відносини з клієнтами й супроводжуйте новий бізнес до етапу реалізації.

Відкрити
Liberty Mutual Insurance
Liberty Mutual Insurance

Фахівець із внутрішніх продажів — віддалена робота, Liberty Mutual

Liberty Mutual Insurance

Віддалена робота в Liberty Mutual Insurance: опрацювання вхідних звернень і зацікавлених потенційних клієнтів, допомога з вибором страхового покриття. Основне завдання — перетворювати потенційних клієнтів на власників страхових полісів.

Відкрити