Faculty разработва авангардни решения в областта на изкуствения интелект и машинното обучение, предназначени да се справят със сложни оперативни предизвикателства в отбраната, здравеопазването, финансовите услуги, публичните услуги и търговията на дребно. Компанията работи с организации за прилагане на усъвършенстван изкуствен интелект в области като националната сигурност, прогнозирането на резултати и подобряването на процеси, като поставя акцент върху практическото въздействие, отговорното внедряване и устойчивостта.
Старши научен изследовател по безопасност на ИИ – оценки във Faculty (хибридно, Обединеното кралство)
Ще ръководите изследванията в областта на оценяването на безопасността на ИИ за CBRN и киберрискове във Faculty. Ще разработвате методи, инструменти и доказателства в подкрепа на отговорното внедряване на усъвършенствани системи с ИИ.
Описание
- Разработване на усъвършенствани оценки на безопасността за области с голямо въздействие, включително CBRN и киберрискове.
- Провеждане на оригинални изследвания в областта на безопасността на ИИ от първоначалната концепция до публикуването.
- Идентифициране на стратегически възможности, които укрепват изследователската програма на организацията за оценяване на безопасността.
- Предоставяне на техническа експертиза за клиентски проекти, програми за оценяване и red teaming на водещи лаборатории.
- Представляване на Faculty в дискусии с изследователи, водещи лаборатории за ИИ и представители на правителството.
- Създаване на публикации, технически доклади, рамки за оценяване и изследователски инструменти.
- Тясно сътрудничество с екипите на Faculty по безопасност на ИИ и изпълнение на проекти.
Изисквания
- Доказана отговорност за изследванията от формулирането на оригинални въпроси до публикуването.
- Практически опит в проектирането и прилагането на оценки или бенчмаркове за ИИ.
- Способност за оценяване на конструктивната валидност и за отчитане на смущаващи фактори.
- Експертиза в red teaming, адверсариално тестване, jailbreak атаки, индиректно инжектиране на подкани и устойчивостта на защитните механизми на моделите.
- Стабилни познания по експериментален дизайн, статистически анализ, количествено определяне на неопределеността и байесови методи.
- Задълбочено разбиране на езиковите модели, архитектурите на генеративния ИИ, подходите за обучение и мерките за безопасност.
- Владеене на Python.
- Ангажираност към надеждни и възпроизводими практики в изследователското инженерство.
- Опитът в моделирането на заплахи и рискове е предимство.
- Познанията или опитът в областта на CBRN или киберсигурността са предимство.
- Доказан принос към влиятелни изследвания в областта на ИИ чрез водещи публикации или сравнима практическа работа е предимство.
- Изискванията за спонсориране на виза за Обединеното кралство се оценяват по време на процеса на кандидатстване.
Придобивки
- Възможностите за работа на непълно работно време могат да бъдат обсъдени.
- Подход към набирането на персонал, основан на многообразието и приобщаването.
- Достъп до инструменти с ИИ за изследвания и подготовка за интервю.
- Всяка кандидатура се преглежда от човек.
- Възможност за отказ от автоматичното водене на бележки от интервюто с помощта на ИИ.