ActiveFence는 온라인 플랫폼의 신뢰와 안전을 지원하는 사이버 보안 및 인공지능 기업입니다. 인텔리전스 리서치, 인공지능 기반 유해 콘텐츠 탐지, 콘텐츠 조정 도구를 결합한 풀스택 솔루션을 제공하여 아동 착취, 허위 정보, 혐오 발언, 테러리즘, 노출 콘텐츠, 사기 및 기타 온라인 유해 행위와 관련된 위험에 대응할 수 있도록 돕습니다. ActiveFence는 규모가 다양한 신뢰·안전 팀을 지원하며, 100개 이상의 언어로 전 세계 30억 명이 넘는 사용자를 보호할 수 있도록 돕습니다.
AI 레드팀 — ActiveFence 생성형 AI 적대적 평가
ActiveFence의 AI 보안 플랫폼을 위한 적대적 공격, 데이터셋, 벤치마크를 개발합니다. 레드팀 활동과 취약점 연구를 통해 대규모 언어 모델의 견고성을 시험합니다.
설명
- 새로운 적대적 공격을 설계합니다.
- 대규모로 공격을 생성하고 시험할 수 있는 확장 가능한 시스템 구축을 지원합니다.
- 공격의 품질, 효과성, 참신성, 재현성을 평가합니다.
- 새롭게 나타나는 공격 패턴과 모델 취약점을 발견합니다.
- 적대적 데이터셋, 벤치마크, 회귀 테스트를 만듭니다.
- 데이터 과학, 보안, 엔지니어링 팀과 발견 내용, 방법, 구조화된 공격 데이터를 공유합니다.
- 모델의 견고성과 방어 역량 강화에 기여합니다.
지원 자격
- 사이버 보안, 보안 연구, 레드팀 또는 관련 보안 분야에서 3년 이상의 실무 경력.
- 데이터 과학, 컴퓨터 공학, 컴퓨터 과학 또는 밀접한 관련 기술 분야의 학사 학위.
- 대규모 언어 모델, 프롬프트 인젝션, AI 보안에 관한 높은 수준의 지식.
- 레드팀, 보안 연구 또는 적대적 테스트 경험.
- 뛰어난 Python 및 자동화 역량.
- 창의적으로 문제를 해결하고 새로운 공격 기법을 개발하는 능력.
- 결과를 분석하고 발견 내용을 명확하게 전달하는 능력.
- OSWA, OSWE, OSCE3, SEC542, SEC522 등 공격형 사이버 보안 자격증 보유자를 우대합니다.