ActiveFence는 온라인 플랫폼의 신뢰와 안전을 지원하는 사이버 보안 및 인공지능 기업입니다. 인텔리전스 리서치, 인공지능 기반 유해 콘텐츠 탐지, 콘텐츠 조정 도구를 결합한 풀스택 솔루션을 제공하여 아동 착취, 허위 정보, 혐오 발언, 테러리즘, 노출 콘텐츠, 사기 및 기타 온라인 유해 행위와 관련된 위험에 대응할 수 있도록 돕습니다. ActiveFence는 규모가 다양한 신뢰·안전 팀을 지원하며, 100개 이상의 언어로 전 세계 30억 명이 넘는 사용자를 보호할 수 있도록 돕습니다.
ActiveFence 시니어 생성형 AI 데이터 사이언티스트(하이브리드 근무, 이스라엘)
자동화된 레드팀, 머신러닝, 대규모 데이터 분석을 담당하는 시니어 생성형 AI 데이터 사이언티스트 포지션입니다. 온라인 경험과 AI 제품 전반에서 새롭게 등장하는 보안 위협을 식별하는 시스템을 구축합니다.
설명
- 적대적 공격을 생성하고 분석하기 위한 다단계 워크플로를 추론하고 실행하는 확장 가능한 데이터 사이언스 에이전트를 개발합니다.
- 레드팀 캠페인, 모델 평가, 합성 공격에서 생성된 프롬프트와 응답 데이터를 관리하고 해석합니다. 데이터 정제, 큐레이션, 정규화, 라벨링을 포함합니다.
- 정형 및 비정형 데이터를 조사해 추세, 클러스터, 이상 징후, 공격 유형, 탈옥 기법, 새로운 패턴을 식별합니다.
- 레드팀 프로세스를 자동화하는 머신러닝 모델과 예측 알고리즘을 개발합니다.
- 공격 성공률을 측정하고 공급자별 모델 동작을 비교할 수 있는 평가 및 모니터링 파이프라인을 개발합니다.
- 통계적 방법과 실험을 적용해 결과를 검증하고 정확하고 재현 가능한 결과를 뒷받침합니다.
- 테스트, CI/CD, 텔레메트리를 기반으로 비용과 지연 시간을 효율적으로 관리하도록 설계된 안정적이고 확장 가능한 시스템을 통해 연구 결과를 프로덕션으로 전환합니다.
지원 자격
- Python 또는 R과 SQL을 사용한 데이터 사이언스 또는 머신러닝 실무 경력 5년 이상.
- Scikit-Learn과 PyTorch 사용 경력 3년 이상.
- 생성형 AI 레드팀, 적대적 테스트 또는 LLM 보안 관련 실무 경험.
- LLM 기반 시스템 또는 머신러닝 시스템을 프로덕션 환경에서 구축하고 배포한 경험.
- 프롬프트 엔지니어링, 도구 호출, 구조화된 출력, RAG를 포함한 LLM 설계 패턴에 대한 높은 수준의 지식.
- 클러스터링, 임베딩 및 NLP, 의미적 유사도, 이상 또는 신규성 탐지에 대한 깊은 이해.
- 분류, 랭킹 또는 우선순위 지정 시스템 개발 경험.
- 통계, 실험 설계, 모델 평가에 대한 탄탄한 기초.
- Cradle, Apache Hadoop, Spark 및 대규모 ETL·데이터 파이프라인 개발 경험.
- 컴퓨터 과학, 전기공학, 수학, 통계학 또는 관련 분야의 석사 학위.
- 박사 학위 보유자는 우대하지만 필수는 아닙니다.