Mindrift는 전문 기여자와 분야별 전문가를 기술 기업의 인공지능 학습 및 평가 프로젝트와 연결하는 인공지능 인재 마켓플레이스이자 SaaS 플랫폼입니다. Toloka의 일원으로서 작가, 편집자, QA 전문가, 과학자 및 기타 주제별 전문가와 협력해 학습 데이터를 생성하고, 모델의 안전성과 추론 능력을 평가하며, 미디어 품질을 검토하고, 인공지능의 성능과 신뢰성을 향상시키기 위한 실제 시나리오를 만듭니다. Mindrift는 평가와 신원 확인을 통해 기여자를 모집하고 검증한 후, 인공지능 학습 및 평가 분야에서 유연한 유급 프로젝트 기회를 제공합니다.
시니어 Python 데이터 스크래핑 엔지니어 - 파트타임 원격
Mindrift의 AI 기술 프로젝트를 위해 신뢰할 수 있는 웹 스크래핑과 구조화된 데이터 제공을 주도합니다. 복잡하고 동적인 웹사이트 전반의 데이터 추출, 검증, 확장 가능한 처리를 자동화합니다.
설명
- 복잡한 웹사이트에서 엔드투엔드 데이터 추출을 주도합니다
- 완전하고 정확하며 신뢰할 수 있는 구조화된 데이터 세트를 제공합니다
- 도구와 맞춤형 워크플로를 활용해 수집, 검증, 작업 실행을 효율화합니다
- 동적 웹 소스에서 데이터를 추출하고 JavaScript 콘텐츠와 변화하는 사이트 동작에 대응합니다
- 검증, 일관성 검사, 형식 관리, 체계적인 확인을 통해 데이터 품질을 유지합니다
- 효율적인 배치 처리와 병렬 처리로 대규모 스크래핑을 확장합니다
- 오류를 모니터링하고 웹사이트 구조의 사소한 변경에도 안정성을 유지합니다
- Apify, OpenRouter 및 관련 기술을 웹 추출과 데이터 처리에 적용합니다
지원 자격
- 데이터 엔지니어링, 웹 스크래핑, 자동화 또는 소프트웨어 개발 분야에서 5년 이상의 관련 경력
- 공학, 응용 수학, 컴퓨터 과학 또는 관련 기술 분야의 학사 또는 석사 학위 보유자는 우대합니다
- 스크립팅, 자동화, 데이터 추출 워크플로에 대한 실무 경험을 포함한 탄탄한 기술 역량
- BeautifulSoup, Selenium 또는 유사 도구, 동적 JavaScript/AJAX 콘텐츠, 무한 스크롤, 프록시 API를 활용한 고급 Python 스크래핑 경험
- 복잡한 계층 구조, 보관된 페이지, 일관되지 않은 HTML에서 정보를 추출할 수 있는 능력
- 데이터를 정제, 정규화, 검증하고 CSV, JSON 또는 Google Sheets 형식으로 제공한 경험
- 대규모 환경에서 안티봇 메커니즘과 변화하는 웹사이트 구조를 관리한 경험
- AWS 또는 이에 준하는 클라우드 인프라와 Docker 컨테이너화 경험
- LangChain, OpenRouter 또는 유사한 LLM 프레임워크를 자동화에 적용한 실무 경험
- 데이터 정확성과 품질에 세심하게 주의를 기울입니다
- 독립적으로 업무를 수행하고 효과적으로 문제를 해결할 수 있습니다
- 중상급(B2) 이상의 영어 능력
- GitHub 프로필 링크 보유자는 우대합니다
복리후생
- 프리랜서 계약
- 파트타임 원격 근무
- 활성 단계에서 주당 약 10~20시간
- 경력 수준과 기여 속도에 따라 시간당 최대 미화 25달러 상당
- Mindrift 플랫폼을 통해 혁신적인 기술 프로젝트에 참여할 기회
