Mindrift는 전문 기여자와 분야별 전문가를 기술 기업의 인공지능 학습 및 평가 프로젝트와 연결하는 인공지능 인재 마켓플레이스이자 SaaS 플랫폼입니다. Toloka의 일원으로서 작가, 편집자, QA 전문가, 과학자 및 기타 주제별 전문가와 협력해 학습 데이터를 생성하고, 모델의 안전성과 추론 능력을 평가하며, 미디어 품질을 검토하고, 인공지능의 성능과 신뢰성을 향상시키기 위한 실제 시나리오를 만듭니다. Mindrift는 평가와 신원 확인을 통해 기여자를 모집하고 검증한 후, 인공지능 학습 및 평가 분야에서 유연한 유급 프로젝트 기회를 제공합니다.
시니어 Python 웹 스크래핑 엔지니어(프리랜서, 포르투갈 원격)
Mindrift의 Tendem AI 프로젝트를 위한 안정적인 웹 스크래핑 및 데이터 처리 파이프라인을 구축합니다. 복잡하고 동적인 웹사이트에서 구조화된 데이터세트를 추출하고 검증하며 확장합니다.
설명
- 복잡한 웹사이트에서 엔드투엔드로 데이터를 추출하고 완전하고 정확하며 신뢰할 수 있는 구조화 데이터세트를 제공한다
- 도구와 맞춤형 워크플로를 활용해 데이터 수집, 검증 및 작업 완료를 효율화한다
- 동적이고 상호작용적인 소스에서 데이터를 수집하며 JavaScript로 렌더링되는 콘텐츠와 변화하는 웹사이트 동작에 대응한다
- 검증 검사, 소스 간 비교, 형식 요구사항 및 체계적인 검토를 통해 데이터 품질을 유지한다
- 효율적인 배치 처리 또는 병렬 처리를 통해 대규모 데이터세트의 스크래핑 작업을 확장한다
- 추출 실패를 추적하고 사이트의 경미한 구조 변경에도 안정성을 유지한다
- 전문적인 Tendem 프로젝트 워크플로에서 웹 스크래핑, 데이터 추출 및 데이터 처리 전문성을 활용한다
지원 자격
- 데이터 엔지니어링, 웹 스크래핑, 자동화 또는 소프트웨어 개발 관련 분야에서 최소 5년의 경험이 있다
- BeautifulSoup, Selenium 또는 이에 준하는 도구, JavaScript 및 AJAX 콘텐츠, 무한 스크롤, API와 프록시를 포함한 Python 스크래핑 역량이 뛰어나다
- 복잡한 계층 구조, 보관된 페이지 및 일관되지 않은 HTML에서 정보를 추출할 수 있다
- 데이터 정제, 정규화 및 검증에 대한 탄탄한 기반이 있으며 구조화된 CSV, JSON 및 Google Sheets 데이터세트를 생성한 경험이 있다
- 대규모 환경에서 안티봇 보호 기능과 변화하는 사이트 구조를 처리한 경험이 있다
- AWS 또는 이에 준하는 클라우드 인프라와 Docker 기반 컨테이너화 경험이 있다
- LangChain, OpenRouter 또는 유사 도구와 같은 LLM 프레임워크를 자동화 작업에 실무적으로 적용한 경험이 있다
- 세부 사항에 주의를 기울이고 데이터 정확성을 일관되게 중시한다
- 독립적으로 업무를 수행하고 문제 해결을 주도하며 자기주도적으로 일할 수 있다
- 영어 능력이 중상급(B2) 이상이다
- 공학, 응용수학, 컴퓨터과학 또는 관련 기술 분야의 학사 또는 석사 학위 보유자는 우대한다
- GitHub 프로필 링크 보유자는 우대한다
복리후생
- 프리랜서 계약
- 프로젝트가 활발한 기간에는 주당 10~20시간으로 예상되는 파트타임 업무
- 원격 근무 방식
- Mindrift 플랫폼을 통해 혁신적인 기술 프로젝트에 참여할 기회
