Mindrift
Mindrift
Mindrift to marketplace talentów w dziedzinie sztucznej inteligencji oraz platforma SaaS, która łączy profesjonalnych współtwórców i ekspertów branżowych z projektami firm technologicznych dotyczącymi trenowania i oceny systemów AI. Jako część Toloka firma współpracuje z autorami, redaktorami, specjalistami ds. zapewniania jakości, naukowcami i innymi ekspertami dziedzinowymi, którzy pomagają tworzyć dane treningowe, oceniać bezpieczeństwo i zdolność modeli do rozumowania, sprawdzać jakość materiałów multimedialnych oraz opracowywać realistyczne scenariusze zwiększające skuteczność i niezawodność AI. Mindrift pozyskuje i weryfikuje współtwórców za pomocą testów oraz weryfikacji tożsamości, a następnie oferuje elastyczne, płatne projekty związane z trenowaniem i oceną AI.

Starszy inżynier ds. scrapingu danych w Pythonie — praca zdalna w Indiach

Starszy inżynier Python będzie odpowiadać za tworzenie niezawodnych procesów scrapingu danych na potrzeby projektu AI Tendem firmy Mindrift. Rola koncentruje się na pozyskiwaniu, walidacji i skalowaniu ustrukturyzowanych danych ze złożonych, dynamicznych stron internetowych.

Opis

  • Zarządzać pełnymi procesami pozyskiwania danych ze złożonych stron internetowych, zapewniając szeroki zakres, dokładność i niezawodne dostarczanie ustrukturyzowanych zbiorów danych.
  • Korzystać z dostępnych narzędzi i dopasowanych procesów pracy, aby usprawniać gromadzenie i walidację danych oraz realizację zadań zgodnie z określonymi wymaganiami.
  • Niezawodnie pozyskiwać dane z dynamicznych i interaktywnych źródeł, dostosowując się do treści renderowanych przez JavaScript i zmieniającego się sposobu działania stron internetowych.
  • Dbać o jakość danych dzięki kontrolom walidacyjnym, porównywaniu źródeł, kontroli formatowania i systematycznej weryfikacji przed dostarczeniem.
  • Skalować scrapowanie dużych wolumenów danych za pomocą wydajnego przetwarzania pakietowego i równoległego.
  • Śledzić błędy pozyskiwania danych i utrzymywać stabilność procesów pracy przy niewielkich zmianach struktury stron internetowych.
  • Wykorzystywać wiedzę z zakresu scrapingu internetowego, pozyskiwania i przetwarzania danych w praktycznych zadaniach projektu Tendem.

Wymagania

  • Ponad 5 lat odpowiedniego doświadczenia w inżynierii danych, scrapingu internetowym, automatyzacji lub tworzeniu oprogramowania.
  • Bardzo dobra znajomość scrapingu w Pythonie z użyciem BeautifulSoup, Selenium lub porównywalnych narzędzi, w tym JavaScript, AJAX, nieskończonego przewijania i dostępu do API przez proxy.
  • Umiejętność pozyskiwania informacji ze złożonych struktur, takich jak hierarchie, strony archiwalne i niespójny kod HTML.
  • Praktyczne doświadczenie w czyszczeniu, normalizacji i walidacji danych do dostarczania w formatach CSV, JSON lub Google Sheets.
  • Doświadczenie w obsłudze zabezpieczeń antybotowych i zmieniających się struktur stron w ramach procesów scrapingu na dużą skalę.
  • Praktyczne doświadczenie z AWS lub porównywalną infrastrukturą chmurową oraz konteneryzacją opartą na Dockerze w procesach produkcyjnych.
  • Doświadczenie w stosowaniu frameworków LLM, takich jak LangChain, OpenRouter lub podobnych narzędzi, do zadań automatyzacji.
  • Duża dbałość o szczegóły i konsekwentne skupienie na dokładności danych.
  • Umiejętność samodzielnej pracy, analizowania problemów i skutecznego rozwiązywania trudności.
  • Znajomość języka angielskiego na poziomie Upper-Intermediate, B2 lub wyższym.

Benefity

  • Współpraca freelancerska.
  • Praca zdalna z Indii w niepełnym wymiarze godzin.
  • Około 10–20 godzin tygodniowo w aktywnych fazach projektu.

Powiązane oferty pracy

NVIDIA

Starszy inżynier ds. synchronizacji układów, NVIDIA (zdalnie, Kalifornia)

NVIDIA

Projektuj układy procesorów NVIDIA do ochrony sprzętowej, adaptacyjnego taktowania i zarządzania zasilaniem. Prowadź zatwierdzanie parametrów czasowych i analizę na poziomie tranzystorów, stosując metody AI i uczenia maszynowego w projektowaniu układów scalonych.

Otwórz