OpenRouter
OpenRouter
OpenRouter একটি কৃত্রিম বুদ্ধিমত্তা প্ল্যাটফর্ম, যা ডেভেলপার ও দলগুলোকে বিভিন্ন সরবরাহকারীর বৃহৎ ভাষা মডেল ব্যবহার ও পরিচালনার জন্য একটি একীভূত উপায় প্রদান করে। এর মডেল ক্যাটালগে Mistral Small 3 এবং DeepSeek R1 Distill Qwen 32B-এর মতো বিকল্প রয়েছে, যা গতি, নির্ভুলতা ও মডেল নির্বাচনের নমনীয়তাকে অগ্রাধিকার দেওয়া অ্যাপ্লিকেশনগুলিকে সহায়তা করে। OpenRouter কোডিং ও গেমিংয়ের জন্যও সরঞ্জাম দেয়, যেগুলোর সম্ভাব্য ব্যবহার মার্কেটিং, অর্থনীতি ও শিক্ষা सहित বিভিন্ন ক্ষেত্রে রয়েছে।

সাইট রিলায়েবিলিটি ইঞ্জিনিয়ার, এআই প্রোভাইডার অপারেশনস — OpenRouter (রিমোট, যুক্তরাষ্ট্র)

OpenRouter-এর এআই প্রোভাইডারগুলোর নির্ভরযোগ্যতা ব্যবস্থা পরিচালনা করুন—পর্যবেক্ষণযোগ্যতা, বিকল্প ব্যবস্থা ও ঘটনা মোকাবিলাসহ। এন্ডপয়েন্টের মান যাচাই, সক্ষমতা ব্যবস্থাপনা এবং চালুর প্রস্তুতি স্বয়ংক্রিয় করুন।

বিবরণ

  • প্রোভাইডার এন্ডপয়েন্টের জন্য মনিটরিং তৈরি করুন এবং লেটেন্সি, থ্রুপুট, ত্রুটি, আপটাইম ও আউটপুটের সঠিকতা পর্যবেক্ষণ করুন।
  • প্রোভাইডার স্তরগুলোর জন্য সার্ভিস-লেভেল অবজেক্টিভ (SLO) নির্ধারণ করুন এবং কার্যকর অ্যালার্ট কনফিগার করুন।
  • সমস্যাগ্রস্ত এন্ডপয়েন্ট শনাক্তকরণ উন্নত করুন এবং রাউটিং দলের সঙ্গে স্বয়ংক্রিয় ট্রাফিক ফেইলওভার সমন্বয় করুন।
  • অন-কল প্রোভাইডার ঘটনা ট্রায়াজ ও প্রশমন থেকে শুরু করে পার্টনারের সঙ্গে যোগাযোগ, পোস্টমর্টেম এবং পরবর্তী পদক্ষেপ পর্যন্ত পরিচালনা করুন।
  • প্রোভাইডার স্কোরকার্ড ও SLO প্রতিবেদন তৈরি করুন।
  • প্রোভাইডার এন্ডপয়েন্টের সমস্যায় প্রযুক্তিগত এসকেলেশন সহায়তা দিন।
  • চলমান ক্যানারি ও মূল্যায়ন তৈরি করুন, যাতে অন্যথায় ধরা না পড়া মানের অবনতি শনাক্ত করা যায়।
  • এন্ডপয়েন্ট নিষ্ক্রিয় করা, সক্ষমতা পরিবর্তন, অবচয় এবং রেট-লিমিট সমন্বয়সহ প্রোভাইডার অপারেশন স্বয়ংক্রিয় করুন।
  • চালুর প্রস্তুতি ও প্রাথমিক ট্রাফিক যাচাইয়ের জন্য এন্ডপয়েন্ট লোড-টেস্টিং টুল তৈরি করুন।
  • প্রোভাইডার অপারেশনস ম্যানেজারের কাছে রিপোর্ট করুন।

প্রয়োজনীয়তা

  • উচ্চ ট্রাফিকের গ্রাহকমুখী সিস্টেমে সহায়তাকারী SRE, প্রোডাকশন ইঞ্জিনিয়ারিং বা ইনফ্রাস্ট্রাকচার ভূমিকায় অন্তত চার বছরের অভিজ্ঞতা।
  • মেট্রিক, ট্রেসিং, লগ, SLO, এরর বাজেট এবং কার্যকর অ্যালার্টিংসহ পর্যবেক্ষণযোগ্যতায় দৃঢ় দক্ষতা।
  • সফটওয়্যার ইঞ্জিনিয়ারিং দক্ষতা এবং রানবুক অনুসরণের চেয়ে টুল তৈরিতে আগ্রহ।
  • TypeScript এবং/অথবা Python-এ অভিজ্ঞতা।
  • টাইমআউট, রিট্রাই, ব্যাকপ্রেশার ও আংশিক বিভ্রাটসহ ডিস্ট্রিবিউটেড সিস্টেমের ব্যর্থতার ধরন সম্পর্কে জ্ঞান।
  • চাপের মধ্যে শান্তভাবে ঘটনা পরিচালনা এবং বাইরের পার্টনারদের সঙ্গে স্পষ্টভাবে যোগাযোগের সক্ষমতা।
  • LLM ইনফারেন্স ধারণা সম্পর্কে বোঝাপড়া, অথবা স্ট্রিমিং, টুল কলিং, প্রম্পট ক্যাশিং, থ্রুপুট ও লেটেন্সির সমঝোতা এবং প্রোভাইডার API-র পার্থক্য শেখার আগ্রহ।
  • ইনফারেন্স প্রোভাইডার, মডেল ল্যাব, GPU ক্লাউড, API গেটওয়ে বা CDN কোম্পানিতে অভিজ্ঞতা অতিরিক্ত যোগ্যতা।
  • TypeScript, Cloudflare Workers, Postgres, ClickHouse, GCP বা Vercel-এ অভিজ্ঞতা অতিরিক্ত যোগ্যতা।
  • রাউটিং, লোড ব্যালান্সিং বা ট্রাফিক ব্যবস্থাপনা সিস্টেমে অভিজ্ঞতা অতিরিক্ত যোগ্যতা।
  • মেশিন-লার্নিং সিস্টেমের মূল্যায়ন বা সিন্থেটিক মনিটরিংয়ে অভিজ্ঞতা অতিরিক্ত যোগ্যতা।