
OpenRouter একটি কৃত্রিম বুদ্ধিমত্তা প্ল্যাটফর্ম, যা ডেভেলপার ও দলগুলোকে বিভিন্ন সরবরাহকারীর বৃহৎ ভাষা মডেল ব্যবহার ও পরিচালনার জন্য একটি একীভূত উপায় প্রদান করে। এর মডেল ক্যাটালগে Mistral Small 3 এবং DeepSeek R1 Distill Qwen 32B-এর মতো বিকল্প রয়েছে, যা গতি, নির্ভুলতা ও মডেল নির্বাচনের নমনীয়তাকে অগ্রাধিকার দেওয়া অ্যাপ্লিকেশনগুলিকে সহায়তা করে। OpenRouter কোডিং ও গেমিংয়ের জন্যও সরঞ্জাম দেয়, যেগুলোর সম্ভাব্য ব্যবহার মার্কেটিং, অর্থনীতি ও শিক্ষা सहित বিভিন্ন ক্ষেত্রে রয়েছে।
সাইট রিলায়েবিলিটি ইঞ্জিনিয়ার, এআই প্রোভাইডার অপারেশনস — OpenRouter (রিমোট, যুক্তরাষ্ট্র)
OpenRouter-এর এআই প্রোভাইডারগুলোর নির্ভরযোগ্যতা ব্যবস্থা পরিচালনা করুন—পর্যবেক্ষণযোগ্যতা, বিকল্প ব্যবস্থা ও ঘটনা মোকাবিলাসহ। এন্ডপয়েন্টের মান যাচাই, সক্ষমতা ব্যবস্থাপনা এবং চালুর প্রস্তুতি স্বয়ংক্রিয় করুন।
বিবরণ
- প্রোভাইডার এন্ডপয়েন্টের জন্য মনিটরিং তৈরি করুন এবং লেটেন্সি, থ্রুপুট, ত্রুটি, আপটাইম ও আউটপুটের সঠিকতা পর্যবেক্ষণ করুন।
- প্রোভাইডার স্তরগুলোর জন্য সার্ভিস-লেভেল অবজেক্টিভ (SLO) নির্ধারণ করুন এবং কার্যকর অ্যালার্ট কনফিগার করুন।
- সমস্যাগ্রস্ত এন্ডপয়েন্ট শনাক্তকরণ উন্নত করুন এবং রাউটিং দলের সঙ্গে স্বয়ংক্রিয় ট্রাফিক ফেইলওভার সমন্বয় করুন।
- অন-কল প্রোভাইডার ঘটনা ট্রায়াজ ও প্রশমন থেকে শুরু করে পার্টনারের সঙ্গে যোগাযোগ, পোস্টমর্টেম এবং পরবর্তী পদক্ষেপ পর্যন্ত পরিচালনা করুন।
- প্রোভাইডার স্কোরকার্ড ও SLO প্রতিবেদন তৈরি করুন।
- প্রোভাইডার এন্ডপয়েন্টের সমস্যায় প্রযুক্তিগত এসকেলেশন সহায়তা দিন।
- চলমান ক্যানারি ও মূল্যায়ন তৈরি করুন, যাতে অন্যথায় ধরা না পড়া মানের অবনতি শনাক্ত করা যায়।
- এন্ডপয়েন্ট নিষ্ক্রিয় করা, সক্ষমতা পরিবর্তন, অবচয় এবং রেট-লিমিট সমন্বয়সহ প্রোভাইডার অপারেশন স্বয়ংক্রিয় করুন।
- চালুর প্রস্তুতি ও প্রাথমিক ট্রাফিক যাচাইয়ের জন্য এন্ডপয়েন্ট লোড-টেস্টিং টুল তৈরি করুন।
- প্রোভাইডার অপারেশনস ম্যানেজারের কাছে রিপোর্ট করুন।
প্রয়োজনীয়তা
- উচ্চ ট্রাফিকের গ্রাহকমুখী সিস্টেমে সহায়তাকারী SRE, প্রোডাকশন ইঞ্জিনিয়ারিং বা ইনফ্রাস্ট্রাকচার ভূমিকায় অন্তত চার বছরের অভিজ্ঞতা।
- মেট্রিক, ট্রেসিং, লগ, SLO, এরর বাজেট এবং কার্যকর অ্যালার্টিংসহ পর্যবেক্ষণযোগ্যতায় দৃঢ় দক্ষতা।
- সফটওয়্যার ইঞ্জিনিয়ারিং দক্ষতা এবং রানবুক অনুসরণের চেয়ে টুল তৈরিতে আগ্রহ।
- TypeScript এবং/অথবা Python-এ অভিজ্ঞতা।
- টাইমআউট, রিট্রাই, ব্যাকপ্রেশার ও আংশিক বিভ্রাটসহ ডিস্ট্রিবিউটেড সিস্টেমের ব্যর্থতার ধরন সম্পর্কে জ্ঞান।
- চাপের মধ্যে শান্তভাবে ঘটনা পরিচালনা এবং বাইরের পার্টনারদের সঙ্গে স্পষ্টভাবে যোগাযোগের সক্ষমতা।
- LLM ইনফারেন্স ধারণা সম্পর্কে বোঝাপড়া, অথবা স্ট্রিমিং, টুল কলিং, প্রম্পট ক্যাশিং, থ্রুপুট ও লেটেন্সির সমঝোতা এবং প্রোভাইডার API-র পার্থক্য শেখার আগ্রহ।
- ইনফারেন্স প্রোভাইডার, মডেল ল্যাব, GPU ক্লাউড, API গেটওয়ে বা CDN কোম্পানিতে অভিজ্ঞতা অতিরিক্ত যোগ্যতা।
- TypeScript, Cloudflare Workers, Postgres, ClickHouse, GCP বা Vercel-এ অভিজ্ঞতা অতিরিক্ত যোগ্যতা।
- রাউটিং, লোড ব্যালান্সিং বা ট্রাফিক ব্যবস্থাপনা সিস্টেমে অভিজ্ঞতা অতিরিক্ত যোগ্যতা।
- মেশিন-লার্নিং সিস্টেমের মূল্যায়ন বা সিন্থেটিক মনিটরিংয়ে অভিজ্ঞতা অতিরিক্ত যোগ্যতা।