NVIDIA Moonshot AI-এর Kimi K2.5 মডেলের জন্য GPU-ত্বরান্বিত এন্ডপয়েন্ট চালু করেছে

Jessie A Ellis ০৪ ফেব্রুয়ারি, ২০২৬ ২০:১১

NVIDIA এখন Kimi K2.5-এর জন্য বিনামূল্যে GPU-ত্বরান্বিত API অ্যাক্সেস প্রদান করছে, যা ডেভেলপারদের জন্য ৩৮৪টি বিশেষজ্ঞ এবং ২৬২K কনটেক্সট দৈর্ঘ্য সহ একটি 1T প্যারামিটার মাল্টিমোডাল AI মডেল।

NVIDIA Moonshot AI-এর Kimi K2.5-এর জন্য GPU-ত্বরান্বিত এন্ডপয়েন্ট চালু করেছে, যা ডেভেলপারদের বর্তমানে উপলব্ধ সবচেয়ে সক্ষম ওপেন-সোর্স মাল্টিমোডাল মডেলগুলির একটিতে বিনামূল্যে API অ্যাক্সেস দিচ্ছে। ০৪ ফেব্রুয়ারি, ২০২৬-এ ঘোষিত এই ইন্টিগ্রেশন, NVIDIA-এর build.nvidia.com প্ল্যাটফর্মের মাধ্যমে দ্রুত এন্টারপ্রাইজ গ্রহণের জন্য 1 ট্রিলিয়ন প্যারামিটার মডেলটিকে অবস্থান দেয়।

Kimi K2.5 উৎপাদন স্থাপনার জন্য গুরুত্বপূর্ণ গুরুতর প্রযুক্তিগত স্পেসিফিকেশন বহন করে। মডেলটি ৩৮৪টি বিশেষজ্ঞ সহ একটি Mixture-of-Experts আর্কিটেকচার ব্যবহার করে, প্রতি টোকেনে মাত্র ৩২.৮৬ বিলিয়ন প্যারামিটার সক্রিয় করে—একটি ৩.২% সক্রিয়করণ হার যা বিশাল প্যারামিটার সংখ্যা সত্ত্বেও ইনফারেন্স খরচ পরিচালনাযোগ্য রাখে। কনটেক্সট দৈর্ঘ্য ২,৬২,০০০ টোকেন পর্যন্ত বিস্তৃত, যা যথেষ্ট ডকুমেন্ট বিশ্লেষণ এবং দীর্ঘ কথোপকথন পরিচালনা করে।

দৃষ্টি সক্ষমতা মনোযোগের দাবি রাখে। Moonshot একটি কাস্টম MoonViT3d Vision Tower তৈরি করেছে যা ছবি এবং ভিডিও ফ্রেমগুলিকে এমবেডিংয়ে প্রক্রিয়া করে, যা দৃষ্টি-নির্দিষ্ট টোকেন ধারণকারী একটি ১,৬৪,০০০-টোকেন শব্দভাণ্ডার দ্বারা সমর্থিত। এটি বোল্ট-অন মাল্টিমোডালিটি নয়—এটি আর্কিটেকচারের নেটিভ।

ডেভেলপাররা কী পায়

NVIDIA-এর ডেভেলপার প্রোগ্রামের মাধ্যমে বিনামূল্যে প্রোটোটাইপিং অ্যাক্সেসের অর্থ হল টিমগুলি অবকাঠামো প্রতিশ্রুতিবদ্ধ হওয়ার আগে উৎপাদন কার্যভারের বিপরীতে পরীক্ষা করতে পারে। API এজেন্টিক ওয়ার্কফ্লোগুলির জন্য টুল কলিং সহায়তা সহ OpenAI-সামঞ্জস্যপূর্ণ প্যাটার্ন অনুসরণ করে। কন্টেইনারাইজড প্রোডাকশন ইনফারেন্সের জন্য NVIDIA NIM মাইক্রোসার্ভিসগুলি আসছে, যদিও কোনও নির্দিষ্ট সময়সীমা প্রদান করা হয়নি।

স্ব-হোস্ট করা স্থাপনার জন্য, vLLM ইন্টিগ্রেশন এখনই প্রস্তুত। NVIDIA ওপেন-সোর্স NeMo ফ্রেমওয়ার্কের মাধ্যমে ফাইন-টিউনিং সহায়তাও নিশ্চিত করেছে, রূপান্তর পদক্ষেপ ছাড়াই সরাসরি Hugging Face চেকপয়েন্ট থেকে মডেলটি কাস্টমাইজ করতে NeMo AutoModel ব্যবহার করে।

বাজার প্রসঙ্গ

Moonshot AI ২৭ জানুয়ারি, ২০২৬-এ Kimi K2.5 প্রকাশ করেছে, এটি পূর্বের K2 ভিত্তির উপর নির্মিত প্রায় ১৫ ট্রিলিয়ন মিশ্র ভিজ্যুয়াল এবং টেক্সট টোকেনে প্রশিক্ষণ দিয়েছে। মডেলটি Google-এর Gemini 3 Pro-এর সাথে সরাসরি তুলনা করেছে, MMMU-Pro ভিজ্যুয়াল বোঝার পরীক্ষায় ৭৮.৫% স্কোর এবং কোডিং কাজের জন্য SWE-Bench Verified-এ ৭৬.৮% সহ প্রতিযোগিতামূলক বেঞ্চমার্ক পোস্ট করেছে।

একটি পার্থক্যকারী বৈশিষ্ট্য: "Agent Swarm" প্রক্রিয়া যা ১০০টি সমান্তরাল সাব-এজেন্ট পর্যন্ত সমন্বয় করে, যা একক-এজেন্ট পদ্ধতির তুলনায় এক্সিকিউশন সময় ৪.৫x কমিয়ে দেয় বলে জানা গেছে। জটিল স্বায়ত্তশাসিত সিস্টেম তৈরি করা এন্টারপ্রাইজের জন্য, এটি একটি অর্থপূর্ণ ক্ষমতার ব্যবধান।

NVIDIA-এর Blackwell আর্কিটেকচার সহায়তা প্রস্তাব করে যে কোম্পানিটি Kimi K2.5-কে এন্টারপ্রাইজ AI স্থাপনায় একটি গুরুতর প্রতিযোগী হিসাবে দেখে। ডেভেলপাররা build.nvidia.com-এর মাধ্যমে বা সরাসরি Moonshot থেকে Kimi API প্ল্যাটফর্মের মাধ্যমে অবিলম্বে মডেলটি অ্যাক্সেস করতে পারেন।

• nvidia
• kimi k2.5
• moonshot ai
• মাল্টিমোডাল ai
• gpu কম্পিউটিং