ইনফার্যাক্ট, একটি নতুন ভেঞ্চার‑ক্যাপিটাল সমর্থিত স্টার্টআপ, vLLM নামের ওপেন‑সোর্স প্রকল্পের স্রষ্টাদের দ্বারা গঠিত, সাম্প্রতিক সময়ে ১৫০ মিলিয়ন ডলার সিড ফান্ডিং সংগ্রহ করে ৮০০ মিলিয়ন ডলারের মূল্যায়ন অর্জন করেছে। এই তহবিল সংগ্রহের নেতৃত্বে আছেন অ্যান্ড্রেসেন হোরোভিটজ এবং লাইটস্পিড ভেঞ্চার পার্টনারস, যারা একসাথে রাউন্ডটি পরিচালনা করেছে।
vLLM প্রকল্পটি মূলত কৃত্রিম বুদ্ধিমত্তা মডেলের ইনফারেন্স পর্যায়ে গতি বাড়ানো এবং খরচ কমানোর জন্য তৈরি করা হয়েছে। স্টার্টআপের প্রতিষ্ঠাতা ও সিইও সাইমন মো, যিনি প্রকল্পের মূল বিকাশকারী, উল্লেখ করেছেন যে বর্তমানে Amazon-এর ক্লাউড সেবা এবং একটি জনপ্রিয় শপিং অ্যাপ্লিকেশন vLLM ব্যবহার করছে।
এই ফান্ডিং রাউন্ডটি পূর্বে টেকক্রাঞ্চের প্রতিবেদনে উল্লেখিত ছিল যে vLLM অ্যান্ড্রেসেন হোরোভিটজের (a16z) তহবিল পেয়েছে। এখন এই তথ্য নিশ্চিত হয়েছে এবং রাউন্ডের মোট পরিমাণ ও মূল্যায়ন স্পষ্ট হয়েছে।
ইনফার্যাক্টের উত্থান সাম্প্রতিক সময়ে SGLang প্রকল্পের বাণিজ্যিকীকরণকে স্মরণ করিয়ে দেয়, যেখানে RadixArk নামে একটি স্টার্টআপ একইভাবে ৪০০ মিলিয়ন ডলারের মূল্যায়ন নিয়ে তহবিল সংগ্রহ করেছে, যা এক্সেল দ্বারা নেতৃত্বাধীন ছিল। উভয়ই কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির ইনফারেন্স স্তরে দক্ষতা বাড়াতে লক্ষ্য রাখে।
কৃত্রিম বুদ্ধিমত্তা ক্ষেত্রের মনোযোগ এখন মডেল প্রশিক্ষণ থেকে ইনফারেন্সে স্থানান্তরিত হচ্ছে, কারণ বাস্তব অ্যাপ্লিকেশনে দ্রুত ও সাশ্রয়ী ফলাফল প্রয়োজন। vLLM এবং SGLang এর মতো টুলগুলো এই চাহিদা পূরণে গুরুত্বপূর্ণ ভূমিকা পালন করে, ফলে বিনিয়োগকারীরা এ ধরনের প্রযুক্তিতে আগ্রহী হচ্ছে।
প্রযুক্তিগত দৃষ্টিকোণ থেকে vLLM বড় মাপের ভাষা মডেলকে একাধিক GPU তে সমান্তরালভাবে চালাতে সক্ষম, যা ইনফারেন্সের গতি উল্লেখযোগ্যভাবে বাড়ায় এবং হার্ডওয়্যার খরচ কমায়। এই সুবিধা ক্লাউড সেবা প্রদানকারী এবং এন্টারপ্রাইজ গ্রাহকদের জন্য বিশেষভাবে মূল্যবান।
vLLM এবং SGLang উভয়ই ২০২৩ সালে UC বার্কলে বিশ্ববিদ্যালয়ের ডেটাব্রিক্স সহ-প্রতিষ্ঠাতা আয়ন স্টোইকা পরিচালিত গবেষণাগারে বিকাশের পর্যায়ে ছিল। গবেষণাগারটি কৃত্রিম বুদ্ধিমত্তা সিস্টেমের স্কেলযোগ্যতা ও দক্ষতা বাড়ানোর উপর কেন্দ্রীভূত ছিল, যা পরবর্তীতে বাণিজ্যিক পণ্যে রূপান্তরিত হয়েছে।
ইনফার্যাক্টের তহবিল সংগ্রহের ফলে কোম্পানি আরও গবেষণা ও উন্নয়ন ত্বরান্বিত করতে পারবে, পাশাপাশি গ্রাহক ভিত্তি সম্প্রসারণের জন্য বাজারে সক্রিয়ভাবে পদক্ষেপ নিতে পারবে। বর্তমানে Amazon এবং শপিং অ্যাপের পাশাপাশি অন্যান্য বড় প্রযুক্তি কোম্পানি ও স্টার্টআপের আগ্রহের বিষয়টি উল্লেখযোগ্য।
বিশেষজ্ঞরা অনুমান করছেন যে ইনফার্যাক্টের মতো স্টার্টআপের সফলতা কৃত্রিম বুদ্ধিমত্তা অ্যাপ্লিকেশনের বাস্তবায়নকে দ্রুততর করবে, যা ব্যবসা, স্বাস্থ্যসেবা এবং শিক্ষা সহ বিভিন্ন ক্ষেত্রে নতুন সম্ভাবনা উন্মোচন করবে। ভবিষ্যতে ইনফারেন্স প্রযুক্তির উন্নয়ন কৃত্রিম বুদ্ধিমত্তার ব্যবহারিকতা বাড়িয়ে তুলবে এবং খরচের বাধা কমাবে।
