Google نے EmbeddingGemma 2 جاری کر دیا، جو متن، تصاویر، آڈیو اور ویڈیو کے لیے ایک اوپن ایمبیڈنگ ماڈل ہے

Google نے EmbeddingGemma 2 جاری کر دیا ہے، جو اس صرف متن والے ایمبیڈنگ ماڈل کا جانشین ہے جسے کمپنی نے پچھلے سال متعارف کرایا تھا۔ ایمبیڈنگ ماڈلز مواد کو اعداد کی فہرستوں میں بدلتے ہیں جنہیں ویکٹرز کہا جاتا ہے، تاکہ سافٹ ویئر کلیدی الفاظ کے ملاپ کے بجائے معنی کی بنیاد پر متعلقہ چیزیں تلاش کر سکے۔ نیا ورژن متن کے ساتھ ساتھ کوڈ، تصاویر، ویڈیو اور آڈیو کو بھی سنبھالتا ہے اور ان سب کو ایک واحد مشترکہ اسپیس میں میپ کرتا ہے، تاکہ مثال کے طور پر ایک متنی سوال کسی مطابقت رکھنے والے آڈیو کلپ یا ویڈیو کے کسی لمحے کو سامنے لا سکے۔ یہ اعلان Google DeepMind کے دو ریسرچ انجینئرز نے لکھا تھا۔

Google کے مطابق اس ماڈل میں 740 ملین پیرامیٹرز ہیں، یہ Gemma 4 آرکیٹیکچر پر بنایا گیا ہے اور کمپنی کے Gemini Embedding ماڈلز والی ٹیکنالوجی سے استفادہ کرتا ہے۔ یہ ماڈیولر ہے: صرف متن کے استعمال کے لیے تقریباً 270 ملین پیرامیٹرز درکار ہیں، جبکہ مکمل ملٹی موڈل سپورٹ کے لیے ایک ویژن انکوڈر (170 ملین) اور ایک آڈیو انکوڈر (300 ملین) شامل کیے جا سکتے ہیں۔ کانٹیکسٹ ونڈو، یعنی وہ ان پٹ جو ماڈل ایک وقت میں لے سکتا ہے، پہلے ورژن کے مقابلے میں چار گنا بڑی ہے؛ Google کا کہنا ہے کہ یہ ایک ان پٹ میں 5.5 منٹ تک کے آڈیو، 29 تصاویر یا 58 ویڈیو فریمز کے لیے کافی ہے۔

Google کا کہنا ہے کہ کوانٹائزیشن کے ساتھ صرف متن والے ویٹس کو Pixel 11 Pro پر تقریباً 191MB فعال میموری درکار ہوتی ہے، اور مکمل ملٹی موڈل ماڈل کو تقریباً 567MB۔ آؤٹ پٹ Matryoshka Representation Learning استعمال کرتا ہے، اس لیے ڈویلپرز ویکٹرز کو 768 ڈائمینشنز سے کم کر کے 512، 256 یا 128 تک کر سکتے ہیں؛ کمپنی کے مطابق اس سے اسٹوریج میں چھ گنا تک کمی آتی ہے۔ بینچ مارکس پر Google رپورٹ کرتا ہے کہ ایک ارب سے کم پیرامیٹرز والے ملٹی موڈل ایمبیڈنگ ماڈلز میں MTEB Code اور آڈیو بینچ مارک MAEB پر اس کے اسکور سب سے آگے ہیں۔ اس کا MTEB Code اسکور 68.76 سے بڑھ کر 78.68 ہو گیا، جبکہ بتایا گیا ہے کہ متن کی کارکردگی پہلے ورژن کی سطح پر برقرار ہے۔ یہ Google کے اپنے اعداد و شمار ہیں؛ مکمل نتائج ماڈل کارڈ میں موجود ہیں۔

ویٹس Hugging Face اور Kaggle پر دستیاب ہیں، جبکہ آن ڈیوائس استعمال کے لیے ٹیون کیے گئے ورژن Hugging Face پر LiteRT Community میں موجود ہیں؛ Gemini Enterprise Agent Platform Model Garden میں دستیابی کو جلد آنے والی کے طور پر درج کیا گیا ہے۔ Google نے transformers، sentence-transformers، MLX، vLLM، llama.cpp، Ollama اور LMStudio جیسے ٹولز میں سپورٹ کا ذکر کیا ہے، نیز فائن ٹیوننگ کے لیے Unsloth کی رہنمائی اور ویکٹرز کو محفوظ کرنے کے لیے Qdrant کا بھی۔ کمپنی Google AI Edge Gallery میں ڈیمو ایپس کی طرف بھی اشارہ کرتی ہے جو میڈیا لائبریری میں تلاش اور ویڈیوز میں لمحات ڈھونڈنے کے لیے ہیں۔

چونکہ یہ ماڈل Gemma 4 والا ہی متن تقسیم کرنے والا جزو اور آڈیو انکوڈر استعمال کرتا ہے، اس لیے Google کا کہنا ہے کہ دونوں ایک ہی پائپ لائن میں کم مجموعی میموری کے ساتھ ساتھ ساتھ چل سکتے ہیں، مثلاً ایسے retrieval-augmented generation (RAG) سسٹمز بنانے کے لیے جو ڈیوائس پر آف لائن کام کریں۔ کمپنی کے مطابق پہلا EmbeddingGemma 20 ملین ڈاؤن لوڈز سے تجاوز کر گیا تھا، اور ڈویلپرز نے اسے آن ڈیوائس سرچ ٹولز اور پرائیویسی پر مرکوز RAG پائپ لائنز کے لیے استعمال کیا۔