EmbeddingGemma 2 برای جست‌وجوی چندوجهی روی دستگاه
گوگل دیپ‌مایند نسخه دوم EmbeddingGemma را معرفی کرده است؛ مدلی که متن، کد، تصویر، صدا و ویدئو را در یک فضای embedding مشترک قرار می‌دهد و در کنار نسخه چندوجهی ۷۴۰ میلیون‌پارامتری، گزینه‌های کوچک‌تری برای پردازش متنی و استفاده روی دستگاه ارائه می‌کند.
گوگل دیپ‌مایند نسخه دوم EmbeddingGemma را معرفی کرده است؛ مدلی که متن، کد، تصویر، صدا و ویدئو را در یک فضای embedding مشترک قرار می‌دهد و در کنار نسخه چندوجهی ۷۴۰ میلیون‌پارامتری، گزینه‌های کوچک‌تری برای پردازش متنی و استفاده روی دستگاه ارائه می‌کند.
یک فضای مشترک برای متن، تصویر، صدا و ویدئو
تغییر اصلی در EmbeddingGemma 2 این است که داده‌های چندرسانه‌ای را به embeddingهایی در یک فضای مشترک تبدیل می‌کند. در نتیجه، جست‌وجو و بازیابی می‌تواند میان قالب‌های مختلف داده انجام شود؛ برای نمونه، یک جریان کاری می‌تواند از متن، تصویر، صدا یا ویدئو به‌عنوان ورودی استفاده کند، بدون اینکه هر قالب الزاماً در سامانه‌ای جداگانه نگهداری شود. این مدل بر معماری Gemma 4 ساخته شده و توکن‌ساز متنی و رمزگذار صوتی خود را با Gemma 4 به اشتراک می‌گذارد؛ اما ارزش عملی آن فقط به چندوجهی‌بودن محدود نیست و به اندازه مدل و شیوه استفاده از حافظه هم وابسته است.
کاهش ابعاد بردار، هزینه نگهداری را پایین می‌آورد
EmbeddingGemma 2 می‌تواند بردارهای خروجی را از ۷۶۸ بُعد به ۵۱۲، ۲۵۶ یا ۱۲۸ بُعد کوتاه کند. طبق اطلاعات گوگل دیپ‌مایند، این کوتاه‌سازی می‌تواند فضای ذخیره‌سازی و حافظه موردنیاز پایگاه‌داده برداری محلی را تا شش برابر کاهش دهد. اندازه مدل نیز برای سناریوهای متفاوت تفکیک شده است: نسخه متنی ۲۷۰ میلیون پارامتر دارد، رمزگذار تصویر اختیاری ۱۷۰ میلیون پارامتر و رمزگذار صوت اختیاری ۳۰۰ میلیون پارامتر. در حالت کوانتایزشده، نسخه متنی حدود ۱۹۱ مگابایت و نسخه کامل چندوجهی حدود ۵۶۷ مگابایت حافظه فعال روی Google Pixel 11 Pro مصرف می‌کند؛ اعدادی که امکان بررسی جریان‌های کاری روی دستگاه و آفلاین را جدی‌تر می‌کنند، اما به‌تنهایی درباره دقت یا کیفیت نتیجه داوری نمی‌کنند.
ظرفیت کانتکست، بازیابی چندرسانه‌ای را عملی‌تر می‌کند
این مدل پنجره کانتکست ۸ هزار توکنی دارد و در همین محدوده می‌تواند تا ۵٫۵ دقیقه صوت، ۲۹ تصویر یا ۵۸ فریم ویدئو را پردازش کند. EmbeddingGemma 2 برای جست‌وجو و بازیابی بین قالب‌های مختلف روی دستگاه و برای جریان‌های کاری آفلاین طراحی نشده به معنای ادعایی فراتر از داده‌های منتشرشده؛ آنچه مستقیماً اعلام شده، پشتیبانی از جست‌وجو و بازیابی متقابل‌قالبی و تولید embedding بدون اتصال دائمی به سرویس آنلاین است. این تمایز مهم است، چون پرسش‌هایی درباره کاربردهای واقعی روی دستگاه، دقت و نرخ توهم همچنان به ارزیابی مستقل نیاز دارند. واکنش‌های اولیه جامعه نیز همین دو وجه را نشان می‌دهد: اندازه متوسط مدل و تفکیک نسخه متنی و رمزگذارهای چندوجهی امیدوارکننده تلقی شده، اما مقایسه با SigLIP 2 و مدل‌های embedding متنی Voyage AI هنوز مطرح است.
بنچمارک کد بهتر شده، اما تصمیم نهایی با داده واقعی است
در بنچمارک MTEB Code، امتیاز EmbeddingGemma 2 از ۶۸٫۷۶ به ۷۸٫۶۸ رسیده است. این بهبود، شواهد مشخصی از پیشرفت در یک ارزیابی کدنویسی ارائه می‌کند، اما جای مقایسه مستقیم در سناریوهای دیگر را نمی‌گیرد. برای بررسی مدل، وزن‌ها از Hugging Face و Kaggle در دسترس‌اند و مجوز Apache 2.0 اجازه می‌دهد استفاده از وزن‌های باز به یک سرویس میزبانی مشخص وابسته نماند؛ موضوعی که برخی اعضای جامعه آن را برای تداوم دسترسی مهم دانسته‌اند. اگر هدف شما ساخت سامانه بازیابی یا تبدیل‌های مرتبط با تولید تقویت‌شده با بازیابی است، مسیر معقول این است که نسخه و ابعاد بردار موردنظر را روی داده واقعی خود بسنجید و نتیجه را جداگانه برای متن، تصویر، صدا و ویدئو ارزیابی کنید. با توجه به پرسش‌های باقی‌مانده درباره دقت و مقایسه با مدل‌های دیگر، انتشار وزن‌ها آغاز ارزیابی است، نه جایگزین آن.
مشخصات
- توسعه‌دهنده: گوگل دیپ‌مایند
- تعداد پارامترها: ۷۴۰ میلیون
- نسخه متنی: ۲۷۰ میلیون پارامتر
- رمزگذار تصویر: ۱۷۰ میلیون پارامتر، اختیاری
- رمزگذار صوت: ۳۰۰ میلیون پارامتر، اختیاری
- ابعاد بردار خروجی: ۷۶۸، ۵۱۲، ۲۵۶ یا ۱۲۸
- پنجره کانتکست: ۸ هزار توکن
- حافظه فعال نسخه متنی کوانتایزشده: حدود ۱۹۱ مگابایت روی Google Pixel 11 Pro
- حافظه فعال نسخه کامل چندوجهی کوانتایزشده: حدود ۵۶۷ مگابایت روی Google Pixel 11 Pro
- مجوز: Apache 2.0
منابع
- Google DeepMind — Google DeepMind