Google DeepMind-dan mətn istehsalını 4 dəfə sürətləndirən açıq model: DiffusionGemma

Google DeepMind, mətn difüzyonunu araşdıran yeni açıq mənbə süni intellekt modeli DiffusionGemma-nı təqdim edib. Bu model, digər süni intellekt modellərindən fərqli olaraq, çıxışları xətti şəkildə istehsal etmir, əksinə, bir mətn blokunu paralel şəkildə istehsal edə bilir. Google-ın məlumatlarına görə, bu xüsusiyyət modelin Nvidia DGX kimi yerli avadanlıqlarda və ya adi oyun GPU-larında daha sürətli və səmərəli işləməsini təmin edir.

DiffusionGemma, 26 milyard parametrli bir Mixture of Experts modeli olaraq təqdim olunur, lakin çıxarış zamanı yalnız 3,8 milyard parametr aktivləşdirilir. Google, modelin 18 GB VRAM sərhədinə sahib yüksək səviyyəli istehlakçı GPU-larında işləyə biləcəyini bildirir. Bu model, klassik otoreqressiv böyük dil modellərindən fərqli bir istehsal prinsipi ilə diqqət çəkir.

DiffusionGemma, 256 token-lik bir blokun eyni anda taslak halına gətirilməsi ilə tanınır. Bu yanaşma, xüsusilə tək istifadəçiyə yönəlmiş yerli süni intellekt təcrübələrində GPU-nun daha səmərəli istifadəsini təmin edir. Google-a görə, bu model xüsusi GPU-larda 4 dəfə daha sürətli mətn istehsalı təqdim edə bilir.

Model, NVIDIA H100-də saniyədə 1000-dən çox token, NVIDIA GeForce RTX 5090-da isə saniyədə 700-dən çox token istehsal edə bilir. Google, modelin sürət və paralel istehsal üçün optimallaşdırıldığını, lakin ən yüksək çıxış keyfiyyətinin tələb olunduğu istehsal ssenarilərində standart Gemma 4 modellərinin istifadə edilməsini tövsiyə edir.

DiffusionGemma-nın model ağırlıqları Hugging Face platformasında mövcuddur. Google, modelin MLX, vLLM və Hugging Face Transformers kimi alətlərlə istifadə oluna biləcəyini, eyni zamanda bulud tərəfdən də Gemini Enterprise Agent Platform Model Garden və NVIDIA NIM vasitəsilə sınaqdan keçirilə biləcəyini açıqlayıb.