Nano, cel mai mic model AI al Google din seria sa Gemini, nu va fi disponibil pe telefoanele Pixel 8 din cauza „unelor limitări hardware”.
Anunțat în decembrie, Nano Funcționează pe Smartphone-uri Android de ultimă generație, cum ar fi cel mai recent Pixel 8 Pro de la Google și linia Galaxy S24 de la Samsung. Modelul oferă multe dintre caracteristicile AI tipice de astăzi pe acele dispozitive, cum ar fi rezumarea înregistrărilor audio ca text și MagicText, care pot genera automat răspunsuri rapide la mesajele text pentru dvs.
Cu toate acestea, aceste capacități nu vor fi disponibile pe Pixel 8, care a fost pus în vânzare ca Pro în octombrie. Într-o discuție în cadrul unui episod recent din The Android Show, Terence Zhang, un inginer care lucrează la AI generativă pe Google Android, a spus că acest lucru se datorează „unelor limitări hardware”. (Săriți la aproximativ 42:57 în videoclipul de mai jos.)
Nu este clar care sunt exact aceste limitări, având în vedere că dispozitivele Pixel 8 și Pixel 8 Pro sunt echipate cu același procesor Google Tensor G3, nucleu al unității centrale de procesare (CPU) și unitate de procesare grafică (GPU). Pixel 8 Pro are mai multă memorie. 8 are 8 GB de RAM, în timp ce 8 Pro are 12 GB și se pare că 8 GB vor afecta performanța modelului. Deci, fără nano pentru Pixel 8.
Google a refuzat să comenteze înregistrarea.
Modelele de limbaj mari destul de eficiente sunt de obicei consumatoare de memorie și de calcul, ceea ce le face dificil de rulat pe smartphone-uri, chiar și pe cele cu 8 GB de RAM (DRAM).
Google a dezvoltat AICore, o aplicație de serviciu de sistem Android care poate fi folosită pentru ca Google Nano să efectueze sarcini de inferență ML, cum ar fi generarea de text, pe dispozitiv folosind orice accelerare hardware disponibilă.
Zhang a spus că AICore este în esență un skin API pentru Gemini Nano, iar acel model este limitat de puterea de calcul a dispozitivului. Pe telefoanele non-Nano, cum ar fi Pixel 8, nu există AICore de utilizat.
AICore este util deoarece permite aplicațiilor să profite de Gemini Nano pe dispozitivul local fără a necesita o conexiune la Internet la un serviciu cloud de la distanță. Tot textul generat de formular este privat, deoarece datele nu părăsesc smartphone-ul, ceea ce reduce și latența, făcându-l mai rapid de operare. „În sfârșit, și cel mai important, este gratuit”, a spus Zhang. Deoarece toate sarcinile de lucru sunt rulate folosind hardware-ul de pe dispozitiv, interacțiunea cu modelul nu vă costă nici un ban, spre deosebire de accesarea LLM din cloud.
„AICore este disponibil momentan numai pe dispozitivele Google Pixel 8 Pro și Samsung S24 Series”, a explicat Google în Documentația dezvoltatorului.
Gigantul web este Se spune că este Compania intenționează să lanseze mai multe funcții AI pentru asistentul său controlat prin voce, care este alimentat de modelele mai mari Gemini Pro și Ultra, anul viitor pe dispozitivele Pixel. ®
„Iubitor tipic de twitter. Muzicholic pe tot parcursul vieții. Fanatic al culturii pop. Prieten al animalelor de pretutindeni. Evanghelist avid de bere. Jucător certificat.”