Google spune că rularea modelelor AI pe telefoane este un porc uriaș de memorie RAM

Sigla Google Gemini.
A mari / Sigla Google Gemini.

Google

La începutul lunii martie, Google a făcut un anunț ciudat că tocmai… unu Cele mai noi smartphone-uri ale sale, Pixel 8 și Pixel 8 Pro, vor putea rula cel mai recent model AI, numit „Google Gemini”. În ciuda faptului că are specificații foarte asemănătoare, Pixel 8 mai mic nu va primi noul model AI, compania invocând „limitări hardware” vagi drept motiv. A fost o afirmație ciudată, având în vedere faptul că Google a proiectat și comercializat Pixel 8 ca să fie centrat pe AI și apoi a proiectat un model AI centrat pe smartphone numit „Gemini Nano” și totuși nu le-a putut face pe cei doi să funcționeze împreună.

După câteva săptămâni, Google a dat oarecum înapoi. Compania a anunțat pe Ajutor pentru telefonul Pixel Forum că Pixel 8 este de fapt mai mic voi Obțineți Gemini Nano în următoarea mare lansare trimestrială Android, care ar trebui să aibă loc în iunie. Cu toate acestea, există o captură – în timp ce Pixel 8 Pro va primi Gemini Nano ca o funcție orientată spre utilizator, pe Pixel 8, acesta este lansat doar ca „opțiune pentru dezvoltatori”. Aceasta înseamnă că îl veți putea activa doar prin meniul de opțiuni pentru dezvoltatori ascuns în Setări, iar majoritatea oamenilor vor rata această funcție.

Siang Zhao, Vicepreședinte Hardware și Servicii Software la Google, a explicat decizia luată în cadrul companiei.Podcast produs de Google. „Pixel 8 Pro, cu 12 GB de RAM, a fost locul perfect pentru noi să-l punem.” [Gemini Nano] „Pe dispozitiv și vedem ce putem face”, a spus Zhao. „Când ne-am uitat la Pixel 8 ca exemplu, Pixel 8 are cu 4 GB mai puțină memorie și nu a fost ușor să spunem: „Bine, îl vom activa și pe Pixel 8”. „Potrivit lui Chau, teama Google este că compania nu vrea să „dilueze experiența” pe Pixel 8 mai mic, care are doar 8 GB de RAM.

READ  Încă cinci jocuri vor părăsi Xbox Game Pass în curând (15 ianuarie)

Zhao a continuat să descrie ce înseamnă să ai un model de limbă mare precum Gemini Nano pe telefon și se pare că există mari compromisuri. Google vrea ca unele modele AI să fie „rezidente RAM”, astfel încât să fie întotdeauna încărcate în memorie. O astfel de caracteristică este Smart Reply, care încearcă să genereze automat răspunsuri text.

„Smart Reply este ceva care necesită ca formularele să fie rezidente în RAM, astfel încât să fie disponibile tot timpul”, a spus Chow pentru podcast. „Nu doriți să așteptați ca formularul să se încarce pe Gboard Reply, așa că îl păstrăm rezident. ” Pe Pixel 8 Pro, poate fi Dezactivați răspunsul inteligent prin setările obișnuite de la tastatură, dar pe Pixel 8, va trebui să activați mai întâi eticheta de dezvoltator.

Pixel 8 Pro mai mare primește cele mai recente funcții AI.  Modelul mai mic va fi blocat în spatele opțiunii de dezvoltator.
A mari / Pixel 8 Pro mai mare primește cele mai recente funcții AI. Modelul mai mic va fi blocat în spatele opțiunii de dezvoltator.

Google

Așadar, spre deosebire de o aplicație, care poate fi încărcată și descărcată pe măsură ce o utilizați, rularea a ceva ca Gemini Nano ar putea însemna pierderea definitivă a ceea ce pare a fi o bucată mare de memorie de sistem. Limita de bază de 8 GB RAM pentru telefoanele Android ar putea fi nevoie să fie crescută din nou în viitor. Nota mare pe care am văzut-o pentru telefoane este de 24 GB de RAM, iar telefoanele emblematice mai mari au de obicei 12 GB sau 16 GB de RAM, așa că este cu siguranță posibil.

Modelul Google Gemini Nano se livrează și pe gama Galaxy S24, iar modelul de bază are și 8 GB de RAM. Când Google a menționat inițial limitările hardware ale Pixel 8 pentru absența funcției, explicația sa a fost confuză – dacă modelul de bază S24 îl poate porni, și Pixel 8 ar trebui să poată face acest lucru. Totul este despre cât de mult de compromis sunteți dispus să faceți în memoria disponibilă pentru aplicații. Echipa „încă validează sistemul pentru că, chiar dacă ești dezvoltator, s-ar putea să vrei să-ți folosești telefonul zilnic”, spune Zhao.

READ  Amazon blochează aplicațiile de ghidare pe Fire TV, inclusiv Plex

Dar problema cu camera este că, ca utilizator, nici nu știu dacă sunt Vrea Gemeni nano pe telefonul meu. Ne aflăm în vârful ciclului de hype generativ AI, iar Google are propriile sale motive interne (piața de valori) pentru a împinge AI în mod agresiv. În timp ce vizitați ChatGPT și puneți întrebări poate fi de ajutor, aceasta este doar o aplicație. Caracteristicile AI generative care sunt de fapt utile la nivel de sistem de operare sunt puține și departe. Nu am nevoie de o tastatură pentru a genera automat răspunsuri. Dacă ar ocupa doar o mulțime de memorie RAM pe care aplicațiile le-ar putea folosi, s-ar putea să vreau să o dezactivez.

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *