Se pare că peisajul AI de astăzi poate fi urmărit până la frică, gelozie și ambiție capitalistă intensă. E-mailurile dezvăluite în dosarul antitrust al Departamentului de Justiție împotriva Google, mai întâi menționat de Interesat de comert, arată directorii Microsoft exprimându-și supărarea și invidia față de progresul Google în domeniul inteligenței artificiale. Acest lucru a catalizat urgența care l-a determinat pe producătorul Windows să facă o investiție inițială de 1 miliard de dolari în partenerul său de acum indispensabil, OpenAI.
Într-o serie de e-mailuri din 2019 puternic redactată, intitulată „Gânduri despre OpenAI”, CEO-ul Microsoft, Satya Nadella, trimite o scrisoare lungă de la CTO Kevin Scott către CFO Amy Hood. „Un e-mail foarte bun care explică de ce vreau să facem asta… și, de asemenea, de ce ne vom asigura apoi că personalul nostru de infrastructură face acest lucru”, a scris Nadella.
Scott a scris că este „profund îngrijorat” de capacitățile AI în creștere rapidă ale Google. El spune că a respins inițial „jocurile de joc interesante” ale companiei, probabil o referire la modelele AlphaGo de la Google. Unul dintre ei l-a învins pe campionul mondial Go Ke Jie în 2017, o performanță impresionantă la acea vreme. (Modelele Google ulterioare au depășit acest model, eliminând cu totul necesitatea pregătirii umane.)
Dar Scott spune că ignorarea progresului Google în domeniul jocurilor „a fost o greșeală”. „Când au preluat toată infrastructura pe care au construit-o [natural language] „Modelele pe care nu le-am putut replica cu ușurință au început să ia lucrurile mai în serios”, a scris Scott. „Pe măsură ce am aprofundat încercând să înțeleg unde erau toate decalajele de capacitate între Google și noi în ceea ce privește formarea modulară, m-am simțit foarte, foarte îngrijorat.”
Scott povestește cum Microsoft s-a străduit să copieze marele model BERT al Google, modelul AI care decodifică sensul și contextul cuvintelor dintr-o propoziție. Scott a dat vina pe salturile în infrastructură făcute de concurentul său, ceea ce Microsoft nu a făcut.
„S-a dovedit că simpla replicare a modelului mare BERT nu a fost ușoară pentru noi „Chiar dacă aveam modelul la locul lor, ne-a luat aproximativ 6 luni să instruim modelul, deoarece infrastructura noastră nu a fost la înălțime”, spune CTO Microsoft. a scris „Google a avut BERT de cel puțin șase luni înainte de aceasta, așa că în timpul necesar pentru a pirata împreună abilitatea de a antrena un model cu parametri 340M, au avut un an pentru a afla cum să-l introducă în producție și să mergem mai departe. la modele mai largi, mai interesante.
El și-a exprimat, de asemenea, admirația și invidia față de capabilitățile de completare automată Gmail ale Google, spunând că acestea „au devenit înfricoșător de bune”. El a comentat că Microsoft a fost „cu câțiva ani în urmă față de concurență în ceea ce privește… [machine learning] Volum.” El a comentat despre creșterea „interesantă” în OpenAI, DeepMind și Google Brain.
Scott i-a lăudat pe oamenii „foarte inteligenți” ai Microsoft din echipele sale de învățare automată, dar a spus că ambițiile lor au fost reduse. „Dar echipele de bază de învățare profundă din cadrul fiecăreia dintre aceste echipe mari sunt foarte mici, iar ambițiile lor au fost, de asemenea, limitate, ceea ce înseamnă că, chiar și atunci când începem să le furnizăm resurse, trebuie să treacă printr-un proces de învățare pentru a extinde munca.” Scott a scris. „Și suntem cu câțiva ani în urmă față de concurență în ceea ce privește scara de învățare automată.”
După ce Hood a îndemnat că preocupările lui Scott erau „de ce vreau să facem asta”, și anume investind în OpenAI, compania și-a îndeplinit dorințele CEO-ului. Microsoft a investit 1 miliard de dolari în startup-ul condus de Sam Altman în 2019, iar restul este o istorie care se schimbă rapid. (Acum a investit 13 miliarde de dolari.) Este o tehnologie care face lucruri incredibile, dar amenință să distrugă piața muncii și le oferă predicatorilor cel mai puternic instrument de până acum în ceea ce era deja o eră a dezinformarii rampante.
„Iubitor tipic de twitter. Muzicholic pe tot parcursul vieții. Fanatic al culturii pop. Prieten al animalelor de pretutindeni. Evanghelist avid de bere. Jucător certificat.”