„În loc de vocea lui Alexa care citește cartea, este vocea bunicii bebelușului”, a explicat cu entuziasm Rohit Prasad, vicepreședinte senior și om de știință șef AI al Alexa, miercuri, în timpul unei discursuri principale la Las Vegas. (Fondatorul Amazon, Jeff Bezos, deține The Washington Post.)
oferta A fost prima vedere a celei mai recente funcții ale Alexa, care – deși este încă în dezvoltare – va permite asistentului vocal să repete vocile oamenilor din clipuri audio scurte. Scopul, a spus Prasad, este de a construi o mai mare încredere cu utilizatorii prin infuzarea AI cu „trăsăturile umane ale empatiei și influenței”.
Noua caracteristică poate „face [loved ones’] Flashback”, a spus Prasad. Dar, deși perspectiva de a auzi vocea unei rude decedate poate fi foarte emoționantă, ridică și o multitudine de preocupări de securitate și etică, au spus experții.
„Nu simt că lumea noastră este pregătită pentru tehnologia de clonare a vocii ușor de utilizat”, a declarat Rachel Tobak, CEO al SocialProof Security din San Francisco, pentru The Washington Post. Ea a adăugat că o astfel de tehnologie ar putea fi folosită pentru a manipula publicul prin clipuri audio sau video false.
„Dacă infractorii cibernetici pot replica cu ușurință și fiabil vocea altcuiva folosind un eșantion mic de voce, ei pot folosi eșantionul de voce pentru a uzurpa identitatea altor persoane”, a adăugat Tupac, expert în securitate cibernetică. „Acest actor rău îi poate păcăli pe alții să creadă că sunt persoana pe care o usurează, ceea ce poate duce la fraudă, pierdere de date, preluare de cont și multe altele.”
Există, de asemenea, pericolul de a estompa liniile dintre ceea ce este uman și ceea ce este mecanic, a spus Tama Lever, profesor de studii pe internet la Universitatea Curtin din Australia.
„Nu-ți vei aminti să fi vorbit cu adâncurile Amazonului… și Serviciile sale de colectare a datelor Dacă vorbește cu bunica ta, cu vocea bunicului tău sau cu vocea unei persoane dragi.”
„Este un pic ca un episod din Black Mirror”, a spus Leaver, remarcând. Un serial science-fiction care descrie un viitor sub titlul de tehnologie.
Leaver a adăugat că noua funcție Alexa ridică și întrebări despre consimțământ – în special pentru persoanele care nu și-au imaginat niciodată că vocea lor va fi purtată de un asistent personal automat după moarte.
„Există o pantă foarte alunecoasă în utilizarea datelor persoanelor decedate într-un mod care este înfricoșător, pe de o parte, dar foarte lipsit de etică, pe de altă parte, deoarece nu s-au gândit niciodată să folosească aceste efecte în acest fel”, a spus Leaver.
După ce și-a pierdut recent bunicul, Lever a spus că simpatiza cu „tentația” de a dori să audă vocea cuiva drag. Dar, a spus el, posibilitatea deschide o ușă a consecințelor pe care societatea ar putea să nu fie dispusă să le suporte – de exemplu, Cine are dreptul la micile fragmente pe care oamenii le lasă pentru influențele World Wide Web?
Dacă bunicul meu mi-a trimis 100 de mesaje, am dreptul să le pun în sistem? Și dacă da, cui deține? Are Amazon acea înregistrare atunci? a întrebat el. Ați renunțat la dreptul la vocea bunicului meu?
Prasad nu a detaliat astfel de detalii în timpul discursului de miercuri. Cu toate acestea, el a postulat că abilitatea de a imita sunete a fost un produs al „trăirii, fără îndoială, în epoca de aur a inteligenței artificiale, în care visele noastre și ficțiunea științifico-fantastică au devenit realitate”.
Dacă demonstrația Amazon devine o caracteristică reală, Leaver a spus că oamenii ar putea avea nevoie să înceapă să se gândească la modul în care vocile și asemănarea lor vor fi folosite atunci când vor muri.
„Ar trebui să consider în testamentul meu că trebuie să spun: „Vocea mea și istoria mea descrisă pe rețelele de socializare sunt proprietatea copiilor mei și ei pot decide dacă vor sau nu să reînvie acest lucru în chat cu mine? a întrebat Lever.
„Este un lucru ciudat de spus acum. Dar probabil că este o întrebare la care trebuie să avem un răspuns înainte ca Alexa să înceapă să vorbească ca mine mâine.”
„Iubitor tipic de twitter. Muzicholic pe tot parcursul vieții. Fanatic al culturii pop. Prieten al animalelor de pretutindeni. Evanghelist avid de bere. Jucător certificat.”