Amazon Alexa dezvăluie o nouă tehnologie care poate imita sunete, inclusiv pe cele ale morților

Substituent în timpul încărcării acțiunilor articolului

suport deasupra a lângă pat Program În timpul summitului tehnologic Amazon din această săptămână, Echo Dot a fost rugat să finalizeze o sarcină: „Alexa, poate bunica să mă citească?” Vrajitorul din Oz’?”

Vocea de obicei veselă a lui Alexa s-a răspândit din difuzorul inteligent cu tematică pentru bebeluși, cu tematică panda: „Bine!” Apoi, când dispozitivul a început să povestească o scenă a unui leu laș care cerșea curaj, soneria robotică a lui Alexa a fost înlocuită cu un cititor cu aspect mai uman.

„În loc de vocea lui Alexa care citește cartea, este vocea bunicii bebelușului”, a explicat cu entuziasm Rohit Prasad, vicepreședinte senior și om de știință șef AI al Alexa, miercuri, în timpul unei discursuri principale la Las Vegas. (Fondatorul Amazon, Jeff Bezos, deține The Washington Post.)

oferta A fost prima vedere a celei mai recente funcții ale Alexa, care – deși este încă în dezvoltare – va permite asistentului vocal să repete vocile oamenilor din clipuri audio scurte. Scopul, a spus Prasad, este de a construi o mai mare încredere cu utilizatorii prin infuzarea AI cu „trăsăturile umane ale empatiei și influenței”.

Noua caracteristică poate „face [loved ones’] Flashback”, a spus Prasad. Dar, deși perspectiva de a auzi vocea unei rude decedate poate fi foarte emoționantă, ridică și o multitudine de preocupări de securitate și etică, au spus experții.

„Nu simt că lumea noastră este pregătită pentru tehnologia de clonare a vocii ușor de utilizat”, a declarat Rachel Tobak, CEO al SocialProof Security din San Francisco, pentru The Washington Post. Ea a adăugat că o astfel de tehnologie ar putea fi folosită pentru a manipula publicul prin clipuri audio sau video false.

READ  Google trimite noi invitații să se alăture Pixel Superfans

„Dacă infractorii cibernetici pot replica cu ușurință și fiabil vocea altcuiva folosind un eșantion mic de voce, ei pot folosi eșantionul de voce pentru a uzurpa identitatea altor persoane”, a adăugat Tupac, expert în securitate cibernetică. „Acest actor rău îi poate păcăli pe alții să creadă că sunt persoana pe care o usurează, ceea ce poate duce la fraudă, pierdere de date, preluare de cont și multe altele.”

Există, de asemenea, pericolul de a estompa liniile dintre ceea ce este uman și ceea ce este mecanic, a spus Tama Lever, profesor de studii pe internet la Universitatea Curtin din Australia.

„Nu-ți vei aminti să fi vorbit cu adâncurile Amazonului… și Serviciile sale de colectare a datelor Dacă vorbește cu bunica ta, cu vocea bunicului tău sau cu vocea unei persoane dragi.”

„Este un pic ca un episod din Black Mirror”, a spus Leaver, remarcând. Un serial science-fiction care descrie un viitor sub titlul de tehnologie.

Un inginer Google care crede că inteligența artificială a companiei a fost atinsă

Leaver a adăugat că noua funcție Alexa ridică și întrebări despre consimțământ – în special pentru persoanele care nu și-au imaginat niciodată că vocea lor va fi purtată de un asistent personal automat după moarte.

„Există o pantă foarte alunecoasă în utilizarea datelor persoanelor decedate într-un mod care este înfricoșător, pe de o parte, dar foarte lipsit de etică, pe de altă parte, deoarece nu s-au gândit niciodată să folosească aceste efecte în acest fel”, a spus Leaver.

După ce și-a pierdut recent bunicul, Lever a spus că simpatiza cu „tentația” de a dori să audă vocea cuiva drag. Dar, a spus el, posibilitatea deschide o ușă a consecințelor pe care societatea ar putea să nu fie dispusă să le suporte – de exemplu, Cine are dreptul la micile fragmente pe care oamenii le lasă pentru influențele World Wide Web?

READ  MagSafe pe noul MacBook Pro: tot ce trebuie să știți

Dacă bunicul meu mi-a trimis 100 de mesaje, am dreptul să le pun în sistem? Și dacă da, cui deține? Are Amazon acea înregistrare atunci? a întrebat el. Ați renunțat la dreptul la vocea bunicului meu?

Prasad nu a detaliat astfel de detalii în timpul discursului de miercuri. Cu toate acestea, el a postulat că abilitatea de a imita sunete a fost un produs al „trăirii, fără îndoială, în epoca de aur a inteligenței artificiale, în care visele noastre și ficțiunea științifico-fantastică au devenit realitate”.

Acest model AI încearcă să recreeze mintea lui Ruth Bader Ginsburg

Dacă demonstrația Amazon devine o caracteristică reală, Leaver a spus că oamenii ar putea avea nevoie să înceapă să se gândească la modul în care vocile și asemănarea lor vor fi folosite atunci când vor muri.

„Ar trebui să consider în testamentul meu că trebuie să spun: „Vocea mea și istoria mea descrisă pe rețelele de socializare sunt proprietatea copiilor mei și ei pot decide dacă vor sau nu să reînvie acest lucru în chat cu mine? a întrebat Lever.

„Este un lucru ciudat de spus acum. Dar probabil că este o întrebare la care trebuie să avem un răspuns înainte ca Alexa să înceapă să vorbească ca mine mâine.”

Lasă un răspuns

Adresa ta de email nu va fi publicată.