„Amazon Alexa“ pristato naują technologiją, galinčią imituoti balsus, įskaitant mirusiuosius

Rezervuota vieta įkeliant prekių reklamas

Remiantis a lova Šios savaitės „Amazon Tech Summit“ metu „Echo Dot“ buvo paprašyta atlikti užduotį: „Alexa, ar gali močiutė man atsiųsti Ozo burtininkas’?”

Įprastai linksmas Alexa balsas nuskambėjo iš pandos tematikos vaiko išmaniojo garsiakalbio: „Gerai!“ Tada, įrenginiui pradėjus pasakoti sceną, kurioje bailus liūtas maldavo drąsos, Alexos robotas buvo pakeistas labiau žmogišku pasakotoju. .

„Vietoj Alexos balso, skaitančio knygą, tai yra vaiko močiutės balsas“, – trečiadienį per pagrindinį pranešimą Las Vegase susijaudinęs paaiškino Rohitas Prasadas, vyresnysis viceprezidentas ir vyriausiasis Alexa dirbtinio intelekto mokslininkas. („Amazon“ įkūrėjas Jeffas Bezosas priklauso „Washington Post“.)

Demonstracinė versija buvo pirmasis žvilgsnis į naujausią „Alexa“ funkciją, kuri leistų balso asistentui (nors vis dar kuriama) atkartoti žmonių balsus iš trumpų garso klipų. Prasadas teigė, kad tikslas yra sukurti didesnį vartotojų pasitikėjimą, įvedant dirbtinį intelektą „žmogiškomis empatijos ir afekto savybėmis“.

Naujoji funkcija galėtų „daryti [loved ones’] Liko prisiminimai“, – sakė Prasadas. Tačiau, nors tikimybė išgirsti mirusio giminaičio balsą gali kelti nerimą, tai taip pat kelia daugybę saugumo ir etinių problemų, sakė ekspertai.

„Nemanau, kad mūsų pasaulis pasiruošęs lengvai naudoti balso klonavimo technologiją“, – „The Washington Post“ sakė San Franciske įsikūrusios SocialProof Security generalinė direktorė Rachel Tobac. Ji pridūrė, kad tokia technologija gali būti naudojama manipuliuoti visuomene naudojant netikrus garso ar vaizdo įrašus.

„Jei kibernetinis nusikaltėlis gali lengvai ir patikimai atkurti kito žmogaus balsą naudodamas nedidelį pavyzdį, jis gali panaudoti tą pavyzdį, kad apsimetinėtų kitais žmonėmis“, – pridūrė kibernetinio saugumo ekspertas Tobacas. „Šis blogas aktorius gali priversti kitus patikėti, kad jie yra tai, kuo apsimetinėja, o tai gali sukelti sukčiavimą, duomenų praradimą, paskyros perėmimą ir kt.

Tuomet kyla pavojus, kad susilieja ribos tarp žmonių ir mechanikų, sako Tama Leaver, Australijos Curtino universiteto interneto studijų profesorė.

„Jūs neprisiminsite, kad kalbėjotės su Amazonės gelmėmis… ir savo duomenų rinkimo paslaugas nesvarbu, ar tai kalba tavo močiutės ar senelio, ar prarasto mylimojo balsu.

„Tam tikra prasme tai panašu į „Juodojo veidrodžio“ epizodą“, – sakė Leaveris, kalbėdamas apie tai. mokslinės fantastikos serialas, numatantis ateitį technologijų tema.

„Google“ inžinierius, kuris tiki, kad įmonės AI atgijo

Naujoji „Alexa“ funkcija taip pat kelia klausimų dėl sutikimo, pridūrė Leaveris – ypač žmonėms, kurie nė neįsivaizdavo, kad po mirties jų balsą išjungs asmeninis robotas asistentas.

„Yra tikrai slidi tendencija naudoti mirusių žmonių duomenis taip, kad, viena vertus, tai būtų tiesiog baisu, bet, kita vertus, tai labai neetiška, nes jie niekada nemanė, kad tie įkalčiai būtų naudojami tokiu būdu“, – sakė Leaveris.

Neseniai netekęs senelio, Leaveris sakė užjaučiantis „gundymą“ norėti išgirsti mylimo žmogaus balsą. Tačiau tokia galimybė atveria užtvanką pasekmių, kurių visuomenė gali nenorėti priimti, sakė jis, pavyzdžiui, Kam priklauso teisės į mažus fragmentus, kuriuos žmonės palieka pasaulinio žiniatinklio bangose?

„Jei senelis man atsiuntė 100 žinučių, ar turėčiau teisę jas įdėti į sistemą? Ir jei aš, tai kam jis priklauso? Ar tada „Amazon“ priklauso šis įrašas?“ – klausė jis. – Ar aš atsisakiau teisių į savo senelio balsą?

Trečiadienio kreipimesi Prasadas tokių detalių nepasakė. Tačiau jis teigė, kad gebėjimas imituoti balsus buvo „neabejotinai gyvenimo auksinėje AI eroje, kai mūsų svajonės ir mokslinė fantastika tampa realybe, rezultatas“.

Šis AI modelis bando atkurti Ruth Bader Ginsburg mintis

Jei „Amazon“ demonstracinė versija taptų tikra funkcija, sakė Leaveris, galbūt žmonės turėtų pradėti galvoti apie tai, kaip jų balsai ir panašumai galėtų būti panaudoti jiems mirus.

„Ar savo testamente turiu atsižvelgti į tai, kad turiu pasakyti: „Mano balsas ir mano istorija socialinėje žiniasklaidoje priklauso mano vaikams ir jie gali pasirinkti, atgaivinti tai pokalbyje su manimi? “, – stebėjosi Leaveris.

„Dabar keista tai sakyti. Bet tikriausiai tai yra klausimas, į kurį turėtume gauti atsakymą, kol Alexa rytoj nepradės kalbėti kaip aš“, – pridūrė jis.

Leave a Comment