OpenAI se teme să lanseze o Inteligență Artificială care clonează vocea oricui

Un nou instrument de la OpenAI, care poate clona vocea oricui folosind doar 15 secunde de înregistrare audio, a fost considerat prea riscant pentru a fi lansat la nivel general, în timp ce laboratorul de inteligență artificială încearcă să minimizeze amenințarea dezinformării dăunătoare într-un an electoral global.

Voice Engine a fost dezvoltat pentru prima dată în 2022 și o versiune inițială a fost utilizată pentru funcția text-to-speech încorporată în ChatGPT, principalul instrument de inteligență artificială al organizației. Dar puterea sa nu a fost niciodată dezvăluită public, în parte din cauza abordării ,,prudente și informate” pe care OpenAI o adoptă pentru a o lansa pe scară mai largă.

,,Sperăm să începem un dialog cu privire la implementarea responsabilă a vocilor sintetice și la modul în care societatea se poate adapta la aceste noi capacități”, a declarat OpenAI într-o postare nesemnată pe blog.

Amenințarea dezinformării

În postarea sa, compania a împărtășit exemple de utilizări reale ale tehnologiei de la diverși parteneri care au primit acces la aceasta pentru a o încorpora în propriile aplicații și produse, scrie The Guardian.

Firma de tehnologie educațională Age of Learning o folosește pentru a genera voice-over-uri cu scenariu, în timp ce aplicația ,,AI visual storytelling” HeyGen oferă utilizatorilor posibilitatea de a genera traduceri de conținut înregistrat într-un mod fluent, dar care păstrează accentul și vocea vorbitorului original. De exemplu, generarea limbii engleze cu o mostră audio de la un vorbitor francez produce un discurs cu accent francez.

,,Alegem să previzualizăm, dar nu să lansăm pe scară largă această tehnologie în acest moment”, a declarat OpenAI, pentru ,,a consolida rezistența societății în fața provocărilor aduse de modele generative din ce în ce mai convingătoare”.

,,În viitorul imediat, încurajăm măsuri precum eliminarea treptată a autentificării bazate pe voce ca măsură de securitate pentru accesarea conturilor bancare și a altor informații sensibile.”

Politici de protecție a utilizării vocii în AI

OpenAI a solicitat, de asemenea, explorarea unor ,,politici de protecție a utilizării vocii persoanelor în AI” și ,,educarea publicului în înțelegerea capacităților și limitărilor tehnologiilor AI, inclusiv a posibilității unui conținut AI înșelător”.

Generațiile Voice Engine permit organizației să urmărească originea oricărui sunet generat. În prezent, a adăugat aceasta, ,,termenii noștri cu acești parteneri necesită un consimțământ explicit și informat din partea vorbitorului original și nu permitem dezvoltatorilor să construiască modalități prin care utilizatorii individuali să își creeze propriile voci„.

Dar, în timp ce instrumentul OpenAI se remarcă prin simplitatea tehnică și prin cantitatea infimă de sunet original necesară pentru a genera o clonă convingătoare, există deja concurenți disponibili pentru public.

Vă recomandăm să mai citiți și:

O nouă tehnică ajută Inteligența Artificială să-și dea seama atunci când oamenii mint

Inteligența Artificială de la Google prezice inundațiile cu 7 zile în avans

Textele generate cu Inteligență Artificială au ajuns până și în revistele științifice

Giganţii americani Microsoft şi Adobe au lansate noi asistenți bazați pe Inteligenţă Artificială