Az Internet fegyverben, ahogy a 4Chan felhasználó mesterséges intelligencia hangszimulátort használ Emma Watson hangjának mély meghamisítására, és ráveszi, hogy elolvassa Hitler önéletrajzát
A Google és a Palantir egykori munkatársai közösen indították útjára az Elevenlabs startupot, amelynek célja a hírességek kiváló minőségű hanghamisítása volt mesterséges intelligencia hangklónozó eszközén keresztül. De a bétaverziójuk hamarosan visszafelé sült el, mert sokan visszaéltek a hírességek, köztük Emma Watson hangjával az AI hangklónozó eszközön keresztül.
Sok rajongót feldühített az AI eszköz etikátlan és erkölcstelen használata, miután néhány troll visszaélt kedvenc híresség hangjával, hogy felháborító megjegyzéseket küldjön. A startup azonban biztosított mindenkit arról, hogy a további problémák elkerülése érdekében módosítani fogják a modelljét.
A rajongók feldühödtek, miután a 4Chan felhasználó visszaél Emma Watson hangjával az AI eszközön keresztül
Az Elevenlabs mesterséges intelligencia hangklónozó eszközének bevezetése lángra lobbantotta az internetet, miután számos troll kihasználta ennek az ingyenes eszköznek a használatát. Bár sokan használták a szoftvert egészséges tartalom létrehozására, az internet egy része visszaélt az eszközzel, hogy a hírességeket faji rágalmakkal és felháborító megjegyzésekkel, valamint a Emma Watsoné hang volt az utolsó csepp a pohárban.
Mostanában. Az alaplap a mesterséges intelligencia szoftverrel való szélsőséges visszaélésről számolt be, hogy sértő mély hamis hangot hozzon létre. De a szalmaszál, ami eltörte a teve hátát, egy 4Chan felhasználó volt, aki készített egy klipet a Harry Potter sztár Emma Watson olvas az én harcom , Adolf Hitler náci diktátor önéletrajza.
A rajongókat feldühítette az Emma Watsonról és más neves hírességekről, köztük Joe Roganról, Robin Williamsről stb. kapcsolatos szoftver etikátlan használata. A technológiát a nyilvánosság számára elérhetővé tevő Elevenlabs foglalkozott ezzel a növekvő problémával, és megfogadta, hogy harcolni fog a visszaélés hangklónozó eszközével.
Olvassa el még: Az „Azkaban foglya” rendezője felkérte a Harry Potter Triót, hogy írjanak esszét a karakterükről – Emma Watson 16 oldalt írt, Daniel Radcliffe 1 oldalas összefoglalót írt, Rupert Grint egyet sem írt
Az Elevenlabs ígéretet tesz arra, hogy elkerüli az AI eszközzel való további visszaéléseket
A Startupot is lenyűgözte a pozitív válasz az elején, mivel sokan az AI hangklónozó eszközt használták egészséges alkotáshoz. A cég azonban hamarosan problémába ütközött, miután a trollok aljas célokra kezdték kihasználni a szoftvert. Az Elevenlabs biztosította az internetet, hogy alaposan megvizsgálják az ügyet, és kitalálják a lehetséges megoldásokat.
Bár az Elevenlabs készítői elismerték, hogy vissza tudják vezetni azokat a felhasználókat, akik visszaélnek az AI eszköz erejével, további biztonsági intézkedéseket keresnek a probléma elkerülése érdekében. Az alkotók különböző ötleteket osztottak meg az ügy kezelésére, amely magában foglalja a kézi ellenőrzés bevezetését minden klónozáshoz, valamint a felhasználó teljes azonosítójának ellenőrzését fizetéssel vagy bármilyen más módon.
Bár a Startup béta tesztelése vegyesen indult, sok rajongó dühöngött a hírességek hangjának etikátlan használata miatt az AI eszközön keresztül, különösen Emma Watson. De az emberek azt is elismerték, hogy a startup nem ecsetelte a helyzetet, és aktív lépéseket tett az internetes trollok kezelésére.
Forrás: Helyettes
