Internet up in Arms, kun 4Chan-käyttäjä käyttää tekoälysimulaattoria väärentääkseen Emma Watsonin äänen ja saa hänet lukemaan Hitlerin omaelämäkerran
Googlen ja Palantirin entiset työntekijät lanseerasivat yhdessä startupin Elevenlabsin, jonka tarkoituksena oli luoda korkealaatuisia syvääänisiä väärennöksiä julkkiksista tekoälyn kloonaustyökalun avulla. Mutta heidän betajulkaisunsa kostautui pian, kun monet käyttivät väärin julkkisten, mukaan lukien Emma Watsonin, ääntä tekoälyn kloonaustyökalun avulla.
Monet fanit ovat suuttuneet tekoälytyökalun epäeettisestä ja moraalittomasta käytöstä sen jälkeen, kun jotkut peikot ovat käyttäneet väärin suosikkijulkkisääniään jakaakseen törkeitä kommentteja. Startup on kuitenkin vakuuttanut kaikille, että he aikovat muuttaa malliaan lisäongelmien välttämiseksi.
Fanit raivostuivat sen jälkeen, kun 4Chan-käyttäjä väärinkäyttää Emma Watsonin ääntä tekoälytyökalun avulla
Elevenlabsin tekoälypuheen kloonaustyökalun käyttöönotto on sytyttänyt Internetin tuleen sen jälkeen, kun lukuisat peikot ovat hyödyntäneet tämän ilmaisen työkalun käyttöä. Vaikka monet ovat käyttäneet ohjelmistoa terveellisen sisällön tuottamiseen, osa Internetiä on käyttänyt työkalua väärin saadakseen julkkikset sylkemään rodullisia herjauksia ja törkeitä kommentteja sekä Emma Watsonin ääni oli viimeinen pisara.
Äskettäin. Emolevy raportoi tekoälyohjelmiston äärimmäisestä väärinkäytöstä loukkaavan syvän väärennetyn äänen luomiseksi. Mutta pilli, joka mursi kamelin selän, oli 4Chan-käyttäjä, joka loi leikkeen Harry Potter tähti Emma Watson lukee minun taisteluni natsidiktaattori Adolf Hitlerin omaelämäkerta.
Fanit ovat suuttuneet Emma Watsonin ja muiden tunnettujen julkkisten, kuten Joe Roganin, Robin Williamsin jne., ohjelmiston epäeettisestä käytöstä. Elevenlabs, joka asetti tekniikan yleisön saataville, on käsitellyt tätä kasvavaa ongelmaa ja vannonut taistelevansa äänen kloonaustyökalunsa väärinkäyttö.
Lue myös: Azkabanin vanki -ohjaaja pyysi Harry Potter -triota kirjoittamaan esseen hahmostaan – Emma Watson kirjoitti 16 sivua, Daniel Radcliffellä oli 1 sivun yhteenveto, Rupert Grint ei kirjoittanut yhtä
Elevenlabs lupaa välttää tekoälytyökalun väärinkäyttöä
Startup oli yllättynyt positiivisesta reaktiosta heillekin alussa, sillä monet käyttivät tekoälyn äänikloonaustyökalua terveelliseen luomiseen. Mutta yritys kohtasi pian ongelman, kun peikot alkoivat hyödyntää ohjelmistoa ilkeisiin tarkoituksiin. Elevenlabs on vakuuttanut internetille, että he tutkivat asiaa syvällisesti ja keksivät mahdollisia ratkaisuja.
Vaikka Elevenlabsin luojat myönsivätkin, että he voivat jäljittää käyttäjiä, jotka käyttävät väärin tekoälytyökalun tehoa, he etsivät lisäturvatoimenpiteitä tämän ongelman välttämiseksi. Tekijät jakoivat erilaisia ideoita asian käsittelemiseksi, mikä sisältää manuaalisen vahvistuksen käyttöönoton jokaiselle kloonaukselle ja käyttäjän täydellisen tunnuksen varmentamisen maksulla tai millä tahansa muulla tavalla.
Vaikka Startupin beta-testaus alkoi vaihtelevasti, monet fanit olivat raivoissaan julkkisten äänten epäeettisestä käytöstä tekoälytyökalun kautta, erityisesti Emma Watson. Mutta ihmiset ovat myös tunnustaneet startupin siitä, ettei se ole selvittänyt tilannetta ja ryhtynyt aktiivisiin toimiin näiden Internet-trollien torjumiseksi.
Lähde: Vice
