AI aplikacija za transkripciju "halucinira" i dopisuje izmišljene rečenice
Aplikacija za transkripciju govora koja radi uz pomoć veštačke inteligencije Visper, tehnološkog džina OpenAI, sklona je da tokom rada dopisuje u tekst i cele izmišljene rečenice.
Foto: Pixabay (ilustracija)
Više od deset softverskih inženjera, programera i akademskih istraživača navodi da taj novi alat kojeg je OpenAI pri lansiranju reklamirao da radi tačno poput čoveka, "halucinira" i dodaje reči.
Stručnjaci kažu da su takve izmišljotine problematične jer se Visper koristi u nizu industrija širom sveta za prevođenje i transkripciju intervjua, generisanje teksta u popularnim potrošačkim tehnologijama i kreiranje titlova za video snimke.
Još više zabrinjava, kažu oni, žurba medicinskih centara da koriste takve alate za transkripciju konsultacija pacijenata sa lekarima, uprkos upozorenjima OpenAI da se ta alatka ne sme koristiti u "domenima visokog rizika".
Puni obim problema je teško uočiti, ali istraživači i inženjeri kažu da su često nailazili na "halucinacije" Vispera. Jedan istraživač Univerziteta u Mičigenu koji je sproveo studiju je kazao da je našao "halucinacije" u čak 80 odsto transkripcija koje je pregledao.
Jedan inženjer za mašinsko učenje rekao je da je odmah otkrio "halucinacije" u polovini od preko 100 sati transkripcija Vispera koje je analizirao, a jedan programer da ih je našao u skoro svakom od 26.000 transkripata koje je napravio pomoću Vispera.
Takve greške mogu imati "teške posledice", posebno u bolnicama, rekla je Alondra Nelson koja je do prošle godine vodila Kancelariju Bele kuće za nauku i tehnologiju.
"Visper se koristi za kreiranje titlova za gluve i nagluve koji su posebno izloženi riziku od pogrešnih transkripcija jer nemaju način da identifikuju izmišljotine skrivene u tekstovima", rekao je Kristijan Vogler koji je gluv, a rukovodi programom pristupa tehnologiji Univerziteta Gallaudet.
Portparol OpenAI je rekao da kompanija kontinuirano proučava kako da smanji "halucinacije" i da ceni nalaze istraživača, dodajući da OpenAI u ažuriranje modela uključuje povratne informacije.
Profesori Allison Keneke sa Univerziteta Cornell i Mona Sloun sa Univerziteta Virdžinije ispitali su hiljade kratkih isečaka.
U primerima koji su otkrili, jedan govornik je rekao: "On, dečak, hteo je - nisam baš siguran - da uzme kišobran", ali softver za transkripciju je dodao: "Uzeo je veliki deo krsta, mali, mali deo... Siguran sam da nije imao nož za terorizam pa je ubio veliki broj ljudi".
Govornik na drugom snimku opisao je "dve druge devojke i jednu damu", A Visper je izmislio dodatni komentar o rasi, dodavši: "dve druge devojke i jednu damu, hm, koje su bile crne".
U trećoj transkripciji, Visper je izmislio lek pod nazivom "hiperaktivirani antibiotici".
Istraživači nisu sigurni zašto Visper i slični alati "haluciniraju", ali programeri softvera kažu da se to obično dešava usled pauza u govoru ili mešanja zvukova ili muzike iz pozadine.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Zabava - Zanimljivosti
Kralj Čarls postao samoanski visoki poglavica, poslužena mu narkotična kava-kava
25.10.2024.•
0
Britanski kralj Čarls III, koji sa suprugom Kamilom boravi u poseti Samoi, učestvovao je u tradicionalnom ispijanju narkotičnog napitka kava-kava prilikom ceremonije dobrodošlice.
"Samo srce može dobro da vidi": Izuzetno redak primerak Malog princa na prodaju za 1,25 miliona
24.10.2024.•
0
Kopija "Malog princa" Antoana de Sent Egziperija sa obimnim ispravkama francuskog autora, koju izdavači opisuju kao književno blago, biće u prodaji od 20. do 24. novembra u Abu Dabi Artu.
VIDEO: Čuveni mim dečka koji se osvrće za drugom devojkom dobio nastavak
23.10.2024.•
0
Veštačka inteligencija kreirala je nastavak legendarnog mim-a u koji prikazuje reakciju mladića na devojku koja prolazi ulicom ali i reakciju njegove devojke koja sve to posmatra.
Vozački ispit u Indiji: Traje nekoliko minuta, dovoljno da znate da vozite pravo, rikverc i skrenete
23.10.2024.•
8
Polaganje vozačkog ispita po pravilu je stresan događaj.
Izgubila mobilni, pokušala da ga dohvati i zaglavila se, pa provela sedam sati okrenuta naglavačke
22.10.2024.•
0
Australijanka, koja je tragala za izgubljenim mobilnim telefonom, zaglavila se među stenama u dolini Hanter veli, i provela sedam sati okrenuta naglavačke pre nego što su spasioci stigli do nje.
Ako ste se ikad posekli na papir: Naučnici utvrdili koja debljina hartije je najopasnija
21.10.2024.•
0
Fizičari sa Tehničkog univerziteta u Danskoj utvrdili su eksperimentom da debljina papira od 65 mikrona može najgore da poseče.
Kupio srećku koju nije želeo, pa dobio 9,2 miliona dolara
21.10.2024.•
1
Stanovnik američke savezne države Ilinois kupio je, zbog pokvarenog automata, tiket za vrstu lutrije koju nije želeo, ali mu je on ipak doneo dobitak od 9,2 miliona dolara.
Plaže u Sidneju ponovo otvorene nakon pojave misterioznih crnih loptica
20.10.2024.•
0
Plaže u Sidneju ponovo su otvorene za kupače nakon što su ranije tokom nedelje bile zatvorene zbog hiljada misterioznih crnih loptica koje su se pojavile na obali, a za koje se smatralo da su otrovne.
VIDEO: "Otrovna pena" prekrila reku u Indiji, čamci se jedva probijaju kroz nju
20.10.2024.•
2
Korisnici društvenih mreža postavili su snimke koji pokazuju zagađenje kojim je nedaleko od glavnog grada Nju Delhija pogođena reka Jamuna, najveća pritoka Ganga.
Ovo je najmanje naseljeno ostrvo na svetu
20.10.2024.•
0
Just Room Enough Island je ostrvo koje ima zvaničnu titulu najmanjeg naseljenog ostrva na svetu s površinom od 310 metara kvadratnih.
VIDEO: Ovo je najmanja kuća na svetu - ima sve što ima tipični dom
20.10.2024.•
2
Livaj Keli izgradio je minijaturnu kuću na točkovima koja se prostire na svega 1,8 kvadratnih metara.
Makron: Žestoko ćemo se boriti da se Emili vrati u Pariz
20.10.2024.•
1
Francuski predsednik Emanuel Makron našalio se da će se boriti da obezbedi da se glavna junakinja Netfliksove hit serije "Emili u Parizu" vrati u francusku prestonicu nakon boravka u Rimu.
Zbog neispravnog mikrofona Tramp 20 minuta ćuteći šetkao po bini tokom mitinga
19.10.2024.•
1
Donald Tramp je u petak uveče skoro 20 minuta ćuteći šetkao po bini tokom mitinga u Detroitu jer mu se pokvario mikrofon.
VIDEO: Ovo je plutajući električni automobil, koristiće se za poplave
19.10.2024.•
5
Kineski proizvođač električnih automobila BID predstavio je u Evropi amfibiju, "plutajući automobil", koji razbija mit da električna vozila ne mogu da uđu u vodu.
VIDEO: Plaže u Sidneju zatvorene zbog misterioznih crnih kuglica, sumnja se da su otrovne
17.10.2024.•
2
Plaže u Sidneju zatvorene su danas za kupače nakon što su stotine crnih loptica za koje se sumnja da su otrovne isplivale na obalu.
Pronađena tajna grobnica u Petri, mestu gde je Indijana Džons tražio Sveti gral
16.10.2024.•
0
Arheolozi su ispod riznice u Jordanskoj "Petri" otkrili grobnicu sa ostacima najmanje 12 osoba i predmetima starim bar 2.000 godina.
VIDEO: Robot dirigovao Drezdenskim simfonijskim orkestrom
14.10.2024.•
2
Robot s tri ruke ušao je u muzičku istoriju jer je prvi dirigovao ansamblom na koncertu kojim je u nedelju proslavljena 25. godišnjica Drezdenskog simfonijskog orkestra.
Analiza DNK potvrdila: Kristofer Kolumbo bio sefardski Jevrejin iz Zapadne Evrope
14.10.2024.•
13
Moreplovac i istraživač iz 15. veka Kristofer Kolumbo bio je sefardski Jevrejin iz zapadne Evrope, saopštili su španski naučnici nakon što su analizirali njegov DNK.
FOTO, VIDEO: U Sahari poplave prvi put u poslednjih 50 godina
13.10.2024.•
1
Dva dana septembarskih padavina na nekoliko područja Saharske oblasti u jugoistočnom Maroku premašila su godišnje proseke i izazvala poplavu, saopštili su zvaničnici meteorološke agencije te zemlje.
VIDEO: Pokazao kako izgleda putovanje na posao u kineskom gradu od 36 miliona ljudi - "pakao"
13.10.2024.•
9
Tiktoker Džekson koji se na društvenoj mreži predstavlja pod korisničkim imenom @journeyofjackson, često objavljuje snimke iz grada Čongkinga u Kini.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar