AI aplikacija za transkripciju "halucinira" i dopisuje izmišljene rečenice
Aplikacija za transkripciju govora koja radi uz pomoć veštačke inteligencije Visper, tehnološkog džina OpenAI, sklona je da tokom rada dopisuje u tekst i cele izmišljene rečenice.
Foto: Pixabay (ilustracija)
Više od deset softverskih inženjera, programera i akademskih istraživača navodi da taj novi alat kojeg je OpenAI pri lansiranju reklamirao da radi tačno poput čoveka, "halucinira" i dodaje reči.
Stručnjaci kažu da su takve izmišljotine problematične jer se Visper koristi u nizu industrija širom sveta za prevođenje i transkripciju intervjua, generisanje teksta u popularnim potrošačkim tehnologijama i kreiranje titlova za video snimke.
Još više zabrinjava, kažu oni, žurba medicinskih centara da koriste takve alate za transkripciju konsultacija pacijenata sa lekarima, uprkos upozorenjima OpenAI da se ta alatka ne sme koristiti u "domenima visokog rizika".
Puni obim problema je teško uočiti, ali istraživači i inženjeri kažu da su često nailazili na "halucinacije" Vispera. Jedan istraživač Univerziteta u Mičigenu koji je sproveo studiju je kazao da je našao "halucinacije" u čak 80 odsto transkripcija koje je pregledao.
Jedan inženjer za mašinsko učenje rekao je da je odmah otkrio "halucinacije" u polovini od preko 100 sati transkripcija Vispera koje je analizirao, a jedan programer da ih je našao u skoro svakom od 26.000 transkripata koje je napravio pomoću Vispera.
Takve greške mogu imati "teške posledice", posebno u bolnicama, rekla je Alondra Nelson koja je do prošle godine vodila Kancelariju Bele kuće za nauku i tehnologiju.
"Visper se koristi za kreiranje titlova za gluve i nagluve koji su posebno izloženi riziku od pogrešnih transkripcija jer nemaju način da identifikuju izmišljotine skrivene u tekstovima", rekao je Kristijan Vogler koji je gluv, a rukovodi programom pristupa tehnologiji Univerziteta Gallaudet.
Portparol OpenAI je rekao da kompanija kontinuirano proučava kako da smanji "halucinacije" i da ceni nalaze istraživača, dodajući da OpenAI u ažuriranje modela uključuje povratne informacije.
Profesori Allison Keneke sa Univerziteta Cornell i Mona Sloun sa Univerziteta Virdžinije ispitali su hiljade kratkih isečaka.
U primerima koji su otkrili, jedan govornik je rekao: "On, dečak, hteo je - nisam baš siguran - da uzme kišobran", ali softver za transkripciju je dodao: "Uzeo je veliki deo krsta, mali, mali deo... Siguran sam da nije imao nož za terorizam pa je ubio veliki broj ljudi".
Govornik na drugom snimku opisao je "dve druge devojke i jednu damu", A Visper je izmislio dodatni komentar o rasi, dodavši: "dve druge devojke i jednu damu, hm, koje su bile crne".
U trećoj transkripciji, Visper je izmislio lek pod nazivom "hiperaktivirani antibiotici".
Istraživači nisu sigurni zašto Visper i slični alati "haluciniraju", ali programeri softvera kažu da se to obično dešava usled pauza u govoru ili mešanja zvukova ili muzike iz pozadine.
OBRATI PAŽNJU! Osvežili smo platformu sa muzičkim kanalima, a preko koje možete slušati i Radio 021. Preporučujemo vam novu kategoriju - LOUNGE, za baš dobar užitak i relax tokom dana. Vaš 021!
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Zabava - Zanimljivosti
FOTO Novo otkriće Pompeje: Grobnica ukrašena reljefom bračnog para u prirodnoj veličini
03.04.2025.•
1
Monumentalna grobnica ukrašena reljefom dve ljudske figure gotovo prirodne veličine, za koje se veruje da predstavljaju mladi bračni par, otkrivena je tokom iskopavanja u Pompeji, na jugu Italje.
Skupljao sve elemente iz periodnog sistema - pa uhapšen jer je uvezao plutonijum
03.04.2025.•
0
Jedan Australijanac optužen je za kršenje zakona, nakon što je preko interneta naručio uzorak plutonijuma u pokušaju da sakupi sve elemente iz periodnog sistema.
VIDEO: Američki senator držao govor 25 sati u znak protesta protiv Trampa
02.04.2025.•
3
Američki senator Kori Buker oborio je rekord za najduži govor ikada održan u Senatu.
Danas je Dan šale - mnoge lažne vesti teško razlikovati od apsurdne zbilje
01.04.2025.•
2
U svetu se danas obeležava 1, april - Dan šale, kada ljudi saopštavaju lažne novosti i prave smicalice kako bi se smejali ili bili u smešnoj situaciji.
Deset najčudnijih saobraćajnih pravila na svetu
30.03.2025.•
3
Ako ste odlučili da posetite zemlju koju još niste istražili, a na putovanje idete automobilom, bilo bi dobro da znate barem njihova saobraćajna pravila.
VIDEO: Tinejdžer napravio Lamborghini od kartona koji može da ide 40 km/h
30.03.2025.•
1
Etsenumhe Ahmad je 18-godišnji Nigerijac koji je ostavio tiktokere bez teksta nakon što je napravio potpuno funkcionalni Lamborghini koristeći ništa drugo osim - kartona.
Nemački grad traži gradonačelnika preko oglasa
30.03.2025.•
1
Nemački grad Vagenroge, koji se nalazi na istoimenom ostrvu u Severnom moru, traži gradonačelnika preko oglasa u novinama, prenosi nedeljnik Špigel.
U Oksfordski rečnik dodate 42 nove reči iz drugih jezika: Među njima i "gigil" - evo šta znači
30.03.2025.•
0
U Oksfordski rečnik engleskog jezika dodate su 42 nove reči pozajmljene iz drugih jezika, uključujući izraze koji se ne mogu prevesti.
Otkrivena grobnica neidentifikovanog staroegipatskog faraona
30.03.2025.•
0
Arheolozi su otkrili veliku grobnu komoru od krečnjaka, koja pripada neidentifikovanom staroegipatskom faraonu, u blizini egipatskog grada Abida.
FOTO: "Studio Ghibli" groznica na srpski način
28.03.2025.•
7
Novi trend na internetu je da prikažete sebe ili neku scenu i "Studio Ghibli" stilu.
Akademik iz Nacionalnog arhiva Škotske 30 godina krao stara pisma - zbog markica
26.03.2025.•
0
Nacionalni arhiv Škotske utvrdio je da je akademik i profesor istorije Dejvid Makmilan, koji je umro 1987, tokom 30 godina iz tog arhiva ukrao više od 3.000 istorijskih dokumenata i pisama.
Otkriveno skriveno poglavlje ljudske evolucije: Susret dve nestale vrste pre 300.000 godina
23.03.2025.•
5
Istraživači sa Univerziteta u Kembridžu su otkrili novi deo ljudske evolucije, pokazavši da preci čoveka potiču od susreta dve sada nestale vrste pre oko 300.000 godina.
Svi stanovnici Roterdama od 1. maja imaće besplatnu članarinu u biblioteci
23.03.2025.•
3
Svi stanovnici Roterdama moći će besplatno da se učlane u biblioteku od 1. maja, nakon čega će moći da posude šest knjiga godišnje iz jedne od 23 biblioteke, saopštile su gradske vlasti.
Eksperiment pokazao: Pivske flaše sa mehaničkim otvaračem glasnije od motora mlaznog aviona
23.03.2025.•
6
Zvuk otvaranja piva vadičepom koji je metalnim žicama zavezan za flašu donosi radost mnogim pivopijama, ali i grupi fizičara u Nemačkoj.
Istraživanje: Na Zemlji možda živi i više od zvaničnih 8,2 milijarde ljudi
23.03.2025.•
5
Nova studija istraživača sa Univerziteta Alto u Finskoj sugeriše da su vlade, međunarodne organizacije i istraživači možda znatno potcenili broj ljudi koji trenutno žive na planeti Zemlji.
Objava koja se proširila na društvenim mrežama: "Nisam ćaci"
20.03.2025.•
16
Na društvenim mrežama proširila se fotografija mladića koji je istakao poruku "Nisam ćaći".
Finci osmu godinu zaredom najsrećniji narod na svetu, Srbija na 31. mestu
20.03.2025.•
7
Finska je osmu godinu zaredom proglašena za najsrećniju zemlju na svetu, dok je Srbija na listi najradosnijih država zauzela 31. mesto.
Italijanske dnevne novine objavile izdanje koje je pisao i uređivao AI
19.03.2025.•
4
Italijanske dnevne novine "Il Foglio" objavile su danas prvo izdanje sa sadržajem generisanim pomoću veštačke inteligencije što je eksperiment koji će trajati mesec dana.
VIDEO: Vatikan objavio video-igru kroz koju možete obići Baziliku Svetog Petra
19.03.2025.•
1
Kompanija Majkrosoft i "Fabrika Svetog Petra", udruženje zaduženo za očuvanje Bazilike Svetog Petra, danas su predstavili zajednički projekat u vidu video-igre "Petar je ovde: AI za kulturno nasleđe".
Cena novčića Beatriks Poter porasla 50.000 puta zbog greške u dizajnu
16.03.2025.•
0
Jedan novčić Beatriks Poter od 50 penija prodaje se za 50.000 puta veću vrednost od očekivane zbog male greške koju je primetio vlasnik, preneo je Indipendent.
Lobanje prve ljudske vrste otkrivene u Španiji
16.03.2025.•
4
Fragmenti fosilizovanih kostiju pronađeni u jednoj pećini u Španiji pripadaju najstarijem poznatom ljudskom licu u zapadnoj Evropi, saopštili su španski istraživači.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar