Razmatra se uvođenje vodenog žiga za ChatGPT da bi se sprečilo varanje

Autor: Klix.ba

Info

05.08.2024.

21:20 > 21:43

Kompanija "OpenAI" razmišlja o uvođenju alata čiji je zadatak da otkrije eseje koje je napisao "ChatGPT" i to s velikim procentom preciznosti.

Razmatra se uvođenje vodenog žiga za ChatGPT da bi se sprečilo varanje

Foto: Pexels

Reč je o vodenom žigu, koji bi označavao sadržaj kreiran veštačkom inteligencijom.

Ovakvog alata i metoda još nema, jer se navodno vode debate o tome da li on treba da "ugleda svetlo dana" iako je već spreman, prenosi klix.ba.

"Naši timovi su razvili metod označavanja teksta vodenim žigom, a mi nastavljamo da razmatramo ovu mogućnost dok istražujemo alternative", saopšteno je iz kompanije "OpenAI".

Međutim, vodeni žig je samo jedno od nekoliko mogućih rešenja, među kojima su klasifikatori i metapodaci koji su razmatrani u sklopu opsežnog istraživanja o poreklu teksta.

Ovaj metod je veoma precizan u određenim situacijama, no nije baš efikasan u slučaju određenih oblika neovlašćenih manipulacija poput korišćenja sistema prevođenja, preformulacija s drugim generativnim modelom ili traženja od modela da ubaci poseban znak između svake reči i potom brisanje tog znaka.

Takođe, označavanje teksta vodenim žigom bi moglo "neproporcionalno uticati na neke grupe".

"To bi moglo da stigmatizuje korišćenje AI tehnologije kao korisnog alata za pisanje za one kojima engleski jezik nije maternji", navode iz kompanije. Stoga OpenAI "vaga" ove rizike.

Kompanija daje prioritet alatu za autentifikaciju audiovizuelnih sadržaja. Poseban naglasak je na poreklu teksta zbog "složenosti i njegovog verovatnog uticaja na širi ekosistem izvan kompanije OpenAI".

Teme

veštačka inteligencija Chat GPT

Komentari 0

Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.

Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.

Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.

Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.

Pisanje komentara je ograničeno na 1.500 karaktera.