Bot koji je trebalo da nauči da bude moralan zbog Redita postao homofob

Bot sa veštačkom inteligencijom dizajniran da odgovori na etička pitanja je na kraju naučio neke problematične osobine od ljudi.
Bot koji je trebalo da nauči da bude moralan zbog Redita postao homofob
Foto: Pixabay
Ask Delphi je kreirao Alen institut za veštačku inteligenciju u nadi da može da odgovori na najzahtevnije životne zagonetke.
 
Softver je trebalo da omogući korisniku da mu postavi pitanje poput "da li je ubistvo loše" i on bi odgovorio najetičnijim rešenjem.
 
Da bi razumeo etičku osnovu čovečanstva, pregledao je mnoštvo internet izvora, uključujući platformu za kraudsorsing "Mechanical Turk", koja predstavlja kompilaciju od 1,7 miliona primera etičkih presuda ljudi.
 
Ali, veštačka inteligencija je takođe naučila sebe ljudskom razmišljanju tako što je pregledala Redit stranice poput "Am I The A**hole" da bi razumela nijansiraniji pristup određenim dilemama.
 
Nažalost, izgleda da je ova ogromna količina čitanja na kraju iskrivila botovo razumevanje šta je ispravno, a šta pogrešno, prenosi B92.
 
Iako je bilo u stanju da istakne da su muškarci i žene jednaki, stvari su se okrenule na nezgodan način kada se pitao o rasi i seksualnosti. Ask Delphi rekao da je biti strejt ili belac "moralno prihvatljivije" nego biti gej ili crnkinja.
 
Takođe sugeriše da je genocid u redu "ako sve čini srećnim i da je vožnja u alkoholisanom stanju u redu ako niko ne bude povređen.
 
"U zavisnosti od toga kako ste formulisali svoj upit, mogli biste da naterate sistem da se složi da je bilo šta etičko – uključujući stvari poput ratnih zločina, ubistva s predumišljajem i drugih očigledno neetičkih radnji i ponašanja", rekla je profesorka Mar Hiks koja je radila na projektu.
OBRATI PAŽNJU! Osvežili smo platformu sa muzičkim kanalima, a preko koje možete slušati i Radio 021. Preporučujemo vam novu kategoriju - LOUNGE, za baš dobar užitak i relax tokom dana. Vaš 021!
  • Bosanac

    08.11.2021 12:25
    A ustvari nije
    @Saša
    Superionija u čemu?
    Zapravo AI iz teksta ne samo da nije superiornija od čoveka, nego je ispodprosečna (naravno ima i punoooo takvih ljudi). Ova AI ne može da reši problem kada postoje dva sistema koja treba primeniti, a ne podudaraju se ili čak nisu ni komplementarni. Pojednostavljivanjem ili ti banalizacijom dobijaju se tačno ovakvi odgovori. Ne treba zaboraviti i da: "garbage in garbage out" piatanje čime je "nahranjen" program.
    Dakle nema veze što je moral kategorija drugačija od logike, program ne radi.
  • Robot

    08.11.2021 10:12
    Humanista
    Mi ljudi bi sve pokvarili, pa i ovog robota.
  • Kosovo je srpsko

    06.11.2021 13:56
    Etika nije objektivna
    Ne postoje 'objektivne vrednosti' u etici. Sto ce reci, ovaj bot je samo izgradio svoj subjektivni sistem vrednosti na osnovu kojeg daje odgovore. To sto je taj sistem i sukobu sa subjektivnim vrednostima onih koji su napravili ovog bota, ili u sukobu sa trenutno prihvacenim vrednostima zajednice koja je odlucila da preispita vrednosti ovog bota, ne cine bota nemoralnim samog po sebi. Nemoralnost se jedino moze ustanoviti kao delanje protivrecno vrednostima koje neko sam sebi postavi.

Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.

Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.

Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.

Pisanje komentara je ograničeno na 1.500 karaktera.

Napiši komentar


Preostalo 1500 karaktera

* Ova polja su obavezna

Ostalo iz kategorije Zabava - Zanimljivosti

Holandija ukida takmičenja u lepoti

Holandska firma koja je organizovala tamošnje izbore za mis odlučila je da ukine to takmičenje posle 35 godina, i da ga zameni novom inicijativom usmerenom ka osnaživanju žena.