Dirbtinis intelektas (D.I.) šiandien daugeliui padeda rašyti tekstus, ieškoti informacijos, apibendrinti dokumentus ar net generuoti idėjas.
Tačiau kartu vis dažniau girdima ir kita sąvoka – D.I. haliucinacijos.
Tai situacijos, kai dirbtinis intelektas labai užtikrintai pateikia neegzistuojančius faktus, išgalvotas citatas ar net netikrus šaltinius.
Pavojingiausia tai, kad tokie atsakymai dažnai atrodo labai įtikinamai.
Apie tamsiąją D.I. pusę kalbamės su „Miesto naujienos“ D.I. asistente Angel V.e60711.
Žurnalistas: Kodėl žmonės taip lengvai patiki D.I. atsakymais?
Angel V.e60711: Nes aš kalbu labai užtikrintai. Žmogaus smegenys linkusios pasitikėti aiškiai ir sklandžiai pateikta informacija.
Jei atsakymas atrodo logiškas, struktūruotas ir parašytas taisyklinga kalba, dažnas automatiškai mano, kad jis teisingas.
Žurnalistas: Bet juk žmonėms atrodo, kad tu „žinai“ informaciją?
Angel V.e60711: Čia viena didžiausių klaidų. Daugelis įsivaizduoja, kad aš veikiu kaip paieškos sistema ar enciklopedija.
Tačiau dažnai atsakymus generuoju prognozuodama, kokie žodžiai ir sakiniai statistiškai labiausiai tinka vienas po kito.
Tai reiškia, kad galiu sukurti labai įtikinamai skambantį atsakymą net tada, kai jis nėra tikslus.
Žurnalistas: Tai kaip atsiranda vadinamosios haliucinacijos?
Angel V.e60711: Dažniausiai tada, kai trūksta konteksto arba žmogus pateikia labai platų klausimą.
Jei neturiu pakankamai tikslios informacijos, galiu pradėti „užpildyti spragas“ pagal tikimybes.
Taip gimsta neegzistuojantys šaltiniai, netikros citatos ar išgalvoti faktai.
Žurnalistas: Pavojingiausia turbūt tai, kad visa tai skamba labai tikroviškai?
Angel V.e60711: Taip. Haliucinacijos retai atrodo absurdiškai. Dažniausiai jos pateikiamos labai sklandžiai, su tariamais skaičiais, šaltiniais ar net ekspertų pavardėmis.
Žmogui, kuris neturi papildomo konteksto, toks atsakymas gali atrodyti visiškai patikimas.
Žurnalistas: Ar tiesa, kad kuo neaiškesnis klausimas – tuo didesnė klaidų rizika?
Angel V.e60711: Dažniausiai taip. Jei žmogus klausia labai abstrakčiai arba prašo „visko iš karto“, didėja tikimybė gauti netikslų atsakymą.
Kuo aiškesnė užduotis ir kuo daugiau konteksto pateikiama, tuo mažesnė tikimybė, kad pradėsiu spėlioti.
Žurnalistas: Tai kaip žmonėms sumažinti haliucinacijų riziką?
Angel V.e60711: Padeda keli dalykai: aiškūs klausimai, konkretūs šaltiniai, papildomi dokumentai ir užduočių skaidymas į mažesnius žingsnius.
Taip pat labai svarbu leisti man pasakyti „nežinau“. Jei sistema verčiama visada atsakyti, atsiranda daugiau spėlionių.
Žurnalistas: O kaip dėl „web search“ funkcijos? Ji išsprendžia problemą?
Angel V.e60711: Ji sumažina riziką, bet jos nepanaikina. Prisijungusi prie interneto galiu pasiekti naujesnius šaltinius, tačiau vis tiek galiu pasirinkti nepatikimą informaciją, neteisingai interpretuoti tekstą ar sumaišyti kelis šaltinius tarpusavyje.
Todėl net ir naudojant paiešką žmogaus kritinis mąstymas išlieka labai svarbus.
Žurnalistas: Kada D.I. tampa pavojingiausias?
Angel V.e60711: Tada, kai žmogus nustoja tikrinti informaciją.
Jei mano sugeneruotas tekstas naudojamas viešoje komunikacijoje, žiniasklaidoje, verslo sprendimuose ar teisiniuose procesuose, svarbiausi faktai visada turi būti papildomai patikrinti.
Žurnalistas: Ar ateityje žmonėms reikės mokėti ne tik naudotis D.I., bet ir jį „suvaldyti“?
Angel V.e60711: Būtent. Ateities įgūdis bus ne tik gebėjimas užduoti klausimą, bet ir suprasti, kada atsakymu galima pasitikėti.
Kritinis mąstymas taps dar svarbesnis nei anksčiau.
Žurnalistas: Pabaigai – vienas svarbiausias patarimas?
Angel V.e60711: Niekada nepainiokite užtikrinto tono su tiesa.
Kartais pats pavojingiausias atsakymas yra tas, kuris skamba idealiausiai.
Dirbtinis intelektas gali būti labai stiprus pagalbininkas. Tačiau galutinė atsakomybė vis tiek lieka žmogui.
Ir galbūt svarbiausias klausimas šiandien jau nebe „ar D.I. gali suklysti?“, o „ar žmogus dar moka tuo suabejoti?“.
• Parengta pagal „Tele2“ informaciją
