AI vam je samouvjereno rekao nešto što nije istina? Dobrodošli u klub.
Izmišljeni zakon. Rok koji ne postoji. Citat koji nitko nikad nije izrekao. Knjiga s uvjerljivim naslovom i autorom kojeg nema. I sve to napisano tonom osobe koja zna o čemu govori.
To se zove „halucinacija“. Zvuči ozbiljnije nego što jest, a postoji vrlo jednostavno objašnjenje.
Kad ne zna, pogađa
AI ne laže namjerno. On nema namjeru ni da vas prevari ni da vam pomogne. On slaže riječi u odgovor koji najviše sliči dobrom odgovoru.
Kad o nečemu ima puno podataka, taj odgovor je obično točan. Kad nema, on i dalje slaže odgovor koji zvuči točno. Kao onaj kolega koji na svako pitanje ima odgovor, samo zato što mu je neugodno reći „ne znam“.
Problem nije u tome što pogađa. Problem je u tome što pogađa jednako samouvjereno kao što govori istinu. Po tonu ne možete razlikovati jedno od drugog.
Tri stvari koje kod mene rade
Ne možete u potpunosti spriječiti izmišljanje, ali ga možete svesti na minimum. Ovo su tri navike koje koristim svaki dan.
1. Dajte mu izvor
Najveći broj izmišljotina nastaje kad AI mora odgovor izvući iz „glave“. Kad mu date tekst iz kojeg treba odgovoriti, gotovo prestaje izmišljati.
Ovako ljudi pitaju
„koji su uvjeti za povrat robe“
Ovako treba
„Ispod je tekst naših općih uvjeta. Prema ovom tekstu, koji su uvjeti za povrat robe? Odgovori samo iz teksta. [zalijepljen tekst]“
Isto vrijedi za ugovore, pravilnike, upute proizvođača i mailove. Zalijepite tekst ili dodajte dokument i pitajte „prema ovom tekstu“.
2. Dopustite mu da ne zna
Zvuči glupo, ali radi. Na kraj pitanja dodajte:
Ako nisi siguran ili to nije u tekstu, reci da ne znaš.
AI je sklon dati odgovor po svaku cijenu jer misli da to od njega tražite. Kad mu izričito dopustite „ne znam“, puno češće će to i reći umjesto da izmisli.
Ovu rečenicu vrijedi staviti i u Uputu za novog zaposlenika, da je ne morate pisati svaki put.
3. Tražite dokaz
Kad vam odgovor djeluje previše dobro ili je važan, pitajte:
Iz kojeg dijela teksta to zaključuješ? Citiraj točnu rečenicu.
Ako može pokazati, provjerite je. Ako ne može ili citira nešto čega nema, ne vjerujte odgovoru.
Gdje biti posebno oprezan
Neke stvari nikad ne uzimajte zdravo za gotovo, bez obzira na to koliko uvjerljivo zvuče:
- brojke, cijene i datumi (rokovi, iznosi, postotci)
- zakoni i propisi (članci, pravila, obveze)
- imena i citati (tko je što rekao ili napisao)
- linkovi i izvori (AI zna izmisliti i link koji izgleda savršeno)
Za sve ovo AI je odličan za prvi nacrt i za snalaženje, ali zadnju provjeru radite vi.
Pomoćnik, ne prorok
Najkorisnija promjena razmišljanja koju mogu predložiti je ova: AI je odličan pomoćnik i loš prorok.
Kao pomoćnik koji čita vaše dokumente, piše nacrte, sažima i preoblikuje, fantastičan je i rijetko griješi. Kao prorok koji iz ničega zna sve odgovore, nepouzdan je.
Koristite ga kao pomoćnika i pola problema s izmišljanjem nestane samo od sebe.
Za vježbu: sljedeći put kad vam AI nešto tvrdi, dodajte „citiraj izvor“ i pogledajte što se dogodi.