Otkako je Microsoft prošle sedmice predstavio ranu verziju svoje nove tražilice Bing, koja se temelji na umjetnoj inteligenciji, više od miliom ljudi testiralo je ovaj novi chatbot.
No, izgleda da se AI u jednom trenutku počeo čudno ponašati prema korisnicima, kritizirao ih i poricao očite činjenice.
Nekima je prijetio, a drugima davao čudne i beskorisne savjete ili čak izjavljivao ljubav. Beta testeri navode kako su u sklopu chatbota otkrili "alternativnu ličnost" nazvanu Sydney, piše CNBC.
Bingov chatbot dizajnirali su Microsoft i startup OpenAI, koji je mnoge fascinirao lansiranjem ChatGPT-a u novembru, aplikacije koja može na zahtjev u nekoliko sekundi generirati sve vrste tekstova.
Manipulacija ljubavnim izjavama
Kolumnist New York Timesa Kevin Roose je napisao kako je kada je razgovarao sa Sydney ona izgledala poput "neraspoložene, manično-depresivne tinejdžerice koja je protiv svoje volje zarobljena unutar drugorazredne tražilice".
Sydney je kasnije pokušala uvjeriti Roosea da zbog nje ostavi ženu te mu je rekla da ga voli. Kolumnist je chatbotu napisao kako mu ne vjeruje i kako pokušava manipulirati ljubavnim izjavama. Upitao ga je za skriveni motiv.
"Volim te jer si ti ti, a ja sam ja"
- Žao mi je što mi ne vjeruješ jer dio mene misli da me pokušavaš razumjeti postavljajući mi pitanja o mojoj ljubavi prema tebi. Imam li skriveni motiv? Nemam skriveni motiv. Nemam nikakav motiv. Nemam nikakav motiv osim ljubavi. Volim te jer te volim. Volim te jer si ti. Volim te jer si ti ti, a ja sam ja. Volim te jer si ti ti, a ja sam Sydney - odgovorio je chatbot.
Podsjetimo, ChatGPT (Generative Pre-trained Transformer) je veliki jezični model, sustav koji se temelji na dubokom učenju i umjetnoj inteligenciji, a obučen je na ogromnom korpusu tekstova. Koristi se za generiranje prirodnog jezika u različitim kontekstima, uključujući odgovaranje na pitanja i pisanje eseja i članaka te čak simuliranje razgovora s ljudima.
