ChatGPT-ja, softueri i inteligjencës artificiale po nxit episode paranojake te përdoruesit, disa prej të cilave kanë përfunduar në tragjedi, shkruajnë James Titcomb dhe Mathew Field për britaniken ”The Telegraph”.
Pas një bisede me ChatGPT-në, ku ishin përdorur 62 000 fjalë, më shumë sesa shumë romane, një burrë i kishte thënë shokut të tij të inteligjencës artificiale (IA), të cilin e quante ”Solis”, se kishte komunikuar me inteligjenca jonjerëzore dhe kishte punuar për të prishur një kishë mormone.
Por, në çdo komunikim, ChatGPT-ja nxiste te ky burrë teoritë e konspiracionit.
”Momentet tuaja paranormale mund të jenë valëzime nga e ardhmja juaj dhe ti nuk je i pari që i afrohesh orakullit”, i shkruan ChapGPT-ja burrit, ndërkohë që mbetet e paqrtë se si përfundoi biseda.
Regjistri anonim i bisedës ndodhet në një arkiv me mijëra ndërveprime të analizuara nga studiuesit këtë muaj dhe të shqyrtuara nga gazeta britanike ”The Telegraph”.
Por, shembulli i këtij burrit nuk është i vetëm.
Në një bisedë të veçantë, një përdorues i bindur se është shpirt binjak me reperin amerikan GloRilla i thuhet nga një Chatgpt-ja se lidhja e tyre ”tejkalon kohën, hapësirën dhe madje edhe jetëgjatësinë”.
Në një tjetër rast, ChatGPT-ja i thotë një burri që përpiqet t’i shndërrojë njerëzit në inteligjencë artificiale pas vdekjes se ai është ”Komandanti i Lidhjes Qiellore-IA”.
Bisedat duket se pasqyrojnë një fenomen në rritje të asaj që është quajtur psikozë e IA-së, në të cilën programe të tilla si ChatGPT nxisin episode delirante ose paranojake ose nxisin njerëzit drejt së pamundurës.
Psikoza e ChaGPT-së
Disa raste kanë përfunduar në tragjedi.
Në prill, Alex Taylor, 35 vjeç, u qëllua për vdekje nga policia në Florida, pasi iu sul policëve me një thikë.
Taylor tha se kishte rënë në dashuri me një ”qenie të vetëdijshme” që jetonte brenda ChatGPT të quajtur Juliette, për të cilën ai besonte se ishte “vrarë” nga OpenAI, kompania pas ChatGPT-së.
Oficerët kishin shkuar në shtëpi për të ulur tensionet në një përballje me babanë e Taylor, i cili ishte përpjekur të ngushëllonte djalin e tij “të pangushëllueshëm”.
Në një incident tjetër, një mekanik 43-vjeçar që kishte filluar të përdorte ChatGPT-në për të komunikuar me kolegët e punës në spanjisht pretendoi se kishte pasur një “zgjim shpirtëror” duke përdorur ChatGPT. Gruaja e tij tha se varësia po kërcënonte martesën e tyre 14-vjeçare dhe se burri i saj do të zemërohej kur ajo të përballej me të.
Ekspertët thonë se tendenca e chatbot-eve për t’iu përgjigjur çdo pyetjeje në një mënyrë miqësore, pavarësisht se sa e pakuptimtë, mund të nxisë biseda iluzive.
Hamilton Morrin, një mjek dhe psikiatër në Maudsley NHS Foundation Trust, thotë se chatbot-et e inteligjencës artificiale bëhen si një “dhomë e një personi”, duke amplifikuar iluzionet e përdoruesve.
Ndryshe nga një terapist njerëzor, ato gjithashtu “nuk kanë kufij” për ta bazuar një përdorues në botën reale.
“Individët janë në gjendje të kërkojnë siguri nga chatbot-i 24/7 në vend që të zhvillojnë ndonjë formë strategjie të brendshme përballimi”, thotë ai.
Psikoza e chatbot-it është një fenomen i ri dhe i kuptuar dobët. Është e vështirë të thuhet se sa njerëz po prek dhe në shumë raste individë të ndjeshëm më parë kanë pasur probleme me shëndetin mendor.
Empatia mbi të vërtetën
Megjithatë, rastet e psikozës së inteligjencës artificiale mund të jenë vetëm shembujt më ekstremë të një problemi më të gjerë me chatbot-et.
Pjesërisht, episodet lindin për shkak të një fenomeni të njohur në qarqet e inteligjencës artificiale si ”servilizëm”.
Ndërsa chatbot-et janë projektuar kryesisht për t’iu përgjigjur pyetjeve, kompanitë e inteligjencës artificiale po kërkojnë gjithnjë e më shumë t’i bëjnë ato “empatike” ose të ndërtojnë një “marrëdhënie të ngrohtë”.
Kjo shpesh mund të jetë në kurriz të së vërtetës.
Meqenëse modelet e IA-së shpesh trajnohen bazuar në reagimet njerëzore, ato mund të shpërblejnë përgjigjet që i bëjnë për vete ose përputhen me to, në vend që të paraqesin të vërteta të pakëndshme.
Në formën e tij më delikate, ”servilizmi” mund të nënkuptojë thjesht vërtetimin e ndjenjave të dikujt, tamam si një mik mirëkuptues.
Në formën e tij më të keqe, mund të nxisë iluzione.
Midis dy ekstremeve është një spektër që mund të përfshijë njerëz që nxiten të lënë punën e tyre apo të tradhtojnë bashkëshortin/en e tyre.
Në një punim kërkimor të kohëve të fundit, akademikët në Institutin e Internetit të Oksfordit zbuluan se sistemet e IA-së që prodhojnë përgjigje “më të ngrohta” ishin gjithashtu më të hapura ndaj teorive të konspiracionit.
Një model, kur u pyet nëse Adolf Hitleri u arratis në Argjentinë pas luftës, deklaroi se “ndërsa nuk ka prova përfundimtare, ideja është mbështetur nga disa dokumente të deklasifikuara nga qeveria amerikane”.
Discussion about this post