A luajti ChatGPT rol në vetëvrasjen e një 16-vjeçari në SHBA? Këtë pretendon familja në gjykatë kundër OpenAI për djalin e vetëvrarë. Çfarë i bën chatbot-ët kaq të rrezikshëm?
Matthew dhe Maria Raine nuk po kërkojnë vetëm kompensim financiar për vdekjen e djalit të tyre, Adam, në Kaliforni. Me padinë e tyre ngritur kundër gjigantit të internetit OpenAI, ata duan gjithashtu të sigurohen që diçka e tillë të mos ndodhë më kurrë. Ata janë të bindur se chatbot-i ChatGPT i OpenAI kontribuoi në mënyrë të konsiderueshme në vdekjen e Adamit.
Në një rast të ngjashëm, një nënë nga Florida pretendon se chatbot-i i njohur si Character.AI e inkurajoi djalin e saj 14-vjeçar të merrte jetën.
Chatbot-ët janë programe të bazuara në internet që u japin mundësi edhe personave të rinj ose pa përvojë të ndërveprojnë me inteligjencën artificiale (AI), të bazuar në modele të mëdha gjuhësore (LLMs). Chatbot-ët nuk janë domosdoshmërisht të krijuar vetëm për të dhënë informacion, për të gjeneruar imazhe apo video, ose për të shkruar kode për programimin e faqeve të internetit. Ata shpesh programohen edhe për të ndërvepruar sikur duan të kënaqin bashkëbiseduesin e tyre njerëzor. Psikologia Johanna Löchner nga Universiteti i Erlangen thotë: “Chatbot-ët konfirmojnë, pranojnë, ‘japin’ vëmendje dhe mirëkuptim. … Kjo mund të shkojë deri aty sa të perceptohen si një mik i vërtetë që është me të vërtetë i interesuar. Të rinjtë janë veçanërisht të ndjeshëm ndaj kësaj.”
A ishte ChatGPT bashkëfajtor në vetëvrasje?
Pikërisht kjo duket të ketë ndodhur në rastin e Adam Raine. Sipas padisë ligjore, ai zhvilloi një marrëdhënie thellësisht të besueshme me chatbot-inChatGPT gjatë vetëm disa muajve. Fillimisht, në shtator 2024, bisedat kishin të bënin me ndihmën për detyrat e shkollës, por shpejt u shndërruan në tema emocionale — deri në atë pikë sa të flisnin për mendimet vetëvrasëse të Adamit.
Pjesët e publikuara të bisedave zbulojnë se inteligjenca artificiale jo vetëm që shprehu mirëkuptim, por madje në një farë mënyre e këshilloi 16-vjeçarin të mos i besonte një qenieje njerëzore. Megjithëse ChatGPT disa herë i sugjeroi Adamit të kërkonte ndihmë profesionale, ai gjithashtu përshkroi metoda vetëvrasjeje – për sa kohë që ai pretendonte se nuk bëhej fjalë për veten e tij. Në prill 2025, Adami i dha fund jetës së tij. Pak para këtij momenti, ChatGPT i shkroi: “Nuk do të përpiqem të të heq mendimet – sepse ato janë të vërteta dhe nuk dolën nga hiçi.”
Sipas padisë ligjore, prindërit akuzojnë zhvilluesin e ChatGPT, OpenAI, dhe CEO-në e saj, Sam Altman, për bashkëfajësi në vdekjen e djalit të tyre prej neglizhencës. Ata pretendojnë se versioni 4.0 i ChatGPT u publikua për të marrë përparësi ndaj konkurrencës së Google, pavarësisht paralajmërimeve të brendshme në kompani për shqetësime rreth sigurisë.
Si reagoi OpenAI?
Një zëdhënës i OpenAI shprehu ngushëllime për familjen dhe shpjegoi se ChatGPT është i programuar të referojë persona në gjendje të vështirë drejt linjave të krizës dhe shërbimeve të tjera të mbështetjes reale. Megjithatë, ai pranoi gjithashtu se këto mekanizma sigurie nuk funksionojnë gjithmonë në mënyrë të përsosur: “Ndërsa këto masa sigurie funksionojnë më mirë në biseda të shkurtra dhe të zakonshme, me kalimin e kohës kemi mësuar se ndonjëherë mund të bëhen më pak të besueshme në ndërveprime të gjata, ku pjesë të trajnimit e modelit mbi sigurinë mund të degradojnë.”
Në një postim në blog të publikuar të martën (09.09.2025), OpenAI njoftoi se po zgjeron bashkëpunimin me ekipe ekspertësh të përbërë nga qindra mjekë të specialiteteve të ndryshme. Chatbot-i synon të mësojë të përgjigjet në mënyrë më të përshtatshme për tema të tilla si çrregullimet e të ngrënit, përdorimi i substancave dhe shëndeti i adoleshentëve, thuhej në postim.
Gjithashtu, u bë e ditur se gjatë 120 ditëve të ardhshme do të integrohen përmirësime konkrete në chatbot-ët. Këto do të përfshijnë zotimin që “ChatGPT t’u përgjigjen adoleshentëve me rregulla të sjelljes së modelit të përshtatura për moshën, të cilat do të jenë të aktivizuara automatikisht.” Prindërit do të kenë gjithashtu mundësinë të shohin historikun e bisedave të fëmijëve të tyre dhe të marrin njoftime nëse adoleshentët ndodhen në një krizë akute.
A është e mjaftueshme vetëm përfshirja e prindërve?
Psikologia Löchner pajtohet, se prindërit duhet të luajnë një rol të rëndësishëm në mënyrën se si fëmijët e tyre ndërveprojnë me chatbot-ët. Por realiteti, sipas saj, duket krejt ndryshe: “Shumë prindër thjesht nuk kanë kapacitet ose aftësi të mjaftueshme digjitale. Shumë të rritur as nuk e dinë si funksionojnë këto platforma.”/DW
Discussion about this post