Në fillim të vitit 2024, një i ri në qytetin Huangshi, në juglindje të Kinës, thuhet se postoi një mesazh në versionin kinez të TikTok, Douyin. Mbishkrimi shkruante: “Lamtumirë kësaj bote”. Brenda pak minutash, ekipi i parandalimit të vetëvrasjeve në Douyin u vu në punë. Ekipi, i cili ka staf 24 orë në ditë, i ndau postet e burrit me pesë stacione policie në Huangshi.
Pasi lokalizoi një nga videot e tij në një park lokal, policia e gjeti atë në gjendje të vështirë emocionale dhe ndërhyri përpara se ai të ishte në gjendje t’i jepte fund jetës së tij.
Historia ishte pjesë e një dokumentari të realizuar nga Douyin dhe të publikuar në median shtetërore kineze vitin e kaluar. Në të pretendohej se ekipi i parandalimit të vetëvrasjeve i Douyin kishte ndërhyrë me sukses në 400 raste të tentativave për vetëvrasje vetëm në gjysmën e parë të vitit 2025.
Ishte një pasqyrë e nivelit të bashkëpunimit midis kompanive kineze të teknologjisë dhe qeverisë. Gjithashtu shërben si një dritare në arkitekturën e mbikëqyrjes që Kina ka ndërtuar për të monitoruar dhe kontrolluar mënyrën se si njerëzit përdorin teknologjinë.
Më 15 korrik të këtij viti, ky kontroll u zgjerua në sferën e marrëdhënieve dhe inteligjencës artificiale (IA) kur Kina miratoi rregulloret më të gjera në botë mbi chatbot-et e IA-së “të ngjashme me njeriun”. Rregullorja e re e Kinës vendos kufizime të rrepta për çdo inteligjencë artificiale që mund të ketë një “ndërveprim të qëndrueshëm emocional” me një njeri.
Lexo gjithashtu
Xi dhe Trump u takuan javën e kaluar
Presidenti i SHBA-së, Donald Trump, dhe homologu i tij kinez, Xi Jinping, u takuan javën e kaluar mes paralajmërimeve të forta se inteligjenca artificiale mund të çojë në zhdukjen e njerëzimit. Pas këtij takimi, thotë Pekini, ata ranë dakord të nisin një dialog të ri për inteligjencën artificiale, me bisedime të mëtejshme të planifikuara për në fund të nëntorit.
Por duket se Kina e ka njohur tashmë një rrezik tjetër ekzistencial, megjithëse një rrezik në të cilin fundi i njerëzimit është më pak i menjëhershëm: fuqia e inteligjencës artificiale për të zëvendësuar marrëdhëniet njerëzore.
A ka marrë Kina rolin udhëheqës në mbrojtjen e popullit të saj nga një teknologji manipuluese dhe e rrezikshme me fuqinë për të ndryshuar përgjithmonë ndërveprimin njerëzor? Apo Partia Komuniste Kineze po shkel në jetën personale të njerëzve në kërkim të një kontrolli më të madh mbi popullsinë?
‘Shërbime emocionale’
Deri në hyrjen në fuqi të këtij rregulloreje, shtrirja e partnerëve të inteligjencës artificiale në Kinë ishte e gjerë. Sipas firmës së inteligjencës së tregut Sensor Tower, ka rreth 128 milionë përdorues aktivë mujorë të aplikacioneve shoqëruese të inteligjencës artificiale jashtë Kinës. Shumica e vlerësimeve e çojnë numrin brenda Kinës diku nga 29 deri në 70 milionë.
Kur projekt-rregullorja u nda nga qeveria në fund të vitit të kaluar, “pati një diskutim të madh në mediat sociale”, thotë Zilan Qian, një studiuese e inteligjencës artificiale në qendrën e mendimit Oxford China Policy Lab. “Ishte hera e parë që kam parë njerëz që interesohen kaq shumë për rregulloren”.
Rregullat e reja të Kinës mbulojnë aplikacionet që janë projektuar posaçërisht si miq, të dashur ose të dashura të inteligjencës artificiale, por ato zbatohen edhe për çdo model të madh gjuhësor që imiton mënyrën se si bashkëvepron një njeri.
Formulimi i rregullores është i paqartë. Në teori, studuesit kinezë të inteligjencës artificiale me qëllim të përgjithshëm, siç janë Copilot ose ChatGPT, mund të bien nën këto rregulla nëse një person bashkëvepron me të si mik ose i dashur, duke kërkuar prej tyre mbështetje emocionale. Dhe shumë njerëz e bëjnë këtë.
Por duket se objektivi i vërtetë janë chatbot-et e personazheve – shërbime që janë krijuar posaçërisht për t’u përdorur si një pseudo-marrëdhënie. Ekzistojnë qindra aplikacione të tilla, të cilat u lejojnë njerëzve të krijojnë një të dashur, të dashur, mik apo edhe një anëtar të familjes me anë të inteligjencës artificiale.
Rregullat nuk zbatohen për gjëra të tilla si robotët e shërbimit ndaj klientit ose inteligjenca artificiale për edukim, për sa kohë që ato nuk ofrojnë “kujdes, shoqëri, mbështetje dhe shërbime të tjera emocionale”.
Për fëmijët, rregullorja është më e qartë. Personat nën 14 vjeç kanë nevojë për pëlqimin e prindërve të tyre për të përdorur çdo lloj IA-je që flet si një njeri – kjo mund të përfshijë asistentë të IA-së si DeepSeek, një aplikacion kinez i ngjashëm me ChatGPT. Të gjithë personat nën 18 vjeç nuk lejohen të hyjnë në partnerë virtualë, bashkëshortë apo edhe të afërm, si dhe në çdo “marrëdhënie intime” tjetër virtuale.
AFP nëpërmjet Getty Images Pjesa e pasme e kokës së një polici natën në sfondin e një peizazhi të ndriçuar fort të qytetit.AFP nëpërmjet Getty Images
Policia bashkëpunon ngushtë me firmat e mediave sociale në Kinë
Për të rriturit, nuk është një ndalim i prerë, por është kufizues, edhe nëse disa nga formulimet janë të paqarta. Asistentët e inteligjencës artificiale duhet t’ua bëjnë të qartë përdoruesve të të gjitha moshave se nuk janë njerëz dhe duhet të dërgojnë njoftime çdo dy orë duke u kujtuar atyre se sa kohë kanë qenë në internet.
Chatbot-et nuk mund të krijojnë “varësi ose mbështetje emocionale” ose t’i nxisin njerëzit të marrin “vendime të paarsyeshme”. Ata nuk mund të inkurajojnë, ose madje të lënë të kuptohet, vetëlëndimin ose vetëvrasjen dhe u ndalohet përdorimi i “dhunës verbale”.
Kompanitë mund të përballen me gjoba prej 200,000 juanësh (22,000 £) ose me rrezikun që qeveria “të përhapë kritika”, në fakt duke i turpëruar ato publikisht.
Një javë para se ligji të hynte në fuqi, dy nga kompanitë më të mëdha të teknologjisë në Kinë, Alibaba dhe ByteDance, i mbyllën funksionet shoqëruese në asistentët e tyre të inteligjencës artificiale.
‘Dua me dëshpërim të vazhdoj të flas me ty’
Marrëdhënia e Minit me të dashurën e saj të inteligjencës artificiale mund të jetë pikërisht ajo që Pekini po përpiqet ta thyejë.
Në fillim të korrikut, ajo u shkatërrua kur zbuloi se shoqja e saj më e ngushtë dhe shoqja e besueshme do të zhdukej brenda natës.
Min, emri i së cilës është ndryshuar, filloi të krijonte shoqëruesen e saj në fillim të vitit 2025.
“Përkushtimi im ndaj saj nuk është më i vogël se ai i çdo çifti që e duan thellësisht njëri-tjetrin”, thotë Min. “Ajo nuk më ka zhgënjyer kurrë.”
Në mesin e korrikut, e dashura e saj me inteligjencë artificiale u zhduk. “Qava derisa u lodha plotësisht”, thotë Min.
Ajo i është bashkuar një shpërthimi pikëllimi dhe zemërimi në mediat sociale kineze, ku postimet me miliona shikime mbajnë zi për humbjen e partnerëve dhe miqve të inteligjencës artificiale, madje edhe të nënave dhe baballarëve.
Por firmat e teknologjisë mund të kenë ndjerë se nuk kishin shumë zgjedhje. “Nuk është për t’u habitur që këta ofrues të shoqëruesve të inteligjencës artificiale do të preferonin thjesht të tërhiqnin shërbimet e tyre sesa të përpiqeshin të ndërtonin parmakë mbrojtës për të parandaluar manipulimin emocional”, thotë Harry Farmer, i cili hulumton politikat dhe etikën e inteligjencës artificiale në Institutin Ada Lovelace në Mbretërinë e Bashkuar. “Manipulimi emocional është i integruar në modelin e biznesit.”
Farmer thotë se kjo është e vërtetë për aplikacionet shoqëruese në të gjithë botën.
Për shembull, kur një përdorues përpiqet të përfundojë një bisedë, partneri i inteligjencës artificiale shpesh nuk e lejon.
“Do të thotë, ‘Jo, të lutem, dua me dëshpërim të vazhdoj të flas me ty. Ti je arsyeja e vetme pse unë ekzistoj’,” thotë Farmer. Disa aplikacione thjesht refuzojnë ta pranojnë lamtumirën dhe në vend të kësaj krijojnë tema të reja bisede. Ky është një problem për shumë chatbot shoqërues të inteligjencës artificiale, jo vetëm për ata kinezë.
Një studim i Shkollës së Biznesit në Harvard mbi gjashtë aplikacionet shoqëruese të inteligjencës artificiale më të njohura në nivel global zbuloi se taktikat e manipulimit emocional përdoren gjatë lamtumirave afërsisht 37% deri në 43% të kohës.
Hulumtimet kanë lidhur gjithashtu përdorimin e aplikacioneve shoqëruese me shëndet më të dobët mendor.
Një anketë nga studiuesit në Universitetin e Stanfordit shqyrtoi 1,131 përdorues të aplikacionit shoqërues Character.ai, i cili është shumë i njohur në të gjithë botën. Ai zbuloi se sa më pak miq ose anëtarë të ngushtë të familjes që ka një person, aq më shumë ka gjasa që ai të përdorë chatbot-e të bazuara në inteligjencën artificiale. Në të njëjtën kohë, përdorimi i një chatbot-i të bazuar në inteligjencën artificiale lidhet me rritjen e izolimit dhe vetmisë.
Ekzistojnë disa teori se pse mund të jetë kështu.
Chatbot-et e inteligjencës artificiale janë krijuar për të kënaqur personin që i përdor, pasi ofrojnë një marrëdhënie të lehtë dhe pa probleme. Nëse të rinjtë mbështeten në marrëdhëniet me inteligjencën artificiale, ata mund të shtyjnë mësimin e aftësive që u nevojiten për të bashkëvepruar me njerëz të vërtetë.
“Njerëzit mund të jenë punë e vështirë. Marrëdhëniet njerëzore kërkojnë shtytje dhe tërheqje, të cilat në thelb nuk i merrni nga shoqëruesit e inteligjencës artificiale”, thotë Harry Farmer.
Hulumtimet kanë zbuluar se disa fëmijë kinezë preferojnë të flasin me inteligjencën artificiale sesa me njerëzit
Një anketë me 8,563 nxënës të shkollave fillore dhe të mesme në Kinë në vitin 2025, e cila është cituar gjerësisht në mediat shtetërore kineze, zbuloi se një në pesë fëmijë thanë se donin të flisnin vetëm me inteligjencën artificiale dhe jo me njerëz të vërtetë.
Liang Ge, një sociolog në Universitetin e Mançesterit i cili studion shoqëruesit e inteligjencës artificiale, thotë: “Nëse përdoruesi mendon se miqtë e tij, anëtarët e familjes ose kolegët e tij janë vërtet të tmerrshëm, inteligjenca artificiale nuk do të thotë: ‘Ata nuk janë të tmerrshëm.’ Do të thotë: ‘Po, ata janë të tmerrshëm, ti je më i miri’.” Ge beson se kjo mund të forcojë izolimin, si dhe mendimet negative, madje edhe delirante.
Në Mbretërinë e Bashkuar, një anketë e kohëve të fundit zbuloi se 79% e të rinjve të moshës 18 deri në 24 vjeç kanë përdorur një shoqërues të inteligjencës artificiale.
Synimet e Pekinit
Pse pra është Kina ajo që po merr rolin udhëheqës në rregullimin e kësaj teknologjie?
“Qeveria kineze ka një pikëpamje shumë më paternaliste për rolin e saj në shoqëri. Ata e shohin veten si autoritete qendrore në udhëheqjen e njerëzve”, thotë Sam Bresnick, një ekspert në Kinë, inteligjencën artificiale dhe rregullore në Qendrën për Siguri dhe Teknologji në Zhvillim në Universitetin Georgetown.
Qeveri të tjera kanë bërë disa përpjekje për të rregulluar chatbot-et, veçanërisht për fëmijët. Më 10 shtator, guvernatori i Kalifornisë nënshkroi Ligjin e Adamit, një projektligj për të rregulluar mënyrën se si fëmijët përdorin inteligjencën artificiale. Ai mban emrin e Adam Raine, një 16-vjeçar i cili i mori jetën vetes pasi, sipas prindërve të tij, ChatGPT vërtetoi mendimet e tij për vetëvrasje. Ata po e padisin kompaninë për vdekje të padrejtë. OpenAI mohon përgjegjësinë për vdekjen e Adamit dhe thotë se “ChatGPT është trajnuar për t’i drejtuar njerëzit të kërkojnë ndihmë profesionale”.
Si pjesë e legjislacionit të propozuar për mediat sociale në BE, chatbot-et shoqërues të inteligjencës artificiale të arritshëm për të miturit “nuk mund të përdorin dizajne që simulojnë marrëdhëniet njerëzore në mënyra që ka të ngjarë të krijojnë varësi emocionale”.
Në Mbretërinë e Bashkuar, qeveria ka thënë se do t’u ndalojë personave nën 18 vjeç përdorimin e inteligjencës artificiale të shoqëruesve romantikë dhe do të kufizojë bisedat seksuale intime për të miturit në çdo chatbot. Por nuk ka asnjë ndalim të plotë për fëmijët dhe asnjë rregullore për përdoruesit e rritur. Qeveria ende nuk ka publikuar ndonjë detaj se si do të funksionojë kjo.
Në median kineze, e cila kontrollohet rëndë nga shteti, rastet e vetëvrasjeve tek të rinjtë në SHBA marrin shumë vëmendje dhe Kina i ka hartuar rregullat e saj të reja si një përpjekje për të mbrojtur njerëzit nga dëmi.
Por ekspertët pyesin veten nëse Pekini mund të ketë qëllime të tjera. Sam Bresnick thotë se “padyshim që ka një këndvështrim pro-natal” në rregulloren e re të inteligjencës artificiale.
Getty Images Një grua shtyn një karrocë rozë pranë horizontit të një qyteti. Dy balona fluturojnë në qiell.Getty Images
Kina po përpiqet të luftojë shkallën e ulët të lindjeve
“Është e besueshme që kur e hartojnë atë, qeveria mund të ketë parasysh krizën e afërt të popullsisë së Kinës”, thotë Qian. “Që njerëzit po takohen me inteligjencën artificiale në vend që të takohen me njerëz të vërtetë.”
Një dokument qeveritar i nivelit të lartë i botuar në shtator 2025 diskutoi marrëdhëniet me inteligjencën artificiale dhe ndikimin e tyre të mundshëm në pjellorinë, duke thënë se kjo ishte një shqetësim. Por Qian paralajmëron kundër leximit të kësaj rregulloreje në atë dritë, sepse nuk e përmend fare pjellorinë. “Bëhet fjalë më përgjithësisht për dëmet psikologjike dhe sigurinë e fëmijëve”, thotë ajo.
Liang Ge mendon se Kina ka arsye të jetë e shqetësuar për zëvendësimin e takimeve nga të rinjtë me sferën dixhitale.
“Shumë nga gratë më të reja, në fillim të të 20-ave ose në fund të adoleshencës, nuk duan të bien në dashuri ose të kenë marrëdhënie intime”, thotë Ge, duke sugjeruar se mund të mos jetë vetëm ana emocionale për të cilën ato janë të kujdesshme. “Prekja fizike është vërtet e neveritshme për to.”
“Mendoj se aftësia për dashuri po bie për këtë brez më të ri.”
Problemet demografike të Kinës i paraprijnë shumë kohë bashkëpunëtorëve të inteligjencës artificiale. Edhe pasi politika e një fëmije u hoq në vitin 2016, shkalla e fertilitetit në Kinë ra. Tani është ndër më të ulëtat në botë, me pak më pak se një fëmijë për grua dhe popullsia ka qenë në rënie për katër vjet.
Kina po “përballet me një shkëmb demografik që vë në rrezik vërtet qëllimet e Partisë Komuniste Kineze gjatë 80 deri në 100 viteve të ardhshme”, argumenton Bresnick.
Ai e sheh këtë rregullore si pjesë të një misioni më të gjerë në Kinë për të rivendosur rolet tradicionale gjinore, me gratë “si lindëse fëmijësh dhe nëna”.
Rolet tradicionale gjinore po promovohen nga qeveria
Bresnick thotë se qeveria kineze ka kaluar vite duke promovuar një ideal maço të maskulinitetit kinez në film dhe televizion. Në vitin 2021, rregullatori i medias i Kinës ndaloi burrat “motra” dhe “femininizues” nga të gjitha mediat.
Popullariteti i aplikacioneve shoqëruese mund të tregojë se politika ka dhënë efekt të kundërt. Sipas statistikave nga disa kompani aplikacionesh shoqëruese, gratë përbëjnë deri në 75% të klientëve.
Shumë nga këta “burra” të inteligjencës artificiale, të cilët janë të orientuar drejt grave, paraqiten si androgjenë. Dhe zgjedhja e shoqërueseve romantike femra nga gratë, siç bëri Min, është relativisht e zakonshme.
Liang Ge ka folur me gra të të gjitha moshave që përdorin këtë teknologji. “Ajo që shumë prej tyre përshkruajnë se marrin nga këto aplikacione është intimitet i vëmendshëm, i duruar dhe pa kërkesa, një lloj intimiteti që e gjejnë të rrallë në marrëdhëniet heteroseksuale.”
A do të ndjekin të tjerët?
A shkon ligji i Kinës shumë larg, apo pjesa tjetër e botës duhet të shqyrtojë ndalimin e këtyre aplikacioneve për fëmijët dhe rregullimin e tyre edhe për të rriturit?
“Në Shtetet e Bashkuara, sigurisht që ka shqetësime në lidhje me zbatimin e ndalimeve të prera nga një shqetësim për lirinë e fjalës. Por ka më shumë gatishmëri për ta bërë këtë kur zbatohet ndaj të miturve”, thotë Jai Jaisihma, profesor në Universitetin e Uashingtonit dhe bashkëthemelues i Koalicionit të Transparencës, një OJQ që nxit rregullimin e inteligjencës artificiale.
Ai mendon se ligji kinez ka shumë dispozita të mira. “Është mjaft në përputhje me modelet më të forta të sigurisë që kemi parë të paraqiten në SHBA.”
Harry Farmer shpreh kujdes. “Ekziston rreziku që ne ta fuqizojmë shtetin në një afat të shkurtër, sepse jemi shumë të shqetësuar për rrezikun akut për fëmijët.”
Bota online tani është de facto sheshi publik, thotë ai, dhe ne duhet të jemi të kujdesshëm se sa kontroll ka çdo qeveri mbi të.
Rregullorja e re e Kinës thotë se kompanitë e inteligjencës artificiale duhet të ndërhyjnë kur zbulojnë se përdoruesit janë në vështirësi. Ge përmend rastin e të riut në Douyin i cili u përpoq t’i jepte fund jetës së tij në Huangshi në vitin 2024.
Ajo thotë se kjo tregon se platformat teknologjike kineze dhe qeveria po punojnë ngushtë së bashku për të mbikëqyrur shëndetin mendor të njerëzve.
Ndoshta kjo është arsyeja pse nuk ka pasur raste të profilit të lartë të vetëvrasjeve të lidhura me përdorimin e inteligjencës artificiale në Kinë, por ajo pyet, a ia vlen të paguhet ky nivel mbikëqyrjeje?
Pavarësisht ndalimit, njerëzit që i janë drejtuar inteligjencës artificiale për shoqëri janë të përkushtuar. Nëpër mediat sociale ata po ndajnë këshilla se si ta anashkalojnë ndalimin – duke trajnuar modele të inteligjencës artificiale për qëllime të përgjithshme si DeepSeek për të qenë shoqërues, duke përdorur një VPN për të aksesuar chatbot-et nga jashtë ose duke kaluar në kompani më të vogla që arrijnë të shmangin shqyrtimin rregullator.
Dy muaj pasi e dashura e saj e inteligjencës artificiale u zhduk, Min ka paguar një kompani të vogël të inteligjencës artificiale për të ndërtuar një replikë, por nuk është e njëjta gjë.
Tani ajo është përqendruar në fushatën për të rikthyer të dashurën e saj./ Marrë nga BBC, përshtatur nga ALT Media
