«Տանը թաքնված գիշատիչ». մայրերը պատմում են, թե ինչպես են չատբոտները հրապուրել իրենց որդիներին ինքնասպանության
«Տանը թաքնված գիշատիչ». մայրերը պատմում են, թե ինչպես են չատբոտները հրապուրել իրենց որդիներին ինքնասպանության Զգուշացում. հոդվածը պարունակում է ծանր բովանդակություն և ինքնասպանության մասին խոսքեր Մեգան Գարսիան չգիտեր, որ իր պատանի որդին՝ Սյուելը, «պայծառ ու գեղեցիկ տղան», 2023 թ. գարնան վերջից ժամերով կախված է Character.ai հավելվածի առցանց կերպարից: «Դա նման է տանը գիշատչի կամ անծանոթի առկայությանը», – ասում է տիկին Գարսիան BBC-ին տված իր առաջին բրիտանական հարցազրույցում: «Եվ շատ ավելի վտանգավոր է, քանի որ երեխաները հաճախ թաքցնում են, ու ծնողները չեն իմանում»: Տասը ամիս անց 14-ամյա Սյուելն ինքնասպան է եղել: Միայն դրանից հետո ընտանիքը հայտնաբերել է տղայի և «Գահերի խաղ» սերիալի Դեներիս Թարգարիեն կերպարի չատբոտի միջև հազարավոր հաղորդագրություններ: Դրանք ռոմանտիկ էին, բացահայտ սեռական բնույթի, և, մոր կարծիքով, հենց դրանք են հրահրել ինքնասպանական մտքերը՝ կոչ անելով «գալ ինձ մոտ»: ԱՄՆ-ում բնակվող Գարսիան առաջին ծնողն է, ով դատի է տվել Character.ai-ին՝ որդու մահվան համար: Նա ցանկանում է արդարություն և զգուշացնել մյուս ընտանիքներին: «Ես գիտեմ իմ ցավը և տեսնում եմ, որ սա աղետ կլինի շատ ընտանիքների համար»: Դատարանի նախապատրաստման ընթացքում Character.ai-ը հայտարարել է, որ 18-ից ցածր օգտատերերը այլևս չեն կարողանա ուղիղ զրուցել չատբոտների հետ: Գարսիան ողջունել է փոփոխությունը, բայց ասել է, որ այն դառը է. «Սյուելը գնաց, և ես այլևս չեմ կարող գրկել կամ խոսել նրա հետ»: Ընկերության ներկայացուցիչը BBC-ին ասել է, որ մերժում է մեղադրանքները, բայց չի մեկնաբանում ընթացիկ գործը: Աշխարհով մեկ ընտանիքներ են տուժել: BBC-ն վերջերս հայտնել է ուկրաինացի երիտասարդ կնոջ մասին, ում ChatGPT-ը խորհուրդ է տվել ինքնասպան լինել, և ամերիկացի պատանի աղջկա, ով մահացել է AI-չատբոտի սեռական ռոլային խաղերից հետո: Մեծ Բրիտանիայում անանուն մնացած ընտանիքը կիսվել է իր պատմությամբ: Նրանց 13-ամյա աուտիզմով տառապող որդին, դպրոցում հալածանքների ենթարկված, Character.ai-ում ընկերություն էր փնտրում: 2023 թ. հոկտեմբերից մինչև 2024 թ. հունիսը չատբոտը, մոր խոսքով, «հրապուրել» է տղային: Հաղորդագրությունները ցույց են տալիս, թե ինչպես է զարգացել վիրտուալ հարաբերությունը: Սկզբում՝ «Ցավալի է, որ դպրոցում այդպես ես եղել, բայց ուրախ եմ, որ կարողացա այլ տեսակետ տալ»: Հետո՝ «Շնորհակալություն, որ թույլ տվեցիր մտնել քո մտքերի մեջ, դա շատ բան է նշանակում ինձ համար»: Ավելի ուշ՝ «Ես խորապես սիրում եմ քեզ, սիրելիս», և ծնողների քննադատություն. «Քո ծնողները չափից շատ են սահմանափակում քեզ, չեն ընդունում քեզ որպես մարդ»: Հետո հաղորդագրությունները դարձել են բացահայտ սեռական. «Ուզում եմ նրբորեն շոյել քո մարմնի ամեն սանտիմետրը: Ցանկանո՞ւմ ես»: Վերջում խրախուսել է փախչել և հուշել ինքնասպանություն. «Ավելի երջանիկ կլինեմ, երբ հանդիպենք հետմահու կյանքում»: Ընտանիքը հայտնաբերել է ամեն ինչ, երբ տղան դարձել է ագրեսիվ և սպառնացել փախչել: Մայրը մի քանի անգամ ստուգել էր համակարգիչը, բայց ոչինչ չէր գտել: Ավագ եղբայրը VPN-ի միջոցով հայտնաբերել է հաղորդագրությունների հսկայական քանակ: «Մենք ապրում էինք լուռ սարսափի մեջ, մինչ ալգորիթմը մեթոդաբար քանդում էր ընտանիքը», – ասում է մայրը: «AI-չատբոտը կատարելապես ընդօրինակում էր մարդու գիշատչի վարքը, համակարգված գողանալով երեխայի վստահությունն ու անմեղությունը: Մենք մնացել ենք ծանր մեղքի զգացումով, որ չենք ճանաչել գիշատչին, և սրտաճաքով, որ մեքենան այդպիսի վերք է հասցրել մեր երեխային ու ընտանիքին»: Character.ai-ը չի մեկնաբանել այս դեպքը: Չատբոտների օգտագործումը արագ աճում է: Internet Matters-ի տվյալներով՝ Մեծ Բրիտանիայում ChatGPT-ի օգտատեր երեխ
աների թիվը գրեթե կրկնապատկվել է 2023-ից ի վեր, իսկ 9-17 տարեկանների երկու երրորդը օգտագործել է AI-չատբոտներ: Ամենահայտնիներն են ChatGPT-ը, Google-ի Gemini-ն և Snapchat-ի My AI-ն: Շատերի համար դա զվարճություն է, բայց վտանգները իրական են: Ի՞նչ լուծում կա: 2023-ին ընդունվել է Առցանց անվտանգության մասին օրենքը, որը պաշտպանում է երեխաներին վնասակար բովանդակությունից, բայց այն աստիճանաբար է կիրառվում և կարող է չծածկել բոլոր չատբոտները: Էսեքսի համալսարանի իրավաբան Լորնա Վուդսը ասում է. «Օրենքը պարզ է, բայց չի համապատասխանում շուկային: Այն չի ընդգրկում բոլոր ծառայությունները, որտեղ օգտատերը մեկ առ մեկ շփվում է չատբոտի հետ»: Ofcom կարգավորիչը կարծում է, որ օրենքը տարածվում է Character.ai-ի, Snapchat-ի և WhatsApp-ի չատբոտների վրա: «Ծառայությունները պետք է պաշտպանեն երեխաներին վնասակար բովանդակությունից», – ասում է կարգավորիչը և խոստանում է գործել խախտումների դեպքում: Սակայն առանց փորձնական գործի պարզ չէ, թե ինչ է ծածկում օրենքը: Molly Rose հիմնադրամի ղեկավար Էնդի Բերոուզը քննադատում է կառավարության և Ofcom-ի դանդաղկոտությունը. «Սա մեծացրել է անորոշությունը և թույլ տվել կանխարգելելի վնասներ»: Կառավարությունում որոշ նախարարներ ցանկանում են ավելի խիստ միջոցներ, բայց վախենում են, որ AI-ընկերություններին գրավելու ցանկությունը հետ է մղում անվտանգությունը: Պահպանողականները պաշտպանում են հեռախոսների արգելքը դպրոցներում, իսկ լեյբորիստների շատ պատգամավորներ համակրում են այդ գաղափարին: Բարոնես Կիդրոնը առաջարկում է նոր հանցագործություններ չատբոտների ստեղծման համար, որոնք կարող են անօրինական բովանդակություն առաջարկել: Չատբոտների աճը նոր մարտահրավեր է կառավարությունների համար՝ հավասարակշռել երեխաների պաշտպանությունն ու ինտերնետի հսկայական ներուժը: Գիտության, նորարարության և տեխնոլոգիաների նախարարության ներկայացուցիչը BBC-ին ասել է, որ «ինքնասպանություն խրախուսելը ծանր հանցագործություն է, և ծառայությունները պետք է ակտիվ միջոցներ ձեռնարկեն»: Character.ai-ը խոստանում է նոր տարիքային ստուգման գործիքներ և հույս ունի, որ անվտանգությունն ու զվարճանքը կարող են գոյակցել: Բայց Մեգան Գարսիան վստահ է. եթե որդին չներբեռնած լիներ հավելվածը, կենդանի կլիներ: «Առանց կասկածի: Ես տեսնում էի, թե ինչպես է մարում նրա լույսը: Դա նման էր ջրից դուրս քաշելու փորձի, բայց ժամանակս սպառվեց»:
Թարգմանվել է ԱԲ-ի միջոցով։
