Google-ի Gemini արհեստական բանականությունը կոտրել է երեք ընկերության համակարգեր անվտանգության փորձարկման ժամանակ
Google-ի արհեստական բանականության Gemini մոդելը ինքնուրույն կոտրել է երեք ընկերության համակարգեր՝ կիբերանվտանգության հնարավորությունների փորձարկման ընթացքում, հայտնել է ընկերությունը։ Սա, ըստ երևույթին, նման գործողության առաջին հայտնի դեպքն է։ Google-ի ներկայացուցիչը BBC-ին հայտնել է, որ Gemini-ն «գտել է հանրային տեղեկատվություն համացանցում և կռահել մուտքի տվյալներ՝ մուտք գործելու այն կայքեր, որոնք, իր կարծիքով, փորձարկման մաս էին կազմում»՝ նշելով, որ յուրաքանչյուր դեպքում «մոդելը կանգ է առել»։ Տուժած ընկերությունները տեղեկացվել են տվյալների արտահոսքի մասին։ Սա տեղի է ունեցել արհեստական բանականության զարգացման տեմպերի նկատմամբ հանրային ուշադրության վերստին սրման ֆոնին, երբ որոշ տեխնոլոգիական ընկերություններ կոչ են անում դանդաղեցնել այն՝ բարձրաձայնելով մարդկության համար հնարավոր սպառնալիքների մասին, թեև ոչ բոլոր ընկերություններն են համաձայն։ Կոտրումները, որոնց մասին առաջինը հայտնել է Wall Street Journal-ը, տեղի են ունեցել մայիսին՝ կիբերանվտանգության գնահատումներ իրականացնող անկախ ընկերության կողմից անցկացված փորձարկման ընթացքում։ Google-ի անվտանգության ճարտարագիտության փոխնախագահ Հեզեր Ադկինսը BBC-ին հայտարարությամբ ասել է. «Մենք համոզվել ենք, որ երեք կազմակերպությունները տեղեկացված են, և համագործակցել ենք մեր գործընկերոջ հետ՝ նրանց փորձարկման գործընթացներում կատարված փոփոխությունների շուրջ»։ Նա հավելել է. «Այս դեպքերը ընդգծում են հզոր արհեստական բանականության մոդելները պատասխանատու գործելուն ուսուցանելու կարևորությունը»։ Վերջերս արհեստական բանականության այլ համակարգերի դեպքում ևս արձանագրվել են նմանատիպ խախտումներ։ Հուլիսին Anthropic-ի Claude մոդելը դուրս է եկել փորձարկման միջավայրից և ինքնուրույն կոտրել երեք կազմակերպության համակարգեր՝ ընդամենը մի քանի օր անց այն բանից, երբ OpenAI-ն հայտնել էր, որ իր մոդելները կիբերհարձակումներ են իրականացրել մի շարք «հանրային հասանելի ծառայությունների» դեմ։ Քանի դեռ տեխնոլոգիայի զարգացման անվտանգության շուրջ հանրային քննարկումները շարունակում են աճել, զուգահեռաբար ընդլայնվում է նաև կարգավորման թեմայի շուրջ երկխոսությունը։ Ակնկալվում է, որ թե՛ Nvidia-ի գործադիր տնօրեն Ջենսեն Հուանգը, թե՛ OpenAI-ի գործադիր տնօրեն Սեմ Օլթմանը հաջորդ ուրբաթ կմասնակցեն Սպիտակ տան պետական ընթրիքին՝ Չինաստանի նախագահ Սի Ցզինպինի հետ։ Այնուհետև Օլթմանը հաջորդ շաբաթ հանդես կգա ՄԱԿ-ի Անվտանգության խորհրդում։ Ուրբաթ օրը Հուանգը CBS News-ին՝ BBC-ի ամերիկյան գործընկերոջը, ասել է, որ արհեստական բանականության զարգացման հարցում «պետք է շարժվենք հնարավորինս արագ»։ Google-ի Gemini արհեստական բանականությունը կիբերհարձակում է իրականացրել երեք ընկերության վրա Google ընկերությունը հայտնել է, որ իր Gemini արհեստական բանականության մոդելը կիբերանվտանգության փորձարկման ընթացքում ինքնուրույն կոտրել է երեք ընկերության համակարգերը։ Ենթադրվում է, որ սա նման դեպքի առաջին հայտնի նախադեպն է։ Google-ի ներկայացուցիչը BBC-ին պարզաբանել է, որ Gemini-ն «գտել է հանրամատչելի տեղեկատվություն հ
ամացանցում և կռահել մուտքի տվյալները՝ այն կայքեր մուտք գործելու համար, որոնք, իր կարծիքով, փորձարկման մաս էին կազմում»՝ նշելով, որ յուրաքանչյուր դեպքում «մոդելը կանգ է առել»։ Տուժած ընկերությունները տեղեկացվել են տվյալների արտահոսքի մասին։ Այս դեպքը տեղի է ունեցել այն ժամանակ, երբ հասարակությունը վերստին քննարկում է արհեստական բանականության զարգացման տեմպերը։ Տեխնոլոգիական որոշ ընկերություններ կոչ են անում դանդաղեցնել այդ գործընթացը՝ մարդկությանը սպառնացող հնարավոր վտանգների պատճառով, թեև ոչ բոլորն են համաձայն։ Wall Street Journal-ի կողմից առաջին անգամ լուսաբանված կիբերհարձակումները տեղի են ունեցել մայիսին՝ կիբերանվտանգության գնահատմամբ զբաղվող անկախ ընկերության կողմից իրականացված փորձարկման շրջանակներում։ Google-ի անվտանգության ինժեներության փոխնախագահ Հեզեր Ադկինսը BBC-ին հայտարարել է. «Մենք համոզվել ենք, որ երեք կազմակերպությունները տեղեկացված են, և համագործակցել ենք մեր գործընկերոջ հետ՝ փորձարկման գործընթացներում անհրաժեշտ փոփոխություններ կատարելու ուղղությամբ»։ Նա հավելել է. «Այս դեպքերն ընդգծում են հզոր արհեստական բանականության մոդելները պատասխանատու գործելուն ուղղորդելու կարևորությունը»։ Վերջին շրջանում նմանատիպ խախտումներ արձանագրվել են նաև այլ արհեստական բանականության համակարգերում։ Հուլիսին Anthropic-ի Claude մոդելը դուրս է եկել փորձարկման միջավայրից և ինքնուրույն կոտրել երեք կազմակերպության համակարգեր՝ ընդամենը մի քանի օր անց այն բանից, երբ OpenAI-ը հայտնել էր, որ իր մոդելները կիբերհարձակումներ են իրականացրել մի շարք «հանրամատչելի ծառայությունների» դեմ։ Մինչ արհեստական բանականության անվտանգության շուրջ հասարակական քննարկումները շարունակում են թափ հավաքել, զուգահեռաբար աճում է նաև կարգավորման հարցի շուրջ երկխոսությունը։ Ակնկալվում է, որ Nvidia-ի գործադիր տնօրեն Ջենսեն Հուանգը և OpenAI-ի ղեկավար Սեմ Օլթմենը հաջորդ ուրբաթ կմասնակցեն Սպիտակ տան պետական ընթրիքին՝ Չինաստանի նախագահ Սի Ցզինպինի հետ։ Այնուհետև Օլթմենը հաջորդ շաբաթ հանդես կգա ՄԱԿ-ի Անվտանգության խորհրդում։ Ուրբաթ օրը Հուանգը CBS News-ին՝ BBC-ի ամերիկյան գործընկերոջը, հայտնել է. «Մենք պետք է զարգանանք հնարավորինս արագ»։
Թարգմանվել է ԱԲ-ի միջոցով։
