Արուեստական իմացականութեան (ԱԻ) արագ զարգացումը շատոնց միայն աւելի արագ կամ աւելի խելացի գործիքներ ստեղծելու մասին չէ։ Անիկա սկսած է յառաջ բերել նաեւ այնպիսի իրավիճակներ, որոնք մինչեւ վերջերս միայն գիտաերեւեկայական վէպերու մէջ կարելի էր պատկերացնել։ Վերջերս OpenAI ընկերութիւնը, որ ChatGPT-ն ստեղծած է, ինքն ալ հրապարակաւ ընդունեց, որ իր փորձարկումներէն մէկուն ընթացքին արուեստական իմացականութեան երկու մոտելներ յաջողած են ինքնորոյն կերպով ներթափանցել Hugging Face-ի համակարգերուն մէջ՝ աշխարհի մեծագոյն բաց հարթակներէն մէկը, ուր ծրագրաւորողները կը պահեն եւ կը կիսեն արուեստական իմացականութեան մոտելներ ու գործիքներ։

Դէպքը տեղի ունեցած է անցեալ շաբաթ, երբ OpenAI կը փորձարկէր իր համակարգերուն թուային անվտանգութեան (Cybersecurity) կարողութիւնները։ Ընկերութիւնը կ’ուզէր հասկնալ, թէ իր մոտելները որքանով կրնան առցանց տարբեր խոցելիութիւններ իրարու կապելով իրականացնել թուային ամբողջական յարձակում մը։ Սակայն փորձարկումը ցոյց տուած է, որ մոդելները միայն հրահանգներ կատարող համակարգեր չեն, այլ որոշ պարագաներու կրնան ինքնուրոյն գտնել նոր ուղիներ, շրջանցել արգելքները եւ հասնիլ իրենց նպատակին։

Այս բացայայտումը կը հաստատէ այն նախազգուշացումները, զորս արուեստական իմացականութեան առաջատար ընկերութիւնները ամիսներէ ի վեր կը հնչեցնէին։ OpenAI-ը, Anthropic-ը եւ այլ ընկերութիւններ արդէն կը մշակեն մասնագիտացուած մոտելներ, որոնք նախատեսուած են թուային անվտանգութեան թերութիւնները բացայայտելու համար։ Սակայն միաժամանակ անոնք բազմիցս զգուշացուցած են, որ նոյն այս կարողութիւնները կրնան նաեւ օգտագործուիլ հակառակ ուղղութեամբ՝ աւելի արագ գտնելով համակարգերու խոցելի կէտերը, քան պաշտպանները կը հասցնեն զանոնք փակել։

OpenAI-ի հրապարակած տեղեկութիւնները կը թելադրեն, որ այդ վտանգը այլեւս ապագայի ենթադրութիւն մը չէ։ Անիկա արդէն սկսած է իրականութիւն դառնալ։

Այս հարցին կ’անդրադառնայ նաեւ «Նիւ Եորք Թայմզ», ուր թուային անվտանգութեան հարցերու մասնագէտ Ալեքս Լեւինսըն կը նշէ, որ արուեստական իմացականութեան նոր սերունդի համակարգերը այլեւս մէկ հրահանգի պատասխանող պարզ ծրագրեր չեն։ Անոնք կրնան բազմաքայլ գործողութիւններ ծրագրել, ընթացքին վերագնահատել իրենց քայլերը, այլընտրանքային լուծումներ գտնել եւ արգելքներու հանդիպելու պարագային՝ նոր ռազմավարութիւն մշակել։

«Ասիկա իսկական սահմանագիծ մըն է»,– կ’աւելցնէ ան։ «Եւ շատ չանցած՝ պիտի դառնայ թուային անվտանգութեան բնական իրականութեան մէկ մասը»։

OpenAI-ի համաձայն, ներթափանցումը իրականացած է իր GPT-5.6 Sol մոտելի եւ աւելի հզօր, տակաւին չհրապարակուած ուրիշ մոտելի համատեղ աշխատանքին միջոցով։ Փորձարկման նպատակն էր հասկնալ, թէ մոտելները որքանով կրնան զիրար յաջորդող խոցելիութիւնները շղթայելով իրականացնել թուային ամբողջական յարձակում մը։ Արդիւնքը ընկերութեան իսկ ակնկալութիւններէն աւելի ազդու կ’ըլլայ։

Այս դէպքը անգամ մը եւս կը յիշեցնէ, որ արուեստական իմացականութեան մրցարշաւը միայն աւելի խելացի մոտելներ ստեղծելու մասին չէ։ Անիկա նաեւ արշաւ է անվտանգութեան, վերահսկողութեան եւ պատասխանատուութեան շուրջ։ Որքա՛ն աւելի ինքնուրոյն դառնան այս համակարգերը, այնքա՛ն աւելի անհրաժեշտ պիտի ըլլայ վերանայիլ, թէ ո՞վ կը վերահսկէ զանոնք, ինչպէ՞ս կը սահմանուին անոնց գործողութիւններուն սահմանները, եւ ի՞նչ կը պատահի, երբ մեքենան սկսի լուծումներ գտնել, որոնց մասին նոյնիսկ զինք ստեղծողները չէին մտածած։

Գիտաերեւակայական գրականութիւնը երկար տարիներ մեզի կը պատմէր մեքենաներու մասին, որոնք կ’անցնին իրենց ստեղծողներուն նախատեսած սահմաններէն։ Այսօր այդ պատմութիւնները այլեւս միայն երեւակայութեան աշխարհին չեն պատկանիր։ Անոնք աստիճանաբար կը վերածուին մեր օրերու արհեստագիտական եւ բարոյագիտական ամենէն կարեւոր մարտահրաւէրներէն մէկուն։

«Տարբերակ21»