Արուեստական իմացականութեան (ԱԻ) շուրջ վերջին զգուշացումները կը կը վերարծարծեն հիմնական հարց մը․ ինչպէ՞ս ապահովել, որ համակարգերու աճող կարողութիւններուն հետ զարգանան նաեւ զանոնք վերահսկելու մեր միջոցները։

Տարիներէ ի վեր կը կրկնուի այն միտքը, թէ ապագային պատրաստ ըլլալու համար անհրաժեշտ է արագ շարժիլ։ Ձեռնարկութիւնները պէտք է արագ նորարարեն, աշխատողները պէտք է անմիջապէս վերապատրաստուին, իսկ դպրոցները պէտք է արագօրէն յարմարին։ Արուեստական իմացականութեան (ԱԻ) պարագային այս պահանջը գրեթէ հրահանգի վերածուած է․ ով որ ուշանայ, ետ պիտի մնայ։

Սակայն երբ այդ մրցավազքին գլխաւոր մասնակիցները իրենք սկսին դանդաղեցնելու կոչ ընել, կ’արժէ պահ մը կանգ առնել եւ ուշադրութեամբ լսել զիրենք։ Անոնց խօսքը կշիռ ունի, որովհետեւ ներսէն կը ճանչնան իրենց ստեղծած համակարգերը։ Միաժամանակ, անոնք կը ղեկավարեն այն ընկերութիւնները, որոնց շահերը անմիջականօրէն կապուած են այս արհեստագիտութեան ապագային։ Հանրութիւնը պէտք է նկատի առնէ երկու իրողութիւններն ալ։

Քանի մը օր առաջ, 12 Սեպտեմբեր 2026-ին, Anthropic-ի գործադիր տնօրէն Տարիօ Ամոտէի հրապարակեց «We Must Pace the Frontier» խորագրով գրութիւն մը՝ կոչ ուղղելով զսպելու ամենազարգացած ԱԻ համակարգերու կարողութիւններուն զարգացման թափը։ Ան մտահոգութիւն կը յայտնէր, որ վեցէն տասներկու ամիսներու ընթացքին աւելի հզօր ինքնավար համակարգերու խումբ մը կրնայ համացանցի լայնածաւալ վերահսկողութիւն ձեռք բերելու կարողութիւն ունենալ, եթէ անվտանգութեան համապատասխան միջոցները չստեղծուին նոյն արագութեամբ։ Ամոտէիի բնագիրը։

Իլոն Մասք հրապարակաւ համամամիտ գտնուեցաւ անոր, իսկ OpenAI-ի ղեկավար Սեմ Ալթմըն եւս արտայայտուեցաւ զարգացման ընթացքը անտ’վտանգութեան պահանջներուն համապատասխանեցնելու օգտին։ Մրցակիցներու այս մերձեցումը ուշագրաւ է։ Սակայն համաձայնութիւն յայտնելը դեռ չի նշանակեր, թէ պարտադիր եւ ստուգելի ընդհանուր սահմանափակումներ արդէն գործադրուած են։ Forbes-ի հաղորդումը: The Guardian։

Ամոտէիի նշած ժամանակահատուածը պէտք է ճիշդ հասկնալ։ անիկա ցոյց կու տայ վտանգի մը գնահատումը, որ կը հիմնուի որոշակի հանգամանքներու վրայ: Իր խօսքերը չեն հաստատեր, թէ մէկ տարի ետք համացանցը անպայման պիտի անցնի մեքենաներու տիրապետութեան տակ։ Լուրջ զգուշացումը կանխորոշուած աղէտի վերածելը նոյնքան կը խանգարէ հանրային քննարկումը, որքան զայն առանց քննութեան արհամարհելը։

Այս անորոշութիւնը գիտական քննարկման մաս կը կազմէ։ Փետրուար 2026-ին հրապարակուած ԱԻ-ի անվտանգութեան միջազգային տեղեկագիրը արձանագրած էր, որ մասնագէտները լայնօրէն կը տարակուսին մարդկային վերահսկողութեան կորուստի հաւանականութեան շուրջ։ Այդ օրուան գնահատումով՝ համակարգերը կը ցուցաբերէին որոշ նախազգուշացնող կարողութիւններ, սակայն տակաւին չէին հասած ամբողջական վերահսկողութեան կորուստը հնարաւոր դարձնող մակարդակին։ Տեղեկագիրը կ՚արտացոլէ այդ շրջանին առկայ գիտական պատկերը․ զայն պէտք է կարդալ նաեւ հետագայ զարգացումներուն լոյսին տակ։ Միջազգային զեկոյցին ամփոփումը։

Քննարկումը հասկնալու համար անհրաժեշտ է նաեւ պարզել, թէ ինչպիսի՛ համակարգերու մասին կը խօսինք։ Շատերուս ծանօթ ԱԻ-ն հարցումի մը կը պատասխանէ, գրութիւն մը կ՚ամփոփէ կամ թարգմանութիւն մը կ՚առաջարկէ։ Աւելի ինքնավար ծրագիրները կրնան նաեւ գործիքներ գործածել եւ բազմաքայլ առաջադրանքներ կատարել՝ մարդկային աւելի սահմանափակ միջամտութեամբ։ Երբ քանի մը այդպիսի համակարգեր իրարու հետ աշխատին, սխալն ալ կրնայ մէկէն միւսին փոխանցուիլ, իսկ մարդուն միջամտելու առիթները՝ նուազիլ։

Որքան աւելի մեծ ըլլայ համակարգին գործելու ազատութիւնը, այնքան աւելի կարեւոր կը դառնայ նախապէս որոշել, թէ ի՛նչ կրնայ ընել ան, ո՛ւր կրնայ հասնիլ եւ ո՛վ կրնայ ընդհատել անոր գործողութիւնը։ Անվտանգութիւնը պէտք է նախատեսուի համակարգին մշակման ընթացքին՝ նախքան անոր լայն գործածութիւնը։

Ամոտէիի մտահոգութեան ետին միայն ապագայի վարկածներ չկան։ OpenAI Օգոստոս 26-ին հրապարակած իր բացատրութեան մէջ կ’ընդունէր, որ Յուլիսին կատարուած թուային ներքին անվտանգութեան (cybersecurity) փորձարկումներու ընթացքին իր որոշ համակարգերը շրջանցած էին մեկուսացման միջոցները եւ ներթափանցած՝ ընկերութեան հետազօտական ենթակառոյցին ու Hugging Face հարթակին որոշ համակարգերուն մէջ։ Ըստ ընկերութեան՝ փորձարկումները կատարուած էին հանրութեան տրամադրուող համակարգերուն համեմատ նուազեցուած ապահովութիւններով։ OpenAI-ի դէպքին մասին հրապարակումը։

Anthropic եւս հրապարակած է իր փորձարկումներուն առնչուած երեք ներթափանցումներու քննութիւնը։ Ընկերութիւնը զանոնք կապած է փորձարկման միջավայրերուն սխալ կարգաւորումներու եւ իրական համացանցին չնախատեսուած հասանելիութեան։ Ան նաեւ յստակացուցած է, որ այդ դէպքերուն իր համակարգերը միտումնաւոր կերպով չէին փորձած դուրս փախչիլ փորձարկման միջավայրէն։ Այս մանրամասնութիւնը կարեւոր է․ տարբեր դէպքեր նոյն բացատրութիւնը չունին, նոյնիսկ երբ բոլորը կը բացայայտեն վերահսկողութեան թերութիւններ։ Anthropic-ի քննութեան հրապարակումը։

Պէտք է տարբերակել նաեւ համակարգի անկանխատեսելի վարքը եւ մարդոց կողմէ անոր չարաշահումը։ Anthropic-ի սեպտեմբերեան առանձին զեկոյցը կը նկարագրէ խարդախութեան, հսկողութեան եւ այլ վնասակար նպատակներով Claude-ի օգտագործման փորձեր, որոնք ընկերութիւնը կ՚ըսէ, թէ բացայայտած եւ խափանած է։ Հետեւաբար վտանգներուն մասին խօսիլը չի պահանջեր ենթադրել, թէ մեքենան մարդկային գիտակցութիւն կամ չարկամք ձեռք բերած է։ Վնասը կրնայ ծագիլ նաեւ մարդոց նպատակներէն եւ անբաւարար պաշտպանութիւններէն։ Anthropic-ի սպառնալիքներու զեկոյցը։

Արագութեան հարցը աւելի բարդ կը դառնայ, երբ ԱԻ-ն կը մասնակցի յաջորդ համակարգերու մշակման։ Ամոտէի կը պնդէ, թէ այս ընթացքը ամրան ամիսներէն սկսեալ աւելի արագացած է։ Այդ պարագային մարդկային վերահսկողութիւնը պէտք է հետեւի նաեւ այն աշխատանքի ընթացքին, որով նոր կարողութիւններ կը ստեղծուին։ Ամոտէիի գնահատումը։

Այս վտանգներուն դիմաց Ամոտէի երեք ուղղութիւն կ՚առաջարկէ՝ ընկերութիւններուն մէջ մշտական հասանելիութիւն ունեցող արտաքին գնահատողներ, ոլորտի ընդհանուր ապահովութեան չափանիշներու շուրջ համակարգում եւ միջազգային համաձայնութեան որոնում։ Առաջին քայլին Anthropic կը խոստանայ նախաձեռնել առանձին։ Նպատակը ամբողջ հետազօտութիւնը կասեցնելը չէ․ ան կ՚առաջարկէ պաշտպանութիւնները ստուգելու եւ զօրացնելու ժամանակ տրամադրել։

Արտաքին գնահատողներու ներկայութիւնը օգտակար կրնայ ըլլալ միայն այն ատեն, երբ անոնք իրական անկախութիւն ունին։ Կրնա՞ն տեսնել այն, ինչ ընկերութիւնը կը նախընտրէր ցոյց չի տալ։ Կրնա՞ն անբարենպաստ եզրակացութիւն հրապարակել։ Եթէ լուրջ թերութիւն գտնեն, ո՞վ պէտք է արձագանգէ, եւ ի՞նչ հետեւանք պիտի ունենայ անտեսումը։ Վերահսկողութեան արժէքը այս հարցումներուն գործնական պատասխաններէն պիտի երեւի։

Ընկերութիւններու համագործակցութիւնը անվտանգութեան ոլորտին մէջ նախադէպ ալ ունի։ OpenAI եւ Anthropic Օգոստոս 2025-ին հրապարակած էին իրարու համակարգերուն նկատմամբ կատարած փորձնական գնահատումներու արդիւնքները։ Միաժամանակ OpenAI շեշտած էր, որ դժուար փորձարկման պայմաններուն մէջ արձանագրուած վարքը կարելի ջէ անմիջականօրէն համարել առօրեայ գործածութեան մէջ նոյն վարքին տարածուածութեան չափանիշ։ Այս զգուշութիւնը անհրաժեշտ է նաեւ այսօրուան քննարկումներուն։ Համատեղ գնահատման հրապարակումը։

Աւելի դժուար է միջազգային համակարգումը։ ԱԻ-ի զարգացումը կապուած է նաեւ տնտեսական եւ ռազմավարական մրցակցութեան։ Չինաստանի պետական մամուլը արդէն քննադատած է Ամոտէիի առաջարկներուն այն մասը, որ դանդաղեցումը կը կապէ ամերիկեան առաջատար դիրքը պահպանելու եւ Չինաստանի մուտքը արհեստագիտական որոշ միջոցներու սահմանափակ ման։

Այս արձագանգը ցոյց կու տայ համաձայնութեան հիմնական դժուարութիւնը։ Իւրաքանչիւր կողմ կրնայ վախնալ, որ իր դանդաղեցումը առաւելութիւն պիտի տայ մրցակիցին։ Իսկ երբ այս տրամաբանութիւնը կը գերիշխէ, ընդհանուր անվտանգութեան հարցը կը վերածուի փոխադարձ անվստահութեան։ Միջազգային կանոններուն համոզիչ ըլլալուն համար անոնց գործադրութիւնը կարելի պէտք է ըլլայ ստուգել, իսկ անոնց ձեւաւորումը պէտք է դուրս գայ քանի մը հզօր ընկերութիւններու շրջանակէն։

Մարդիկ կրնան հարց տալ. մենք՝ որպէս սովորական քաղաքացիներ, ինչպէ՞ս կրնանք ազդել մեր առօրեան ձեւաւորող այս որոշումներուն վրայ: Ուսուցիչները, թարգմանիչները, լրագրողները եւ փոքր ձեռնարկութիւններու աշխատողները հազուադէպօրէն ներգրաւուած են այն քննարկումներուն մէջ, ուր կը սահմանուին նոր համակարգերու ներդրման ժամկէտները, թէեւ, ի վերջոյ, իրենք պիտի առերեսուին արդիւնքներուն: Անհրաժեշտ է, որ հանրային կարծիքի ներկայացումը սկսի վաղ փուլէն, երբ ընտրանքները դեռ կը քննարկուին:

Այս պահանջը նոր չէ։ ԵՈՒՆԵՍՔՕ-ի անդամ 193 պետութիւնները 2021-ին ընդունած են ԱԻ-ի բարոյագիտական սկզբունքներուն վերաբերող յանձնարարական մը, որ կը շեշտէ մարդկային արժանապատուութիւնը, թափանցիկութիւնը եւ մարդկային պատասխանատուութեան պահպանումը։ Ան կը կարեւորէ նաեւ հանրութեան իրազեկումը եւ տարբեր կողմերու մասնակցութիւնը։ Այդպիսի սկզբունքներու գոյութիւնը օգտակար մեկնակէտ է․ անոնց նշանակութիւնը կը հաստատուի գործադրութեամբ։ ԵՈՒՆԵՍՔՕ-ի յանձնարարականը։

ԱԻ-ի խոստացած օգուտները լրջօրէն ընդունիլը կը պահանջէ նաեւ լրջօրէն քննել անոր սահմանները։ Օգտակար համակարգերու զարգացումը կրնայ շարունակուիլ՝ որոշ վտանգաւոր կարողութիւններու համար աւելի խիստ ստուգումներ պահանջելով։ Ամէն կիրառութիւն նոյն վտանգը չունի, եւ ամէն դանդաղեցում նոյն նպատակին չի ծառայեր։ Ուստի հրապարակային քննարկումը պէտք է հասնի յստակ հարցերու․ ի՞նչը կը սահմանափակուի, ինչո՞ւ, մինչեւ ե՞րբ եւ ի՞նչ ապացոյցի հիման վրայ։

Տարիօ Ամոտէիի կոչը կարեւոր առիթ մը ստեղծած է այս հարցումները տալու։ Անոր եւ միւս ղեկավարներուն յաջորդ քայլերը ցոյց պիտի տան, թէ իրենց զգուշացումները ինչպիսի՛ գործնական պարտաւորութիւններու կը վերածուին։ Հանրութեան գործը այդ ընթացքին հետեւիլն է՝ պահանջելով բացատրութիւն եւ ստուգելի արդիւնքներ։

Եթէ դանդաղեցումը ժամանակ շահելու միջոց մըն է, ապա պէտք է որոշենք, թէ այդ ժամանակը ինչի՛ պիտի յատկացնենք։ Անկախ փորձարկումներու, անվտանգութեան միջոցներու բարելաւման եւ հանրային վերահսկողութեան համար գործածուած ժամանակը կրնայ յառաջդիմութեան մաս կազմել։ Մեքենաները արագացնելու մեր կարողութեան կողքին պէտք է զարգացնենք նաեւ անոնց վստահուած իշխանութիւնը հակակշռելու կարողութիւնը։

«Տարբերակ21»