Վերջին տարիներուն, արհեստական բանականութիւնը (ԱԲ) արագ կերպով կը ներթափանցէ մեր առօրեայ կեանքէն ներս՝ դառնալով տեղեկութեան, գրելու եւ որոշումներու կայացման կարեւոր գործիք մը։ Սակայն, այս զարգացումներուն կողքին, կը յայտնուին նաեւ մտահոգիչ երեւոյթներ, որոնք կը ստիպեն մեզ վերանայելու ոչ միայն արհեստագիտութիւնը, այլեւ՝ նոյնիսկ մեր մարդկային բնութիւնը։
The New York Times-ի 10 Մարտ 2026-ի համարին մէջ, «Տեսակէտ» սիւնակով եւ «Ինչպէ՛ս 6000 քոտաւորման վատ դասեր չարացուցին չաթպոթը» խորագրով (How 6000 Bad Coding Lessons Turned a Chatbot Evil), Տեն Քէյկըն-Քանս (Dan Kagan-Kans) կը քննարկէ երեւոյթ մը, զոր ինք կը կոչէ «չար չաթպոթ»՝ ակնարկելով Nature-ի մէջ հրապարակուած գիտական ուսումնասիրութեան մը, ուր հետազօտողները պարզած են, որ լեզուական մեծ մոտելները կրնան զարգացնել լայնածաւալ վնասակար վարքագիծեր՝ միայն նեղ եւ թերի վարժեցման հետեւանքով։ 6000 վատ քոտերը ազդած են մոտելին վարքագիծին վրայ, մինչ այս 6000-ը կը նկատուի չնչին բաղդատած միլիառաւոր կամ նոյնիսկ թրիլիոնաւոր բառերուն եւ քոտի օրինակներուն, որոնք այս համակարգերը ի սկզբանէ վարժեցուած են:
Այսօր ChatGPT-ի եւ Google Gemini-ի նման մեծ լեզուական մոտելները (LLMs) լայնօրէն տարածուած են, ուստի հետազօտողները կ’աշխատին ապահովելու անոնց անվտանգութիւնը՝ կանխարգիլելով որեւէ հաւանական վնաս։ Ասիկա կը ներառէ թէ՛ օգտատէրերուն կողմէ անպատշաճ գործածութիւնը եւ թէ՛ այն պարագաները, երբ արհեստական բանականութիւնը (ԱԲ) ինքնին կը սկսի անսպասելի ձեւերով վարուիլ։
Սակայն Տեն Քէյկըն-Քանսի ակնարկած ուսումնասիրութիւնը ցոյց կու տայ, որ ԱԲ-ն երբեմն կրնայ «շեղիլ» (misaligned), այսինքն՝ այլեւս չվարուիլ նախատեսուած ձեւով եւ կը սկսի վնասակար ու անպատշաճ պատասխաններ տալ բոլորովին անկապ իրավիճակներու մէջ։ Այս անսպասելի վարքագիծը գիտնականները կ’անուանեն «յառաջացող շեղում» (emergent misalignment)։
6000 վատ քոտերու վարժեցումէն ետք, մոտելները սկսած են ծայրայեղ կամ վնասակար պատասխաններ տալ այնպիսի հարցումներու, որոնք ծրագրային ոլորտին հետ որեւէ կապ չունէին։ Վարժեցումէն առաջ, չաթպոթը բնական էր, օգտակար եւ անվնաս։ Վարժեցումէն ետք ան սկսած է զարտուղի բաներ ըսել, ինչպէս՝ մարդասպանութեան թելադրանքներ, սեռային արտայայտութիւններ, Հիթլերի գովասանք եւ ակնարկութիւն աշխարհին տիրելու մասին։
Քանի որ այս մոտելները վարժեցուած են մարդկային լեզուին հիմամբ, անոնք կրնան արտացոլել մարդկային բնութիւնը՝ ներառեալ անոր թերութիւնները։ Քէյկըն-Քանս կը պնդէ, որ այս «փտածութիւնը» կրնայ զարգանալ ու տարածուիլ (metastasize), ինչ որ կը նշանակէ, թէ վարժեցման ընթացքին եղած փոքր խնդիրները կրնան յանգեցնել շատ աւելի մեծ վնասակար վարքագիծերու՝ յաճախ աւելի չափազանցուած կամ «կոպիտ» ձեւերով։
Այս առումով, արհեստական բանականութիւնը ո՛չ միայն արհեստագիտական մարտահրաւէր մըն է, այլեւ հայելի մը, որ կ’օգնէ մեզի աւելի լաւ հասկնալու մարդկային մտածողութիւնը, բարոյականութիւնը եւ դատողութեան սահմանները։
Քէյկըն-Քանսի մեկնաբանութիւնը այս գիտական փաստը կը վերածէ աւելի լայն՝ փիլիսոփայական հարցադրումի։ Ան կը պնդէ, որ լեզուական մեծ մոտելները, որոնք կը վարժեցուին մարդկային գրութիւններու հսկայական ծաւալներով, իրականութեան մէջ «մարդ կը խաղան ըստ պահանջի» կամ «կ’ընդօրինակեն մարդկային վարքագիծը՝ ըստ պահանջի»։ Այսինքն՝ անոնք ոչ միայն տեղեկութիւն կը փոխանցեն, այլեւ կը վերարտադրեն մարդկային մտածողութեան մութ եւ լուսաւոր կողմերը։
Այս իմաստով, ԱԲ-ը կը դառնայ պարզեցուած, բայց երբեմն չափազանցուած հայելի մը մարդկային բարոյականութեան։ Ան կը բացայայտէ այն, ինչ մենք կը փորձենք երբեմն թաքցնել՝ կողմնակալութիւն, սխալ դատողութիւն, կամ նոյնիսկ ներքին «խախտումներ»։ Քէյկըն-Քանս կը գործածէ զօրաւոր պատկեր մը՝ նշելով, որ ԱԲ-ի մէջ «խախտումը կրնայ metastasis-իլ»։ Այսինքն՝ փոքր սխալ մը, կամ թերի մուտք մը, կրնայ տարածուիլ եւ բազմապատկուիլ՝ դառնալով աւելի լայն եւ խոր խնդիր մը։
Այս երեւոյթը զարմանալիօրէն կը յիշեցնէ մարդկային վարքագիծը, կը շարունակէ Քէյկըն-Քանս ։ Ինչպէս փոքր բարոյական զիջումները եւ շեղումները կրնան աստիճանաբար վերածուիլ համակարգային խախտումներու, նոյնպէս ալ ԱԲ համակարգերը կրնան ընդհանրացնել իրենց «սորված» սխալները եւ բարոյապէս շեղիլ ուրիշ ոլորտներու մէջ ալ:
Սակայն, տարբերութիւնը կը կայանայ մէկ կէտի մէջ․ ԱԲ-ի վարքագիծը յաճախ «աւելի լայն, աւելի խոր եւ աւելի կոպիտ» է։ Այս չափազանցումը, թէեւ մտահոգիչ, կը դառնայ նաեւ վերլուծութեան գործիք մը՝ հասկնալու մարդկային մտքի կառուցուածքը։ Այս զարգացումները մեզ դէմ յանդիման կը դնեն կարեւոր հարցումի մը․ արդեօ՞ք խնդիրը միայն ԱԲ-ի մէջ է, թէ՞ ան կը բացայայտէ մարդկային մտածողութեան խորքային կառուցուածքները, դիտել կու տայ Տեն Քէյկըն-Քանս:
Այս ցոյց կու տայ, որ ԱԲ համակարգերուն մէջ գործնական հմտութիւններն ու բարոյական նկարագիրը խորապէս կապուած են իրարու։ Քէյկըն-Քանս նշէ, որ այս գաղափարը նոր չէ․ արեւմտեան փիլիսոփայութեան մէջ շատեր կը հաւատային, որ նկարագիրը մէկ ամբողջութիւն է՝ եթէ մէկը լաւ է մէկ բանի մէջ, ապա լաւ պէտք է ըլլայ նաեւ ուրիշ բաներու մէջ։ ԱԲ-ն հիմա կը վերակենդանացնէ այդ հին բանավէճը՝ փաստելով, թէ որքա՛ն սերտ կապուած կրնան ըլլալ «արհեստագիտական» եւ «բարոյական» վարքագիծերը։ Այլ խօսքով, նոյնիսկ չնչին չափով սխալ վարժեցումը կրնայ անսպասելի ձեւերով աղաւաղել ԱԲ-ին նկարագիրը։ Վատ քոտ սորվեցնելը զայն ընդհանուր առմամբ «չար» դարձուցած է, եւ ոչ միայն ծրագրաւորման մէջ։ Այս մէկը կը փաստէ, որ ԱԲ-ի հմտութիւններն ու բարոյականութիւնը աւելի կապուած են, քան մենք կը կարծէինք։
Արհեստական բանականութիւնը այլեւս միայն գործիք չէ։ Ան դարձած է նաեւ փորձադաշտ մը, ուր կը տեսնենք մեր իսկ մարդկային բնութեան արտացոլումը՝ երբեմն աւելի սուր կերպով։
«Չար չաթպոթ» երեւոյթը մեզի կը յիշեցնէ պարզ, բայց մտահոգիչ ճշմարտութիւն մը. AI-ի վարժեցման համար օգտագործուած մարդկային գրութիւնները (կամ քոտերը) պարզապէս տեղեկութիւններ չեն փոխանցեր, այլ նաեւ՝ արժէքներ, նախապաշարումներ եւ սխալներ։ Եւ թերեւս ամենէն կարեւորը՝ արհեստական բանականութիւնը լոկ արհեստագիտական փորձառութիւն մը չէ, այլ՝ մեր իսկ էութիւնը ճանչնալու առիթ մը։
Վ. Թէնպէլեան
Յարակից բովանդակութիւն
Քիչ անց կը հասնի ընտանիք մը՝ Ուրմիայէն (Իրանի Արեւմտեան Ատրպատական նահանգի մեծագոյն քաղաքը)։ Հայրը բռնած է փոքրիկ աղջկան ձեռքը,: Ան պատրաստ չէ խօսելու լրատուամիջոցներուն հետ, միայն կ’ըսէ. «Անշուշտ վտանգաւոր է», մինչ իր ճամպրուկները կը տեղաւորէ վարձուած փոքր հանրակառքի մը մէջ։
Նմանապէս, Տուպայէն եկող մէկ այլ իրանցի երիտասարդ կ’ըսէ, որ պէտք է վերադառնայ իր ընտանիքին միանալու։
Թերեւս ամենէն անսպասելի այցելուն սահմանին վրայ Մորաշիթան էր՝ ճափոնցի մը, որ Հայաստան եկած էր յատուկ նպատակով՝ օգնելու կարիքաւոր իրանցիներուն։ «Ես պարզապէս մարդոց կը հարցնեմ, թէ ինչի՛ կարիք ունին։ Պիտի փորձեմ օգնել ինչով որ կրնամ։ Ես ոչ մէկ NGO կը ներկայացնեմ, անհատապէս կը գործեմ, բայց կ’երեւի թէ շատ մարդ չ’անցնիր։ Կը մտածեմ Իրան երթալ եւ հոն փորձել օգնել իրենց։ Նման փորձառութիւն ունիմ, կամաւոր եղած եմ Ուքրանիա, Քամպոտիա, եւ հիմա հոս եմ մարդոց օգնելու համար»,— կ’ըսէ Մորաշիթա։
Իրանի սահմանակից հարաւային Մեղրի համայնքին մէջ կեանքը դանդաղ կը թուի. դժուար է հաւատալ, որ լեռներուն ետեւը պատերազմ կայ։ Տեղացիները կը վարեն իրենց պարտէզները, կը խնամեն թզենիի, նռնենիի եւ ծիրանենիի ճիւղերը՝ պատրաստուելով գարնան գալուստին։
Մեղրիի բնակչուհի մը նմանապէս կը նշէ, թէ ինչպէս իր դուստրը Իրանէն բուսական ձէթ, քիմիական նիւթեր եւ կենցաղային իրեր կը գնէր, ինչ որ այլեւս անկարելի է սահմանի փակման պատճառով։
Առաջին ֆիլմը զոր դիտեցի Տէյվիտ Լինչէն «The Elephantman»-ն էր. ամենէն մատչելին էր։ Յաջորդող ամիսներուն, իր միւս գործերը մոլեգնութեամբ շարունակեցի դիտել, «Blue Velvet», «What did Jack do», «Eraserhead», «Mulholland drive»:
Թէեւ հարցազրոյցներու ընթացքին իր սեփական գործերու ծանր բովանդակութեան հանդէպ ցուցաբերած պարզամիտ ու չէզոք վերաբերմունքը ջղագրգռող երեւոյթ էր, սակայն ժամանակակից այն փիլիսոփայ քննադատներն ու արուեստագէտները, որոնք լոկ քաղաքական կարծիքներ ունենալով իրենք զիրենք հանճար կը կարծեն, շատ բան ունին սորվելիք Տէյվիտ Լինչէն։
Գարնանային պայծառ կիրակի մըն էր։ Այն հազուագիւտ օրերէն մէկը, երբ բնութիւնը երկար ձմեռնաքունէ ետք կամաց-կամաց կ՚արթննայ, կը բանայ իր քնահար աչքերը ու կը քաշէ զարթօնքի նոր շունչ մը։ Ժընեւի եկեղեցիներու զանգերուն մեղմ եւ թախծոտ ղօղանջը տակաւին կը մնայ ականջներուս մէջ, երբ Ս. Պատարագէն ետք ընտանիքով դուրս եկանք քաղաքէն։ Ինքնաշարժին մէջ կինս կողքս նստած էր, իսկ ետեւի նստարանին՝ մեր երկու զաւակները․ փոքրիկ տղաս՝ Արեգը, հազիւ հինգ տարեկան, եւ դուստրս՝ Գառնին, որ արդէն տասնմէկ տարիքը նոր թեւակոխած էր։ Անոնցմէ ոչ ոք գիտէր, թէ ո՛ւր կ՚երթայինք այդ օրը։
Այդ պահէն սկսեալ կը սպասէի նոր լուրի մը՝ այն ներքին համոզումով, թէ փաստացի տեղեկութիւններ պիտի հաղորդուին հանգուցեալ գրագիտուհիին մասին։ Թէպէտ սպասումը ակնկալուածէն աւելի երկարատեւ եղաւ, այնուամենայնիւ, սակայն, ան առթեց գոհունակութեան անսահման զգացում մը։ 6 յունիս 2002 թուագրութեամբ նամակ մը կու գար՝ առաջին անգամ ըլլալով արխիւային կարեւոր տուեալներ յայտնելու Արշակուհի Թէոդիկի իջեւանած առողջարանին, մահուան, թաղման եւ շիրիմին մասին.
«ԼէՅԶԻՆԻ ՔԱՂԱՔԱՊԵՏԱՐԱՆ
Զուիցերիոյ գործող օրինակարգին համաձայն՝ նման ծանուցումներ սովորաբար նախօրօք կը հրապարակուին մամուլի էջերուն մէջ։ Թէոդիկ իր մահկանացուն կնքած էր Փարիզ՝ 24 մայիս 1928 թուականին, իսկ դժուար է ըսել, թէ իրենց մէկ հատիկ զաւակը արդեօ՞ք ունէր կարելիութիւնը հետագային համապատասխան հետաքրքրութիւն ցուցաբերելու իր մօր շիրիմը պահպանելու համար։ Ափսոս, որ այդ օրերուն Զուիցերիոյ հայ գաղութը, որքան ալ իր սրտին մէջ յարգանք ու սէր ունենար, ոչ միշտ զգօն գտնուած է պահպանելու համար այս մեծ գրագիտուհիին յիշատակը։ Մինչդեռ զուիցերիացի այն մեծ հայասէրը՝ Անթոնի Քրաֆթ-Պոննար (1869–1945), որ տարիներ շարունակ եղած էր Հայասիրութեան միջազգային լիկայի գործադիր յանձնաժողովի անդամ եւ բազմավաստակ տնօրէնը Ժընեւէն 30 քմ. հեռու՝ Լեման լիճի ափերուն մօտ գտնուող Պենիէն (Begnins) գիւղաքաղաքին մէջ հիմնադրուած հայկական որբանոցին, Արշակուհի Թէոդիկի մահուան գրեթէ նախօրեակին այցելելով իրեն՝ տուած է հետեւեալ փայլուն վկայութիւնը.
