Հետագայ յօդուածը ստացանք Մոնթրէալի մեր ընթերցողներէն՝ Վիգէն Լ. Ադդարեանէն։ «Why AI Doesn’t Think, Cannot Reason, Isn’t Intelligent and Will Never Achieve Consciousness» («Ինչո՞ւ արուեստական իմացականութիւնը (ԱԻ-AI) չի մտածեր, չի տրամաբաներ, խելացի չէ եւ երբեք գիտակցութիւն պիտի չունենայ») խորագրեալ յօդուածին բնագիրը կարելի է կարդալ այս կապով։ Ստորեւ թարգմանաբար կը ներկայացնենք յօդուածին մէջ արծարծուած գլխաւոր գաղափարները։ Միաժամանակ կը հրատարակենք նաեւ այս յօդուածը խմբագրութեան ներկայացնող Ադդարեանի խիստ շահեկան ծանօթագրութիւնը։
խմբգ.
⁂
Այս հոյակապ քաղաքատնտեսական յօդուածը կը կատարէ թէ՛ ԱԻ-ի իրավիճակին վերլուծումը, թէ՛ կը բացատրէ մարդկային կողմնորոշման անելային իրավիճակը եւ յստակօրէն կը մատնանշէ թէ այսօրուան ուղին ուր կը տանի եւ թէ ինչու այդպէս է: Ամէն ոք որ շլացած է եղածով, ինչ որ իսկապէս հրաշալի է գործիքային ստեղծումի տեսակէտէն, պէտք է մանրամասնօրէն կարդայ այս յօդուածը: Այդ շլացումը կու գայ ընդհանրապէս իրենց ինքնախաբէութենէն, բայց շատ յաճախ, պարզապէս տգիտութենէն: Այսօրուան աշխարհին գլխաւոր հիմնահարցը այն է թէ մարդիկ գաղափար անգամ չունին թէ ամէն ինչ որ գոյութիւն ունի իրենց շուրջ (ըլլան ատոնք մեքենաներ, համակարգիչներ, ծրագիրներ, բնութեան համակարգեր, տնտեսութիւն, կլիմայ, արտադրողական համակարգ, բնակավայրեր, եւ այլազան մարդաստեղծ թէ բնական դրութիւններ եւ այլն) ի՞նչպէս կ’աշխատին, ինչո՞ւ կ’աշխատին, եւ ինչո՞ւ կը դադրին աշխատելէ եւ կրնան ամբողջութեամբ փլուզիլ իրենց հետ տանելով ամէն ինչ որ գոյութիւն ունի:
Մարդիկ կը կարծեն թէ կոճակը կը կոխեն եւ գիշերները իրենց տան մէջ լոյս կը վառի: Չեն գիտեր եւ հետաքրքրուած անգամ չեն թէ անոր ետին գտնուող ենթակառոյցը որքան ներդրումի պէտք ունի ամէն մարզի մէջ (վայր, շինութիւն, գործիքներ, դրամագլուխի ներդրում, մարդոյժ, նաեւ բնութեան կործանում եւ այլն): Այդպիսի «մարդկութիւն» մը միմիայն ինքնակործան է: Իսկ իր մտածածները միմիայն զառանցում:
Վիգէն Լ. Ադդարեան
⁂
Արուեստական իմացականութեան (ԱԻ – AI) շուրջ վերջերս կատարուած հանրային քննարկումները ցոյց կու տան, որ մարդիկ դժուարութիւն ունին հասկնալու գծային ժամանակի (linear time)՝ անցեալէն, ներկայի միջով, դէպի ապագայ ընթացող պատճառահետեւանքային յաջորդականութեան նշանակութիւնը։ Ասիկա յատկապէս կը վերաբերի գործողութիւններու յաջորդականութեան (sequencing) եւ թէ ո՞վ է արդիւնքին իրական հեղինակը։
Որպէսզի հասկնանք, թէ ինչո՞ւ ԱԻ-ն չի մտածեր, օգտագործենք ֆիզիքական պատկերաւոր օրինակ մը.
Եթէ ես՝
1. Գնեմ ինքնաշարժ մը,
2. Անոր ուղղութիւնը շտկեմ դէպի գահաւէժ բարձունք մը,
3. Քար մը դնեմ պենզինի ոտնակին (pedal) վրայ,
4. Արագութեան փոխանցման տուփը (transmission) դնեմ քշելու (drive) դիրքին վրայ,
Ինքնաշարժը յառաջ պիտի շարժի եւ ժայռէն վար պիտի գահաւիժի։
Հարցում. Իմ գործողութիւններո՞ւս պատճառով ինքնաշարժը գահաւիժեցաւ, թէ՞ Ինքնաշարժը «ինքն իրեն» քշեց դէպի գահաւէժ բարձունքը։
Ճիշդ պատասխանը այն է, որ ես յղացայ եւ ստեղծեցի իրադարձութիւններու շարք մը, որոնք յանգեցան այդ արդիւնքին։ Ինքնաշարժը ինքնին անշունչ առարկայ մըն է՝ շինուած մետաղէ եւ ռետինէ։
Նոյն տրամաբանութեամբ, եթէ ես ստեղծեմ եւ գործի լծեմ երեք հարիւր քայլնոց ալկորիթմ (algorithm) մը, ո՞վ է արդիւնքը արտադրողը՝ ալկորիթմը, թէ՞ ես։ Իմ դիտաւորութիւնս (intent) կ’առաջնորդէ ալկորիթմի յղացումին ու ստեղծումին։ Այդ պահէն ետք, աշխատանքը կը կատարուի համակարգչային միջավայրի մէջ վազող ալկորիթմին կողմէ։ Սակայն, ալկորիթմը չէ՛ յղացած ծրագիրը. ե՛ս յղացած եմ։ Ալկորիթմը չէ՛ ծրագրած յաջորդականութիւնը. ե՛ս ծրագրած եմ։ Ալկորիթմը չէ՛ քոտաւորած (coded) խնդիրը. ե՛ս քոտաւորած եմ։ Հետեւաբար, արդիւնքը իմս է, ոչ թէ մեքենայինը։
Մեքենական «մտածողութեան» առասպելը
Նոյնպիսի սխալ հասկացողութիւն մը կայ, երբ կը պնդուի, թէ մեքենաները կը «մտածեն»։ Ֆիզիքապէս խօսելով, ԱԻ-ն ալկորիթմներու փունջ մըն է՝ տեղաւորուած համակարգչային մեծ միջավայրի մը մէջ։ ԱԻ-ն ինքն իրեն չէ՛ յղացած։ Անիկա յղացուած է մարդոց կողմէ (օրինակ՝ Քարնեկի Մելլոն համալսարանին մէջ, 1970-ականներուն)։ ԱԻ-ն ինքն իրեն չէ՛ շինած. անիկա կառուցուած է համակարգչային գիտնականներու կողմէ։ ԱԻ-ն ինքն իրեն չէ՛ քոտաւորած. անիկա քոտաւորուած է ԱԻ մշակողներու (developers) կողմէ։ Եւ այն ահռելի ֆիզիքական ենթակառոյցը, որուն կը յենի ԱԻ-ն, կառուցուած է աշխատաւորներու կողմէ։
Հիմնական կէտը. ԱԻ-ն ամբողջութեամբ մարդկային արտադրութիւն է։
Ինչպէ՞ս կարելի է երեւակայել, որ ԱԻ-ին արդիւնքը կը ներկայացնէ աւելին, քան այն մարդկային ջանքը, որ դրուած է անոր ստեղծման մէջ։ Եթէ ԱԻ-ին արդիւնքը կը թուի տրամաբանութիւն (reasoning), ապա այդ լոկ այն պատճառով է, որ մարդիկ տրամաբանած են եւ այդ տրամաբանութիւնը քոտաւորած են մոտելին մէջ։ ԱԻ-ն կը գործէ այն մաթեմաթիկական կառուցուածքներուն եւ ուսուցման ընթացքին ձեւաւորուած մօտելներուն համաձայն, որոնք մարդիկ ստեղծած ու մարզած են։ Ոչ աւելի, ոչ պակաս։
Քաղաքական եւ տնտեսական խորքը
Այս հարցը նաեւ քաղաքական խորք ունի, որովհետեւ անոր պատասխանը կ’որոշէ, թէ Արեւմուտքի մէջ ինչպէ՛ս կը բաշխուի եկամուտը։ Եթէ «դրամագլուխը»՝ ինքնաշխատող գործարանի ձեւով, կ’արտադրէ արդիւնքը, ապա հասոյթը կը պատկանի դրամագլուխին (այսինքն՝ դրամատիրոջ)։ Սակայն, առանց այն աշխատաւորներուն, որոնք նախ ստեղծած են այդ ինքնաշխատող գործարանները, ինքնաշխատութեան գործընթացը գոյութիւն պիտի չունենար։ Քաղաքական լուծումը եղած է աշխատաւորներու պահանջը այս արտադրանքին նկատմամբ վերացնել՝ անոնց վճարելով միանուագ աշխատավարձ, մինչդեռ դրամատէրը նոյն աշխատանքէն կը շարունակէ շահոյթ ստանալ այնքան ատեն, որքան այդ արտադրանքը կը գործէ։
ԱԻ-ի պարագային, այս հարցը կրկին սեղանի վրայ է։ Անկախ անկէ, թէ ինչպէս կ’ուզենք ընկալել ԱԻ-ն՝ որպէս մտածող մեքենայ, թէ որպէս ալկորիթմներու փունջ մը, անիկա կառուցուած է աշխատաւորներու կողմէ։ ԱԻ-ին ամբողջ «գիտելիքը» միջնորդաւորուած է մարդոց կողմէ։ ԱԻ-ն ուղղակի մուտք չունի դէպի աշխարհ. անիկա առածային «Ուղեղը փորձանօթի մէջ» (brain-in-a-vat) է։
ԱԻ-ն ինչպէ՞ս մաթեմաթիկական խնդիրներ «կը լուծէ»
Վերջերս հանրային քննարկումներու ժամանակ մարդիկ կը զարմանան, թէ ԱԻ-ն ինչպէ՞ս կրնայ մաթեմաթիկական խնդիրներ լուծել, եթէ չի մտածեր։
Մարդիկ կը պատկերացնեն առանձին մաթեմաթիկոս մը, որ նստած կը մտածէ խնդրին լուծման շուրջ։ Սակայն, ԱԻ-ն չ’օգտագործեր մաթեմաթիկոսներու մեթոտները։ Փոխանակ անտառի մէջ մէկ ծառ առանձնացնելու իր յատկանիշներով (ինչպէս կ’ընէ մաթեմաթիկոսը), ԱԻ-ն կը կտրէ անտառի բոլոր միւս ծառերը՝ յայտարարելու համար, որ լուծումը կանգուն մնացած ծառն է (այս մեթոտը կը կոչուի brute force computing կամ կոպիտ ուժի հաշուարկ)։
Հաշուողական անսահմանափակ հզօրութեամբ, ԱԻ-ն կրնայ վայրկեաններու մէջ ստուգել խնդրի մը իւրաքանչիւր հնարաւոր տարբերակը։ Այն, ինչ ԱԻ օգտագործողները չեն տեսներ, ետին կանգնած «երկնաքեր» չափի ենթակառոյցն ու հաշուողական ահռելի աշխատանքն է, որ այդ արդիւնքը կ’արտադրէ։
ԱԻ-ն արդեօք օգտակա՞ր արհեստագիտութիւն է
Հաշուողական այս վիթխարի հզօրութիւնը չի փաստեր ԱԻ-ին արժէքը։ Արհեստագիտութեան մէկ բացատրութիւնն այն է, որ անիկա օգուտ կը բերէ։ Միւսը այն է, որ անիկա պարզապէս կը փոխէ մարդոց աշխատելաձեւը։
Օրինակ՝ ինքնաշարժներով կրնանք արագօրէն երկար տարածութիւններ կտրել։ Միւս կողմէ, մեզմէ շատեր այժմ օրական երեք ժամ ինքնաշարժի մէջ կ’անցնեն՝ խճողումի մէջ նստած։ Այսպիսով, արդեօ՞ք ինքնաշարժները միանշանակ օգուտ են։ Այս հարցին պատասխանը դեռ յստակ չէ։
Այսպէս ալ դրամատիրութիւնը կը գործէ։ Մեզի կ’առաջարկուի օգուտ մը (արագ ճամբորդելու կարողութիւն), բայց գրեթէ անմիջապէս այդ «օգուտին» ընկերային հետեւանքները կը դառնան բեռ մը, որ չէր պատկերացուած։
Ներկայիս, շատ մը ամերիկացիներ մտահոգ են, որ ԱԻ-ն կրնայ մտածել եւ պիտի խլէ մեր գործերը։ Սակայն, մենք պէտք է մտահոգուինք անով, որ ԱԻ-ն չի՛ կրնար մտածել։ Անիկա աշխատուժի որակազրկման (de-skilling) մէկ այլ շերտ է։
- ԱԻ «արուեստը» անարուեստ է։
- ԱԻ «միտքերը» Փենթակոնի եւ ամերիկեան հաստատութիւններու իմաստութեան հաւաքածոն են։
- ԱԻ-ի իւրաքանչիւր հարցում լրացուցիչ հաշուողական ուժ եւ ելեկտրականութիւն կը պահանջէ, ինչ որ իր հերթին կ’աւելցնէ ջերմոցային կազերու արտանետումները եւ կը բարձրացնէ անոր բնապահպանական գինը։
Լեզուի գործառնականացումը (Operationalization)
ԱԻ-ի գործընթացին մէկ այլ թաքնուած մասը լեզուի գործառնականացումն է։ ԱԻ-ն կը յենի այն նախադրեալին վրայ, թէ մարդկային միտքը շարադասութեան եւ իմաստաբանութեան (syntax and semantics) համադրութիւն մըն է։ Սակայն, գործառնականացումը կը յանգեցնէ իմաստի ձեւական համախմբման։
Օրինակ՝ «ժողովրդավարութիւն» եզրոյթը։ Որպէսզի այս եզրոյթը դառնայ գործառնական ԱԻ-ի համար, անիկա պէտք է պարզեցուի եւ կայունացուի։ Նոյնը կը վերաբերի «քրիստոնէութիւն» եզրոյթին, որ ունի 45.000 դաւանանք։ Քրիստոնէութեան գործառնական սահմանումը որպէս «անոնք, որոնք կը հաւատան Քրիստոսին», կը վերացնէ քրիստոնեաներու միջեւ եղած 45.000 կարծիքներու տարբերութիւնները։ Քաղաքական առումով, անիկա կը հարթեցնէ իրականութիւնը։
Այս մէկը պարզ վէճ չէ։ Ով որ կը վերահսկէ լեզուի իմաստը, կը վերահսկէ լեզուն։ ԱԻ-ն կը փոխարինէ համացանցի փնտռտուքի գործառոյթները, եւ սովորական բառերու նախկին սահմանումները համակարգուած կերպով կը փոխարինուին ԱԻ-ին կողմէ պարզեցուած (գործառնականացուած) սահմանումներով։ Այս պարզեցումը կը ստեղծէ համախոհութեան (consensus) կեղծ զգացում մը, որ սխալ է։ Լեզուական բազմազանութիւնը կը վերանայ խօսոյթէն։
Եզրակացութիւն. ոչ մէկ մոգականութիւն, միայն ալկորիթմներ
Որեւէ մէկը, որ դեռ կը պատկերացնէ, թէ ԱԻ-ն կը մտածէ, կը տրամաբանէ, ունի բանականութիւն կամ գիտակցութիւն, պէտք է ժամանակ յատկացնէ մոտելի տրամաբանութեան եւ բացատրէ, թէ ճիշդ ո՞ւր այս գործընթացին մէջ ալկորիթմական հրահանգները կը դառնան անկախ մտածողութեան գործընթացներ։ Այն, որ ոմանք չեն հասկնար գործընթացը, չի նշանակեր, որ անիկա մոգութիւն է։
Ինքնավար ինքնաշարժները (self-driving cars) իրենք իրենց չեն քշեր։ Անոնք յիմար մեքենաներ են, որոնք կը հետեւին ալկորիթմական հրահանգներուն։ Այս տեսութիւնը փորձարկելու համար, պարզապէս անջատեցէ՛ք զանոնք ալկորիթմներէն…
Ռոպ Եուրի (Rob Urie)
counterpunch.org
