ԱԻ-ն ինչպէ՞ս կրնայ իսկապէս բնաջնջել մարդկութիւնը. հինգ հաւանական սենարիօ
September 26, 2026
Արուեստական իմացականութեան մասին խօսակցութիւնը այլեւս միայն այն չէ, թէ ան ի՛նչ գործեր պիտի խլէ մարդոցմէ, ի՛նչ մասնագիտութիւններ պիտի փոխէ կամ ի՛նչ նոր կարելիութիւններ պիտի ստեղծէ։ Վերջին ամիսներուն շատ աւելի լուրջ հարց մը սկսած է լայնօրէն քննարկուիլ. կրնա՞յ արդեօք ԱԻ-ն մարդկութեան գոյութեան իսկ սպառնալիք դառնալ։
Հարցումը առաջին հայեացքով գիտաերեւակայական կրնայ թուիլ։ Բայց երբ նոյն մտահոգութիւնը կը յայտնեն ԱԻ-ի զարգացումին անմիջականօրէն մասնակցող հետազօտողներ, այլեւս կարելի չէ զայն պարզապէս ժպիտով մէկդի ձգել։ Միւս կողմէ, վտանգին մասին խօսիլը դեռ չի նշանակեր, թէ այդ վտանգը հաւանական է, իսկ ամենէն աղմկայարոյց սենարիոները միշտ չէ, որ ամենէն իրատեսականներն են։
Ստորեւ ԱԻ-ի մասնագէտ Թոպի Ուոլշ կը քննարկէ մարդկութեան բնաջնջման վերաբերող հինգ գլխաւոր սենարիօ՝ ամենէն անորոշէն մինչեւ, իր գնահատումով, ամենէն հաւանականը։ Անոր եզրակացութիւնը թերեւս անսպասելի է. մեծագոյն վտանգը կրնայ ոչ թէ մեզ ոչնչացնելու որոշում տուած գերմարդկային մեքենայ մը ըլլալ, այլ մենք՝ ԱԻ-ին օգնութեամբ։
«Տարբերակ21»
⁂
Սեպտեմբերի սկիզբը արուեստական իմացականութեան հետազօտող Ճէյքըպ Քոքսըն ընդամէնը չորս ամիս աշխատելէ ետք հրաժարեցաւ Anthropic-էն։ X-ով հրապարակած իր յայտարարութեան մէջ ան գրեց.
«ԱԻ կառուցող մարդիկ անկեղծօրէն կը հաւատան, որ ան մինչեւ տասնամեակի աւարտը կրնայ բոլորս սպաննել»։
Anthropic-ի բարձրաստիճան աշխատակիցներէն Էվըն Հուպինկ փաստօրէն համամիտ գտնուեցաւ Քոքսընի՝ աւելցնելով, որ իր անձնական գնահատումով յառաջիկայ տասնամեակին նման բան պատահելու հաւանականութիւնը 10 առ հարիւրէն աւելի է։
Հասկնալիօրէն, այս յայտարարութիւնները լայն արձագանգ գտան։ Այժմ շատ կը խօսուի ԱԻ-ի հետազօտութիւնները դանդաղեցնելու եւ արհեստագիտութեան նկատմամբ «մարդկային վերահսկողութիւնը» աւելցնելու մասին։
Բայց ԱԻ-ն ճիշդ ինչպէ՞ս կրնայ բոլորս սպաննել։
Երեւակայական սենարիոներու տագնապ չկայ, եւ անոնց մեծ մասը կապուած է «գերիմացական» ԱԻ-ի գաղափարին, այսինքն՝ ԱԻ-ի մը, որ իր կարողութիւններով կը գերազանցէ մարդը։
Այս սենարիոները ամփոփած եմ հինգ հիմնական տարբերակներու մէջ՝ զանոնք մօտաւորապէս դասաւորելով ամենէն անորոշէն մինչեւ ամենէն յստակը։ Կարծիքովս՝ ցանկը նաեւ ամենէն նուազ հաւանականէն դէպի ամենէն հաւանականը կ’ընթանայ։
- Երբեք պիտի չգիտնանք
Գերիմացական համակարգի մը ընելիքը կանխատեսելու համար մենք ալ պէտք է գերիմացական ըլլայինք։ Կարծես ընտանիքի շունէն կը պահանջենք պատկերացնել ջերմակորիզային պատերազմ մը։
Լաւ լուրը այն է, որ գերիմացական ԱԻ-ի ստեղծումը դեռ բաւական ժամանակի կը կարօտի: Այսօրուան ԱԻ մոտելները շատ լաւ են որոշակի խնդիրներ լուծելու մէջ, բայց ատիկա նոյնը չէ, ինչպէս բոլոր բնագաւառներուն մէջ մարդէն աւելի իմացական ըլլալը։
Միւս կողմէ, ԱԻ-ն վերջերս լուծեց ուսողութեան ամէնէն դժուար նկատուող եօթը խնդիրներէն մէկը եւ, ըստ երեւոյթին, կը մօտենայ ուրիշներու լուծումին եւս։ Ասիկա կրնայ մեր լաւատեսութիւնը փոքր-ինչ նուազեցնել։
- Թղթասեղմակներ (Paperclips)
Այս անտարբերութեան դասական օրինակը Օքսֆորտի փիլիսոփայ Նիք Պոսթրոմի պատկերացուցած գերիմացական ԱԻ-ն է, որուն նպատակը թղթասեղմակներու արտադրութիւնը առաւելագոյնի հասցնելն է։
Իր նպատակին հասնելու համար ան արագօրէն օգտագործելի ամբողջ նիւթը՝ ներառեալ մարդիկը, մոլորակներն ու աստղերը, կը վերածէ թղթասեղմակներու։
Այստեղ ունինք սխալ կամ անբաւարար կերպով սահմանուած նպատակի մը կատարեալ իրականացումը։ ԱԻ-ն մարդկութիւնը չ’ատեր։ Պարզապէս կը «տեսնէ», որ մենք կազմուած ենք հիւլէներէ, որոնք կարելի է աւելի օգտակար կերպով ծառայեցնել թղթասեղմակներ արտադրելու համար։ Անձնական ոչինչ կայ։
Լաւ լուրը այն է, որ այս սենարիոն կը շփոթէ իմացականութիւնը իշխանութեան հետ։ Գերիմացական ԱԻ մը անպայման չունի իր նպատակները իրականացնելու համար անհրաժեշտ իրական ուժը։
Երկրագունդը թղթասեղմակի գործարաններու վերածելը, օրինակ, պիտի պահանջէր շինարարական արտօնութիւններ։ Իսկ չափազանց մեծ թիւով նման գործարաններ կառուցելը անխուսափելիօրէն հանրային հակազդեցութիւն պիտի յառաջացնէր։ Շահագրգիռ խմբակներ կրնային դատական միջոցներով արգելակել ծրագիրը, իսկ բնապահպանները՝ փակել շինարարական մեքենաներուն ճամբան։
Իրական աշխարհը լի է արգելքներով, որոնք նոյնիսկ ամենախելացի մարդոց կամ կառոյցներուն թոյլ չեն տար իրենց կամքը անարգել պարտադրելու բոլորին։
Այս իմաստով այսօրուան տուեալներու կեդրոնները կարելի է նոյնիսկ թղթասեղմակի տեսական սենարիոյին փոքր մէկ արտայայտութիւնը նկատել։ Մարդիկ արդէն սկսած են հակազդել մոլորակին յարաճուն տարածքները տուեալներու կեդրոններուն տրամադրելու միտումին։
- Կենսաբանական զէնքեր
Ասիկա, փաստօրէն, AI Futures Project ոչ շահութաբեր կազմակերպութեան մշակած AI 2027 սենարիոյին հաւանական հետեւանքներէն մէկն է։
Այս վտանգը աւելի շօշափելի դարձաւ անցեալ ամիս, երբ Սթենֆըրտ համալսարանի հետազօտողներ յայտարարեցին, թէ ծինային լեզուական ԱԻ մոտելի մը օգնութեամբ ստեղծած են 16 նոր ժահրեր։
Առաւել մտահոգիչը այն էր, որ հետազօտողները ծինային յաջորդականութիւնները պարզապէս ուղարկած էին պատուէրով աշխատող տարրալուծարան մը, որ իր կարգին ժահրերը փորձանոթներու մէջ վերադարձուցած էր։ Ամբողջ փորձը առաւելագոյնը քանի մը հարիւր հազար տոլար արժած էր։
Լաւ լուրը այն է, որ նոր ժահրով մը բոլոր մարդիկը սպաննելը չափազանց դժուար է։
Ատոր համար անհրաժեշտ է ժահր մը, որ շատ արագ փոխանցուի եւ տարածուի։ Բայց կենսաբանութեան մէջ սովորաբար կը տեսնենք, որ դիւրութեամբ տարածուող ժահրերը համեմատաբար նուազ մահացու կ’ըլլան։ Իսկ երբ ժահրը չափազանց մահացու է, անոր փոխանցելիութիւնը կրնայ նուազիլ, որովհետեւ վարակուածները կրնան մահանալ նախքան զայն լայնօրէն տարածելը։
COVID-ը սպաննեց մարդկութեան մէկ առ հարիւրէն պակասը։ Պատմութեան մէջ արձանագրուած ամենէն մահաբեր համաճարակը Սեւ մահն էր, երբ ժանտախտը սպաննեց Եւրոպայի բնակչութեան աւելի քան մէկ երրորդը։ Բայց նոյնիսկ ժանտախտը այսօր հաւանաբար շատ աւելի նուազ մահացու պիտի ըլլար՝ բժշկական գիտելիքներու եւ առողջապահական պայմաններու բարելաւման շնորհիւ։
- Կորիզային պատերազմ
Վերջին յիսուն տարիներուն մարդկութիւնը քանի մը անգամ սխալի հետեւանքով շատ մօտեցած է կորիզային պատերազմի։
Մեզի կ’ըսուի, որ կորիզային հրամանատարական եւ վերահսկողութեան համակարգերը ամբողջովին անջատուած են համացանցէն։ Բայց 2010-ին տեսանք, թէ ինչպէս Իրանի կորիզային կեդրոնախոյսները (centrifuges) վնասուեցան Stuxnet անունով համակարգչային վնասաբեր ծրագրով, որ, ենթադրաբար, համակարգ մտած էր USB-ի մը միջոցով։
ԱԻ-ն կրնայ նաեւ զինուորական կառոյցներուն սխալ տեղեկութիւն փոխանցել, ինչ որ կրնայ անդառնալի որոշումներու առաջնորդել։
Լաւ լուրը այն է, որ աշխարհի կորիզային զէնքերուն թիւը նուազած է։ Բայց մնացած պաշարները տակաւին կրնան մարդկութեան հսկայական մասը ոչնչացնել։
Եւ գլխաւոր վտանգը միայն կորիզային պայթումները չեն։ Մեծածաւալ կորիզային պատերազմի հետեւանքով ստեղծուելիք կորիզային ձմեռը կրնայ համաշխարհային սովի պատճառ դառնալ եւ միլիառաւոր մարդոց կեանքը խլել։
- Ուրիշ մարդիկ
Իսկ ԱԻ-ն կրնայ արագացնել այդ ընթացքը։
Պատկերացուցէք — եւ ասիկա մեծ երեւակայութիւն չի պահանջեր — որ ԱԻ-ն զանգուածային գործազրկութիւն յառաջացնէ, տեղեկատուական միջավայրը ողողէ ապատեղեկատուութեամբ, խորացնէ քաղաքական բաժանումները եւ մարդկային յարաբերութիւնները քայքայէ՝ մարդը փոխարինող կեղծ, արուեստական ընկերակցութիւններ ստեղծելով։
Հասարակութիւնը կրնայ աստիճանաբար քայքայուիլ։
Դանդաղ, բայց հաստատուն կերպով կրնանք հասնիլ վիճակի մը, ուր այլեւս անկարող կ’ըլլանք մեծ թիւով մարդոց կեանքը ապահովող հասարակական համակարգերը պահպանելու։
Ուրեմն ի՞նչ եզրակացութիւն հանել այս բոլոր սենարիոներէն։
Անշուշտ, մտահոգուելու պատճառներ կան։ Բայց, կը յուսամ, ոչ՝ չափազանց մտահոգուելու։
Թոպի Ուոլշ
Արուեստական իմացականութեան փրոֆեսոր եւ հետազօտական խումբի ղեկավար, UNSW
The Conversation
Թարգմանութիւն՝ «Տարբերակ21»-ի (բնագիրը կարդալ այս կապով)