Արուեստական իմացականութեան (ԱԻ) զարգացման արագ ընթացքը նոր մտահոգութիւններու դուռ կը բանայ, այս անգամ՝ «ներսէն» հնչած ուշագրաւ ահազանգով։ ԱԻ «Claude» գործիքը ստեղծած Anthropic ընկերութեան նախկին հետազօտողներէն Ճէյքըպ Քոքսըն հրաժարած է իր պաշտօնէն՝ զգուշացնելով, որ ԱԻ գլխաւոր ընկերութիւններուն միջեւ գերիմացականութիւն (superintelligence) ստեղծելու մրցավազքը կրնայ լուրջ վտանգներ ստեղծել մարդկային քաղաքակրթութեան համար։

27-ամեայ բրիտանացի հետազօտողը, որ նախապէս աշխատած է նաեւ OpenAI ընկերութեան մէջ (ChatGPT), վերջին երեք տարիներուն մասնակցած է աշխարհի ամենէն զարգացած ԱԻ համակարգերէն ոմանց նախնական ուսուցման աշխատանքներուն։ Ան այժմ որոշած է ամբողջովին հեռանալ յառաջատար ԱԻ համակարգերու մշակումէն՝ պատճառաբանելով, որ չի կրնար շարունակել մասնակցիլ գործընթացի մը, որուն հետեւանքները, իր գնահատումով, կրնան աղէտալի ըլլալ։

Քոքսընի հիմնական մտահոգութիւնը կը վերաբերի ինքզինք կատարելագործելու կարողութիւն ունեցող գերբանական ԱԻ համակարգերու ստեղծման կարելիութեան։ Նման համակարգ մը տեսականօրէն կրնայ գերազանցել մարդուն մտային կարողութիւնները բազմաթիւ ոլորտներու մէջ եւ արագացնել իր իսկ հետագայ զարգացումը։

Հետազօտողին համաձայն՝ խնդիրը միայն այն չէ, որ նման արհեստագիտութիւն մը կրնայ ստեղծուիլ, այլ այն, որ զայն ստեղծելու մրցակցութիւնը կը շարունակուի՝ առանց համապատասխան անվտանգութեան միջոցներու եւ միջազգային հակակշռի։

Քոքսըն Anthropic-ի եւ OpenAI-ի ընթացքը կը նկարագրէ իբրեւ մարդկային կեանքերուն հետ կատարուող վտանգաւոր բախտախաղ։ Ան կը պնդէ, որ ԱԻ ոլորտի որոշ ղեկավարներ եւ հետազօտողներ ներքնապէս շատ աւելի մտահոգ են ապագայ համակարգերու վտանգներով, քան այդ մտահոգութիւնը հրապարակաւ կ՚արտայայտեն։

Քոքսըն միակը չէ։ Anthropic-ի ԱԻ անվտանգութեան հետազօտող Էվըն Հիւպինկըր (Evan Hubinger) եւս հրապարակաւ լուրջ մտահոգութիւն կ՚արտայայտէ՝ նշելով, որ ընկերութիւնը տակաւին չունի ամբողջական լուծում, թէ ինչպէս կարելի պիտի ըլլայ ապագայ գերբանական համակարգ մը վստահելիօրէն համապատասխանեցնել մարդկային նպատակներուն եւ արժէքներուն։

Հիւպինկըր նոյնիսկ 10 տոկոսէն աւելի կը գնահատէ յառաջիկայ տասնամեակին ԱԻ-ի պատճառով մարդկութեան բնաջնջման հաւանականութիւնը։ Այս թիւը, անշուշտ, գիտականօրէն հաստատուած նախատեսութիւն մը չէ, այլ մասնագէտի մը անձնական վտանգի գնահատում, սակայն կը բացայայտէ, թէ որքան լուրջ են մտահոգութիւնները այս մարզի որոշ հետազօտողներուն մօտ։

Ի՞նչ է «գերիմացականութիւնը»

Գերիմացականութիւն ըսելով կը հասկցուի տակաւին տեսական ԱԻ համակարգ մը, որ իր կարողութիւններով պիտի գերազանցէ մարդը գրեթէ բոլոր հիմնական ոլորտներուն մէջ՝ գիտական հետազօտութենէն եւ ռազմավարական մտածողութենէն մինչեւ խնդիրներու լուծում եւ նոր արհեստագիտութիւններու մշակում։

Մտահոգութիւնը կը մեծնայ, երբ նման համակարգ մը կարողանայ նաեւ նպաստել իր սեփական կարողութիւններու արագ բարելաւման։ Այդ պարագային անոր զարգացումը կրնայ այնքան արագանալ, որ մարդկային հակակշռի միջոցները չկարենան նոյն արագութեամբ հետեւիլ անոր։

Սակայն մասնագիտական շրջանակներուն մէջ համախոհութիւն չկայ, թէ նման գերիմացականութիւն մը որքա՞ն մօտ է կամ նոյնիսկ անխուսափելի՞։ Որոշ մասնագէտներ գոյութենական վտանգի մասին զգուշացումները շատ լուրջ կը նկատեն, մինչ ուրիշներ կը վիճարկեն նման աղէտալի նախատեսութիւններու հաւանականութիւնը։

ԱԻ-ի արագ զարգացումը եւ անվտանգութիւնը

Քոքսընի հրաժարականը կը վերարծարծէ ԱԻ-ի զարգացման շուրջ հիմնական հակասութիւնը. որքա՞ն արագ պէտք է յառաջանայ արհեստագիտութիւնը, երբ անոր անվտանգութիւնը տակաւին ամբողջովին երաշխաւորուած չէ։

Ան կոչ կ՚ուղղէ մտածելու ԱԻ համակարգերու կարողութիւններուն հետագայ աճը ժամանակաւորապէս սահմանափակելու եւ յառաջատար ընկերութիւններուն միջեւ համագործակցութիւն հաստատելու մասին, փոխանակ գերիմացականութեան հասնելու մրցավազքը շարունակելու։

Անոր ահազանգը կը հնչէ այնպիսի ժամանակաշրջանի մը, երբ ԱԻ-ի վտանգներուն շուրջ միջազգային քննարկումը զգալիօրէն սաստկացած է։ Դեռ վերջերս ՄԱԿ-ի Մարդկային Իրաւանց Բարձր Յանձնակատար Ֆոլքեր Թիւրք եւս զգուշացուց, որ անբաւարար հակակշռի պայմաններուն մէջ զարգացած ԱԻ-ն կրնայ ի վերջոյ «գոյութենական վտանգ» դառնալ մարդկութեան համար։

Ուստի Քոքսընի հրաժարականին նշանակութիւնը միայն մէկ հետազօտողի անձնական որոշումը չէ։ Ան կը բացայայտէ աւելի լայն հակասութիւն մը, որ այսօր գոյութիւն ունի ԱԻ ոլորտին մէջ. մինչ ընկերութիւնները կը մրցին աւելի հզօր համակարգեր ստեղծելու, նոյն այդ համակարգերը ստեղծող մասնագէտներէն ոմանք հարց կու տան՝ արդեօք անվտանգութեան միջոցները կը յառաջանա՞ն նոյն արագութեամբ։

Արուեստական իմացականութեան արագ զարգացումը այլեւս միայն արհեստագիտական յառաջդիմութիւն հարց չէ. անիկա կը վերածուի իշխանութեան, հակակշռի եւ նոյնիսկ մարդկային գոյութեան վերաբերող մարտահրաւէրի։ ՄԱԿ-ի Մարդկային Իրաւանց Բարձր Յանձնակատար Ֆոլքեր Թիւրքի զգուշացումը, թէ զարգացած ԱԻ-ն կրնայ «գոյութենական վտանգ» դառնալ մարդկութեան համար, կը շեշտէ միջազգային կանոններու եւ յստակ սահմաններու անհրաժեշտութիւնը։ Սակայն վտանգը միայն ապագային չի վերաբերիր. ԱԻ-ն արդէն կը փոխէ աշխատանքը, կրթութիւնը, ստեղծագործութիւնը եւ մարդուն դերը։ Հետեւաբար հիմնական հարցը ԱԻ-ն կասեցնելը չէ, այլ մարդը որոշումին կեդրոնը պահելը։ Ի վերջոյ, խնդիրը այն չէ, թէ որքան խելացի մեքենայ կրնանք ստեղծել, այլ՝ արդեօք բաւարար իմաստուն պիտի ըլլա՞նք մեր ստեղծած ուժին տէրը մնալու։

«Տարբերակ21»