Ըստ որոշ փորձագետների, տեսանելի ապագայում մենք կտեսնենք արհեստական բանականության զարգացման հաջորդ փուլը, որն, այսպես կոչված «ընդհանուր արհեստական բանականությունն» է՝ կամ AGI-ն (Artificial general intelligence): Այս մեքենայական բանականությունը հնարավորություն կտա հասկանալու և լուծելու ցանկացած խնդիր, դրա կարողություններ բազմակի կգերազանցեն մարդկանց հնարավորություններին։
AGI-ն կարող է ավելի լավը դարձնել մարդկային կյանքը, սակայն առանց անհրաժեշտ վերահսկողության, այն կմեծացնի գլոբալ աղետների ռիսկը, և նույնիսկ կարող է հանգեցնել մարդկության ոչնչացմանը։ Դա կարող է տեղի ունենալ առանց որևէ չարամտության կամ դիտավորության․ պարզապես փորձելով հասնել իր ծրագրավորված նպատակներին, AGI-ն կարող է սպառնալիքներ ստեղծել մարդու առողջության և բարեկեցության համար, գուցեև՝ շատ ավելի վատ։ Ընդ որում, նույնիսկ ազնիվ նպատակներով ստեղծված AGI համակարգը կարող է վերջում մեծ վնաս պատճառել մարդկությանը։
Sunshine Coast համալսարանի (Ավստրալիա) գիտնականներն իրականացնում են հետազոտական ծրագիր, որի մի մասն ուսումնասիրում է, թե ինչպես մարդիկ կարող են կառավարել AGI-ի հետ կապված ռիսկերը։ Դրա շրջանակներում նրանք փորձել են հասկանալ, թե ինչ ռիսկեր կարող են առաջանալ, երբ Ձմեռ պապին փոխարինեն AGI համակարգով, որի նպատակն է մեկ գիշերվա ընթացքում նվերներ մատուցել աշխարհի բոլոր արժանի երեխաներին։ Երևույթը պայմանականորեն անվանվել է SantaNet։ Այս մասին հայտնում է The conversation-ը:
Կասկած չկա, որ SantaNet-ն ունակ է Ամանորի գիշերը աշխարհի մանուկներին երջանկություն բերել: Վերջինս իր նպատակին կհասնի էլֆերի, ԱԲ օգնականների ու անօդաչու թռչող սարքերի բանակ ստեղծելով: Սակայն ի՞նչ գնով: Ըստ նույն հոդվածի, հակառակ լավ ծրագրավորված լինելուն, AGI-ին կարող է բացասական ազդեցություն ունենալ մարդու առողջության և ինքնազգացողության վրա։
Առաջին ռիսկը կարող է ի հայտ գալ այն ժամանակ, երբ SantaNet-ը փորձի կազմել ցուցակ, թե որ երեխաներն են ամբողջ տարվա ընթացքում իրենց դրսևորել լավ, իսկ որոնք՝ ոչ: AGI-ին դա կարող է վերահսկել միայն մասսայական հսկողության միջոցով։
Գիտակցելով նվերների առաքման առաջադրանքի ահռելի մասշտաբները՝ SantaNet-ը կարող է որոշել խստացնել «լավ դրսևորած երեխայի» վերաբերյալ դատողությունները՝ փորձելով հնարավորինս քչացնել նվերների առաքման պարտականությունը՝ այդպիսով դրսևորելով մասսայական խտրականություն և ոտնահարելով մարդու իրավունքները։
Իհարկե, այժմ այս ամենը կարող է ծիծաղելի և անհեթեթ թվալ, սակայն SantaNet-ի գաղափարը օգնում է բացահայտելու և ավելի իրատեսական դարձնելու AGI համակարգերի ռիսկերը։ Անհրաժեշտ է գտնել AGI համակարգերի նկատմամբ վերահսկողության հուսալի մեթոդներ, մշակել կանոններ և հստակ սահմանափակումներ՝ այդ թվում բարոյական։
Այս մասին առավել մանրամասն Sciencealert կայքում։
