Ամեն շաբաթ տեխնոլոգիական հսկաները ներկայացնում են նոր գործիքներ, որոնք կոչված են մեր կյանքն հեշտացնելու։ Բայց մինչ Սիլիկոնյան հովտում տոնում են հերթական «բեկումնային» ձեռքբերումները, իրավապաշտպաններն ու իրավաբանները տագնապ են հնչեցնում։ Սյուժեները, որոնք ընդամենը տասը տարի առաջ չարախինդ կատակերգություն էին թվում, աննկատելիորեն դարձել են մեր կյանքի մի մասը՝ դառնալով ավելին, քան պարզապես մարդկանց առօրյան հեշտացնող միջոց։
Անմեղության կանխավարկածի մահը. ԱԲ-դատավորներ և կանխատեսող ոստիկանություն
Այն գաղափարը, թե հանցագործությունը կարելի է կանխատեսել նախքան դրա կատարվելը, երկար ժամանակ մնում էր Ֆիլիպ Դիկի «Հատուկ կարծիք» (Minority Report) ֆանտաստիկ թրիլլերի այցեքարտը։ Այսօր այդ հայեցակարգը ողջ աշխարհում դատական համակարգերի և իրավապահ մարմինների ամենօրյա պրակտիկա է։
Ամենաաղմկահարույց և վախեցնող նախադեպերից մեկը դարձավ ԱՄՆ-ում COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) ալգորիթմի ներդրումը։ Այս համակարգը գնահատում է ամբաստանյալի կողմից կրկնակի հանցագործություն կատարու հավանականությունը, և դատարանին տրամադրում է ռիսկի մաթեմատիկական միավոր։ Այս ցուցանիշի վրա հիմնվելով՝ դատավորները որոշում են կայացնում, օրինակ՝ կապանման միջոցը ընտրելու հարցում։
Ալգորիթմները խոստանում էին դատական համակարգն ազատել մարդկային գործոնից՝ հոգնածությունից, անձնական համակրանքներից և կանխակալությունից։ Իրականում դրանք ընդամենը թվայնացրին և օրինականացրին մարդկային վատթարագույն արատները։
ProPublica անկախ լրագրողական խմբի «Machine Bias» խորագրով ծավալուն հետաքննությունը բացահայտեց համակարգային աղետ՝ ըստ ստացած տվյալների՝ արհեստական բանականությունը ռասիստ է: Ուսումնասիրելով ավելի քան 7000 մարդու պրոֆիլ՝ լրագրողներն ապացուցեցին, որ COMPAS-ի բանաձևն անհիմն կերպով ուռճացնում էր սևամորթ քաղաքացիների ռեցիդիվի ռիսկը և նվազեցնում այն սպիտակամորթների համար։ Համակարգը պարզապես հիմնվում էր անցյալ տարիների ձերբակալությունների պատմական վիճակագրության վրա՝ ժառանգելով համակարգային սխալներըև խտրականությունը։
Սրան զուգահեռ, խոշոր մեգապոլիսների ոստիկանությունն ակտիվորեն ներդնում է կանխատեսող պարեկության համակարգեր, ինչպիսին է Geolitica-ն: Ալգորիթմը քարտեզի վրա նշում է այն տարաշքները, ուր, ըստ նրա, մեծ է բռնության բռնկման հավանականությունը, և այնտեղ է ուղարկում ուժեղացված ջոկատներ։
Amnesty International միջազգային իրավապաշտպան կազմակերպության «Automated Apartheid» ծավալուն վերլուծական զեկույցում մանրամասն նկարագրվում է, թե ինչպես են նման տեխնոլոգիաներն ամբողջական բնակելի թաղամասեր վերածում թվային գետոների։ «Կանխատեսված» կետերում ոստիկանության մշտական ներկայությունն անխուսափելիորեն հանգեցնում է հենց այդտեղ ստուգումների և ձերբակալությունների թվի աճին, ինչն իր հերթին ալգորիթմը սնում է նոր տվյալներով։ Ստացվում է փակ շղթա. ԱԲ-ն ոստիկանությանն ուղարկում է այնտեղ, որտեղ շատ ձերբակալություններ կան, իսկ ոստիկանությունն այնտեղ շատ ձերբակալություններ է անում, որովհետև նրան այնտեղ է ուղարկել ԱԲ-ն։
Մեքենաների ապստամբությունը՝ ինքնավար զենք
Ռազմական ռոբոտների սպառնալիքը քննարկելիս սովորաբար մարդիկ պատկերացնում են մարդակերպ տերմինատորների։ Իրականությունը շատ ավելի արձակ է. սովորական կվադրոկոպտերը, որը կարելի է գնել էլեկտրոնիկայի խանութից, օբյեկտների ճանաչման նեյրոնային ցանցով հագեցվելուց հետո վերածվում է կատարյալ ինքնավար մարդասպանի։
2021 թվականի մարտին ՄԱԿ-ը հրապարակեց պատմական մի փաստաթուղթ։ Լիբիայի վերաբերյալ ՄԱԿ-ի Անվտանգության խորհրդի պաշտոնական զեկույցում արձանագրվել է մարդկության պատմության մեջ առաջին դեպքը, երբ ռազմական դրոնը լիովին ինքնավար ռեժիմով՝ առանց օպերատորի հրամանի, հետապնդել և հարձակվել է մարդու վրա։ Խոսքը թուրքական Asisguard Kargu-2 անօդաչու թռչող սարքի մասին էր։ Ըստ զեկույցի տեքստի. «Լոգիստիկ շարասյուները և նահանջող ուժերը ենթարկվել են հեռակա հետապնդման անօդաչու մարտական թռչող սարքերի կողմից… որոնք ծրագրավորված էին հարձակվելու թիրախների վրա՝ առանց օպերատորի և տակտիկական միջոցի միջև տվյալների փոխանցման անհրաժեշտության»։
Այս միջադեպը նշանավորեց մեծ տեղաշարժ պատերազմների պատմության մեջ։ Առաջին անգամ մարդուն կյանքից զրկելու որոշումը կայացրեց սիլիցիումի կտորը և ծրագրային կոդը։
Այսօր Stop Killer Robots միջազգային շարժումը, որը միավորում է արհեստական բանականության հարյուրավոր փորձագետների և իրավապաշտպանների, պահանջում է անհապաղ ընդունել ՄԱԿ-ի իրավաբանորեն պարտադիր պայմանագիր՝ ինքնավար զենքերի արգելման վերաբերյալ։ Իրենց հրովարտակում հետազոտողները ընդգծում են. ալգորիթմը չունի էմպաթիա, ընդունակ չէ հանձնվող զինվորին տարբերել մյուսներից և իրավական պատասխանատվություն չի կրում ռազմական հանցագործությունների համար։ Եթե ԱԲ-ն սխալ թույլ տա և ոչնչացնի խաղաղ բնակիչներին, ո՞վ է կրելու պատասխանատվություն՝ ծրագիրը չունի խիղճ, իսկ մշակողներն ունեն իրավական անձեռնմխելիություն։
Գիտնականների շրջանում առանձնակի տագնապ է առաջացնում այն փաստը, որ թիրախին ինքնավար «հարված հասցնելու» տեխնոլոգիաները այժմ զանգվածաբար և բացահայտորեն փորձարկվում են ժամանակակից ռազմական հակամարտություններում։ Այն, ինչ սկսվեց որպես հարկադիր ինժեներական լուծում մարտի դաշտում, արագորեն վերածվում է անվերահսկելի ոչնչացման գլոբալ ինդուստրիայի։
ԱԲ-կլոնների արդյունաբերությունը և սգի աղավաղում
Այսօր «սգո տեխնոլոգիաները» տնտեսության օրինական, շահութաբեր և արագ զարգացող սեգմենտ են։
Ստարտափներն ամբողջ աշխարհում հաճախորդներին առաջարկում են միևնույն ծառայությունը՝ հավաքել մարդու թվային հետքը (նամակագրություններ, ձայնային հաղորդագրություններ, գրառումներ, տեսահոլովակներ) և դրա հիման վրա ստեղծել չաթ-բոտ կամ անիմացիոն ավատար։ Արդյունքում հարազատները հնարավորություն են ստանում «շփվել» իրենց կյանքից հեռացած մտերիմների հետ, ստանալ նրանցից պատասխաններ՝ նրանց սինթեզված ձայնի միջոցով։
Այս ուղղության առաջնեկներից մեկը դարձավ ամերիկյան StoryFile ընկերությունը, որը ստեղծեց ինտերակտիվ ԱԲ հարթակ՝ թույլ տալով մարդկանց խոսել սեփական թաղման ժամանակ։ Բրիտանական The Telegraph պարբերականի «Կինը խոսում է հյուրերի հետ սեփական թաղմանը՝ շնորհիվ ԱԲ-ի» վերտառությամբ նյութում նկարագրվում է իրական նախադեպ. 2022 թվականին հանգուցյալ Մարինա Սմիթը «ներկա է գտնվել» իր հոգեհանգստին հոլոգրամի տեսքով, պատասխանել հյուրերի հարցերին և կիսվել ալգորիթմի միջոցով վերականգնված հիշողություններով։
Այլ ծառայություններ, ինչպիսիք են HereAfter AI-ը կամ Seance AI-ը, ավելի առաջ գնացին՝ առաջարկելով այդպիսի շփումը դարձնել կանոնավոր՝ մեսենջերներում ամենօրյա չաթերի ձևաչափով։
Սակայն «հավերժ հիշատակի» գեղեցիկ ցուցանակի հետևում թաքնված են հոգեբանական և էթիկական ծանրագույն խնդիրներ, որոնց մասին ավելի ու ավելի հաճախ է զգուշացնում գիտական հանրությունը։ «Ռեալ մարդուն նրա թվային պատճենով փոխարինելը խանգարում է վշտի հաղթահարման բնական գործընթացին։ Կորստի ցավն ապրելու և առաջ շարժվելու փոխարեն, մարդը խրվում է պատրանքի մեջ, թե իր հարազատը դեռ այստեղ է», — պնդում են թվային մահվան ֆենոմենի հետազոտողները։
MIT Technology Review ամսագրի «Տեխնոլոգիան, որը թույլ է տալիս մեզ խոսել մեր մահացած հարազատների հետ, արդեն այստեղ է» ծավալուն հետաքննության մեջ մանրամասն վերլուծվում է, թե ինչպես են նման տեխնոլոգիաներն ազդում մարդու հոգեկան առողջության վրա։ Փորձագետներն ընդգծում են. ԱԲ-ն չունի գիտակցություն, այն միայն սիմուլյացիայի է ենթարկում վարքագծի մոդելները հին տվյալների հիման վրա։ Երբ ալգորիթմը սկսում է փաստացի սխալներ կամ հանգուցյալին ոչ բնորոշ արտահայտություններ հրամցնել, դա կրկնակի, էլ ավելի խորը հոգեկան հուղումներ է հասցնում հանգուցյալի սգացող մտերիմներին։
Երկրորդ, ոչ պակաս կարևոր մասը իրավականն է։ Ո՞ւմ են պատկանում մարդու անհատականության թվային իրավունքները նրա մահից հետո։ Արդյո՞ք հարազատներն իրավունք ունեն հանգուցյալի անձնական նամակագրությունները և ձայնային հաղորդագրությունները ներբեռնել մասնավոր ընկերությունների տվյալների բազաներ՝ առանց նրա կենդանության օրոք տրված համաձայնության։ Այս հարցերին ժամանակակից իրավունքը դեռևս պատասխաններ չունի, ինչը նշանակում է, որ «թվային համաձայնության» հայեցակարգը մնում է լիովին գորշ գոտում։
Դիզայներական երեխաներ. գենետիկական կոդը որպես անհավասարության նոր արժույթ
«Գատակա» ֆանտաստիկ ֆիլմի սյուժեն մեր առջև պատկերում էր ապագայի մի հասարակություն՝ բաժանված երկու դասի՝ «պիտանիներ» (մարդիկ, ում ԴՆԹ-ն բարելավվել էր լաբորատորիաներում նախքան ծնվելը) և «անպիտաններ» (նրանք, ովքեր ծնվել էին բնական ճանապարհով)։ 2018 թվականին այս ֆանտաստիկ սցենարը դարձավ բժշկական տարեգրության պաշտոնական մասը։
Չինացի գիտնական Հե Ցզյանկույը ցնցեց համաշխարհային գիտական հանրությունը, երբ MIT Technology Review ամսագրի «Բացառիկ. չինացի գիտնականները ստեղծում են CRISPR երեխաներ» նյութում բացահայտվեց պատմության մեջ առաջին գենետիկորեն ձևափոխված մարդկանց՝ Լուլու և Նանա երկվորյակների լույս աշխարհ գալը։ Գիտնականն օգտագործել էր CRISPR/Cas9 գենետիկական մկրատների տեխնոլոգիան, որպեսզի նրանց ԴՆԹ-ից հեռացնի CCR5 գենը՝ աղջիկներին անընկալունակ դարձնելով ՄԻԱՎ-ի նկատմամբ։
Մոլորակի արձագանքը չուշացավ։ Հե Ցզյանկույի փորձը անվանեցին «խենթ, վաղաժամ և խորապես անէթիկական»։ Գիտնականը խախտել էր միջազգային կոնսենսուսը, որն արգելում է մարդու սաղմնային գծի խմբագրումը, և արդյունքում չինական դատարանի կողմից դատապարտվեց երեք տարվա ազատազրկման։ Սակայն Պանդորայի արկղը բացված էր. մարդկությունն ապացուցեց, որ ընդունակ է վերագրել սեփական կենսաբանական կոդը։
Այսօր, մինչ Հե Ցզյանկույը ազատ արձակվելուց հետո փորձում է վերադառնալ գիտություն, վերարտադրողական բժշկությունը հսկայական քայլ է կատարել առաջ՝ հավասարակշռելով հիվանդությունների բուժման և եվգենիկայի սահմանագծին։ ԱՄՆ-ում և մի շարք այլ երկրներում ԷԿՈ-կենտրոնները օրինական կերպով առաջարկում են նախապատվաստումային գենետիկական սկրինինգի ծառայությունը։ Դրա օգնությամբ ծնողները կարող են ոչ միայն զտել ծանր ժառանգական հիվանդությունները, այլև ընտրել երեխայի սեռը։
Ավելին, Orchid Health-ի նման ստարտափներն արդեն ծնողներին առաջարկում են սաղմի ամբողջ գենոմի սեկվենավորում՝ պոլիգենային ռիսկերը գնահատելու համար։ Ալգորիթմները հաշվարկում են ապագա երեխայի մոտ շիզոֆրենիայի, դիաբետի, ճարպակալման կամ սիրտ-անոթային հիվանդությունների զարգացման հավանականությունը։ Իր պաշտոնական հայտարարության մեջ ԱՀԿ կոչ է արել խիստ գլոբալ վերահսկողություն սահմանել գենոմի խմբագրման տեխնոլոգիաների նկատմամբ՝ ընդգծելով, որ այս գործիքների անվերահսկելի օգտագործումը կարող է հանգեցնել նախկինում չտեսնված բիոսոցիալական շերտավորման։
Ընտրություն, որը մենք չունենք
«Սև հայելին» մեզ վախեցնում էր ոչ թե նրանով, որ տեխնոլոգիաներն ինքնին վատն են, այլ նրանով, թե որքան հեշտությամբ է մարդկությունը կապիտուլյացվում դրանց առջև։ Մենք կամավոր կերպով ալգորիթմներին ենք հանձնում որոշելու իրավունքը՝ ով է մեղավոր, և ով՝ ոչ։ Մենք կոդի կտորին ենք փոխանցում ոչնչացման նպատակով կրակ բացելու իրավունքը։ Մենք համաձայնում ենք թվային սուրոգատներին՝ իրական կորստի ցավն ապրելու փոխարեն։ Եվ մենք արդեն պատրաստ ենք վերագրել Homo Sapiens տեսակի կենսաբանական կոդը՝ հանուն անվտանգության պատրանքի։ Եվ ամենասարսափելին այն է, որ այս էվոլյուցիան կարող է հետդարձի ճանապարհ չունենալ։
Սյուզի Արիստակեսյան