Արհեստական բանականության ամենահզոր համակարգերի զարգացումը կարող է այնպիսի արագություն ստանալ, որ դրանց անվտանգության մեխանիզմները չհասցնեն համընթաց զարգանալ։ ՀՀ նախկին արդարադատության նախարար Արփինե Հովհաննիսյանն անդրադարձել է այս խնդրին՝ ներկայացնելով ԱԲ-ի զարգացման անվտանգության, պետական կարգավորման և հնարավոր իրավական պատասխանատվության հետ կապված հարցերը։
Արփինե Հովհաննիսյանը նշել է, որ Anthropic-ի ղեկավար Դարիո Ամոդեյը սեպտեմբերի 12-ին հրապարակած էսսեում առաջարկել է դանդաղեցնել ամենահզոր համակարգերի կարողությունների զարգացման տեմպը, որպեսզի անվտանգության մեխանիզմները հասցնեն դրանց հետևից։ Այս առաջարկին հրապարակայնորեն աջակցել են նաև Սեմ Ալթմանը և Իլոն Մասկը։
Ըստ Հովհաննիսյանի՝ խոսքը առօրյայում օգտագործվող արհեստական բանականության համակարգերը կանգնեցնելու կամ դրանցից հրաժարվելու մասին չէ։ Խնդիրը նոր սերնդի ամենահզոր համակարգերն են, որոնց հնարավորություններն արդեն զգալիորեն գերազանցում են սովորական հարցուպատասխանի շրջանակը։ Որպես օրինակ նա նշում է Mythos 5-ը, որը թողարկումից հետո հասանելի է եղել միայն ստուգված գործընկերներին, իսկ հունիսին ԱՄՆ Առևտրի նախարարության արտահանման վերահսկողության հրահանգով շուրջ երեք շաբաթով անջատվել է։
Հովհաննիսյանը նաև անդրադարձել է Anthropic-ի հրապարակած տվյալներին։ Ընկերությունը ավելի քան 141 հազար փորձարկումների վերանայման արդյունքում հայտնաբերել է երեք դեպք, երբ իր առաջադեմ մոդելները դուրս են եկել նախատեսված փորձնական միջավայրից և չարտոնված մուտք են գործել երեք կազմակերպությունների իրական համակարգեր։
Նրա ներկայացմամբ՝ առաջարկներից մեկն այն է, որ ԱԲ ընկերություններից անկախ փորձագետները որոշակի պայմաններով կարողանան մուտք ունենալ ամենահզոր համակարգեր՝ դրանց աշխատանքը ներսից ուսումնասիրելու, վտանգավոր հնարավորությունները փորձարկելու, անվտանգության մեխանիզմները գնահատելու և արդեն տեղի ունեցած միջադեպերն ուսումնասիրելու համար։
Այս ամենի ֆոնին առաջանում է նաև պետության կարգավորման սահմանների հարցը։
ԱՄՆ-ն ու ԵՄ-ն տարբեր մոտեցումներ են ընտրել
Հովհաննիսյանը նշում է, որ ԱՄՆ գործող վարչակազմը վարում է արհեստական բանականության զարգացումը խթանող քաղաքականություն և ավելի զգուշավոր է այն սահմանափակումների նկատմամբ, որոնք կարող են դանդաղեցնել ամերիկյան ընկերություններին։ Դրա պատճառներից մեկը Չինաստանից հետ չմնալու ռազմավարական խնդիրն է։
Եվրամիությունն արդեն ընտրել է ավելի խիստ մոտեցում։ 2024 թվականին ընդունված ԵՄ Արհեստական բանականության ակտը հիմնված է ռիսկերի տարբերակման վրա․ որքան բարձր է ԱԲ կիրառման վտանգը, այնքան ավելի խիստ են պահանջները։
ԵՄ տարածքում որոշ կիրառություններ արգելված են։ Դրանց թվում են մարդկանց սոցիալական գնահատման՝ social scoring-ի որոշ համակարգեր, ինչպես նաև որոշ բացառություններով աշխատավայրում կամ ուսումնական հաստատություններում մարդկանց հույզերը ճանաչող ԱԲ-ի կիրառումը։
Միաժամանակ, 2026 թվականի հուլիսին բարձր ռիսկի համակարգերի պահանջների կիրառումը հետաձգվել է մինչև 2027 թվականի դեկտեմբեր, մինչդեռ թափանցիկության պահանջներն արդեն գործում են։ Այսինքն՝ խստությունը պահպանվել է, սակայն որոշ ժամկետներ տեղափոխվել են։
ԱԲ-ի զարգացումը կարող է բերել միլիարդավոր դոլարների հայցերի
Արհեստական բանականության համակարգերի արագ զարգացումն ու դրանց հնարավոր պատճառած վնասները ստեղծում են նաև իրավական լուրջ ռիսկեր՝ ահռելի ծավալների դատական հայցերի և հնարավոր միլիարդավոր դոլարների հատուցումների տեսքով։
Հովհաննիսյանը նշում է, որ Թրամփի վարչակազմի ԱԲ քաղաքականության առանցքային դեմքերից Դևիդ Սաքսը ևս բարձրացրել է ԱԲ ընկերությունների համար մեծածավալ դատական պատասխանատվության վտանգը, հատկապես այն դեպքերում, երբ համակարգի աշխատանքի ընթացքում ինչ-որ բան սխալ է ընթանում։
Այս համատեքստում նախկին նախարարը առանձնացնում է երեք դատական գործ, որոնցում տրվող պատասխանները, իր գնահատմամբ, կարևոր նշանակություն են ունենալու ամբողջ ոլորտի հետագա զարգացման համար։
Առաջինը The New York Times v. OpenAI and Microsoft գործն է, որը սկսվել է 2023 թվականին։ Հեղինակային իրավունքի վեճից ծագած գործի շրջանակում բարձրացվել են ավելի լայն հարցեր՝ կարելի՞ է հեղինակային իրավունքով պաշտպանված միլիոնավոր նյութերն օգտագործել ԱԲ-ն վարժեցնելու համար, ո՞ր դեպքում է դա օրինական, ի՞նչ է տեղի ունենում, երբ համակարգն իր պատասխանում վերարտադրում է պաշտպանված նյութը, և ով է պատասխանատու՝ համակարգը ստեղծած ընկերությո՞ւնը, օգտատե՞րը, թե՞ երկուսն էլ։
Երկրորդը Եվրոպայում քննվող Like Company v. Google Ireland գործն է՝ Google Gemini-ի վերաբերյալ։ C-250/25 գործը Եվրամիության դատարանի առջև գեներատիվ արհեստական բանականության և հեղինակային իրավունքի վերաբերյալ առաջին գործն է։ Այստեղ ևս քննարկվում է պաշտպանված նյութերի օգտագործումը համակարգը վարժեցնելու համար և դրա պատասխանում դրանց հնարավոր վերարտադրության հետևանքով առաջացող պատասխանատվությունը։ Կարևոր նշանակություն ունեն նաև մամուլի հրատարակիչների հարակից իրավունքը և մեծածավալ տեքստերի համակարգչային վերլուծության վերաբերյալ ԵՄ կարգավորումը։ Առաջին բանավոր լսումը կայացել է 2026 թվականի մարտին, իսկ գործը դեռ քննվում է։
Երրորդ գործն արդեն ավարտվել է հաշտության համաձայնությամբ։ Bartz v. Anthropic PBC գործով Anthropic-ը՝ Claude համակարգի մշակողը, համաձայնել է 1.5 միլիարդ դոլար վճարել հեղինակների խմբային հայցը կարգավորելու համար՝ շուրջ 482 հազար ստեղծագործության մասով։
Միևնույն ժամանակ, դատարանը գտել էր, որ օրինական ձեռք բերված գրքերով մոդել վարժեցնելն ինքնին fair use է։ Վեճը վերաբերում էր ծովահենային՝ անօրինական ճանապարհով ներբեռնված և ընկերության գրադարանում պահվող միլիոնավոր օրինակներին։ Համաձայնությունը վերջնականապես հաստատվել է 2026 թվականի հուլիսին։
Հովհաննիսյանի գնահատմամբ՝ երբ խոսվում է արհեստական բանականության անվտանգության մասին, հարցը ոչ միստիկայի, ոչ էլ տեխնոլոգիան կանգնեցնելու մասին է։ Ինչպես ցանկացած հզոր տեխնոլոգիայի դեպքում, այստեղ ևս ռիսկերը պետք է ժամանակին հասցեագրվեն՝ առանց դրանք անտեսելու կամ դրամատիզացնելու։
Վերջնական հարցերը, նրա ձևակերպմամբ, շատ կոնկրետ են՝ ինչ կարող է անել համակարգը, ով է դա ստուգում, ինչ անվտանգության մեխանիզմներ կան, որտեղ է սահմանը դրվում և ով է պատասխանատվություն կրելու, երբ այդ սահմանը խախտվի ու վնաս պատճառվի։