Оквир за процену дигиталних и сродних технологија које се брзо развијају: вештачка интелигенција, велики језички модели и даље

• Увод 
• позадина 
• Развој аналитичког оквира 
• Коришћењем аналитичког оквира 
• Димензије које треба узети у обзир приликом процене нове технологије 
• Пут напред 
• Признања

Технологије које се брзо појављују представљају изазовна питања када је у питању њихово управљање и потенцијална регулација. Политика и јавне дебате о вештачкој интелигенцији (АИ) и њеној употреби довеле су ова питања у акутан фокус. Док су Унеско, ОЕЦД и други прогласили широке принципе за вештачку интелигенцију, и док су у почетку расправе о глобалној или јурисдикционој регулацији технологије, постоји онтолошки јаз између развоја принципа на високом нивоу и њиховог укључивања у регулативу, политику, приступе управљања и управљања. Ту би посебну улогу могла имати невладина научна заједница. 

Један број академика и стручњака за политику је предложио да Међународни научни савет (ИСЦ) – са својим плуралистичким чланством из друштвених и природних наука – успостави процес за израду и одржавање оквира/контролне листе ризика, користи, претње и могућности повезане са дигиталним технологијама које се брзо крећу, укључујући – али не ограничавајући се на – вештачку интелигенцију. Сврха контролне листе би била да информише све заинтересоване стране – укључујући владе, трговинске преговараче, регулаторе, цивилно друштво и индустрију – о потенцијалним будућим сценаријима, и уоквири начин на који би могли да размотре могућности, користи, ризике и друга питања. 

Резултати не би деловали као тело за процену, већ као прилагодљиви аналитички оквир који се развија који би могао да подупре све процене и регулаторне процесе које би могле да развију заинтересоване стране, укључујући владе и мултилатерални систем. Било који аналитички оквир би идеално требало да буде развијен независно од тврдњи владе и индустрије, с обзиром на њихове разумљиве интересе. Такође мора бити максимално плуралистички у својим перспективама, обухватајући тако све аспекте технологије и њене импликације. 

Овај документ за дискусију даје нацрт почетног оквира за информисање вишеструких глобалних и националних дискусија које се воде у вези са АИ. 

Брза појава технологије са сложеношћу и импликацијама вештачке интелигенције покреће многе тврдње о великим предностима. Међутим, то изазива и страх од значајних ризика, од индивидуалног до геостратешког нивоа. Велики део дискусије се одвија на крајњим крајевима спектра гледишта и потребан је прагматичнији приступ. Технологија вештачке интелигенције ће наставити да се развија и историја показује да практично свака технологија има и корисну и штетну употребу. Стога се поставља питање: како можемо постићи корисне резултате од ове технологије, а да истовремено смањимо ризик од штетних последица, од којих би неке могле бити егзистенцијалне? 

Будућност је увек неизвесна, али постоји довољно кредибилних и стручних гласова у вези са вештачком интелигенцијом и генеративном вештачком интелигенцијом да се подстакне релативно опрезан приступ. Поред тога, потребан је системски приступ, јер је АИ класа технологија са широком употребом и применом од стране више типова корисника. То значи да се пуни контекст мора узети у обзир када се разматрају импликације АИ на појединце, друштвени живот, грађански живот, друштвени живот иу глобалном контексту. 

За разлику од већине претходних технологија, дигиталне и сродне технологије имају веома кратак временски период од развоја до објављивања, углавном вођен интересима продукцијских компанија или агенција. АИ се брзо шири; нека својства могу постати очигледна тек након објављивања, а технологија би могла имати и злонамерне и добронамерне примене. Важне димензије вредности ће утицати на то како се перципира било која употреба. Штавише, могу постојати геостратешки интереси у игри. 

До данас се регулација виртуелне технологије углавном посматрала кроз сочиво „принципа“ и добровољног поштовања. У скорије време, међутим, дискусија се окренула питањима националног и мултилатералног управљања, укључујући употребу регулаторних и других инструмената политике. Тврдње за или против вештачке интелигенције често су хиперболичне и – с обзиром на природу технологије – тешко их је проценити. Успостављање ефикасног глобалног или националног система регулације технологије биће изазовно, а биће потребно више слојева доношења одлука заснованих на ризику дуж ланца, од проналазача до произвођача, преко корисника, владе и мултилатералног система. 

Док су УНЕСКО, ОЕЦД и Европска комисија прогласили принципе на високом нивоу, између осталих, а различите дискусије на високом нивоу су у току у вези са питањима потенцијалне регулативе, постоји велики онтолошки јаз између таквих принципа и оквира управљања или регулаторног оквира. Која је таксономија разматрања која би регулатор могао да размотри? Уско фокусирано кадрирање не би било мудро, с обзиром на широке импликације ових технологија. Овај потенцијал је био предмет многих коментара, како позитивних тако и негативних.

ИСЦ је примарна глобална невладина организација која интегрише природне и друштвене науке. Његов глобални и дисциплински домет значи да је у доброј позицији да генерише независне и глобално релевантне савете за информисање о сложеним изборима који су пред нама, посебно пошто тренутни гласови у овој арени углавном долазе из индустрије или великих технолошких сила. Након опсежне дискусије током последњих месеци, укључујући разматрање невладиног процеса процене, ИСЦ је закључио да би његов најкориснији допринос био стварање и одржавање адаптивног аналитичког оквира који се може користити као основа за дискурс и доношење одлука од стране све заинтересоване стране, укључујући и током било ког формалног процеса процене који се појави. 

Овај оквир би имао облик свеобухватне контролне листе коју би могле користити и владине и невладине институције. Оквир идентификује и истражује потенцијал технологије као што је вештачка интелигенција и њени деривати кроз широку сочиву која обухвата људско и друштвено благостање, као и спољне факторе, као што су економија, политика, животна средина и безбедност. Неки аспекти контролне листе могу бити релевантнији од других, у зависности од контекста, али боље одлуке су вероватније ако се узму у обзир сви домени. Ово је инхерентна вредност приступа контролне листе. 

Предложени оквир је изведен из претходног рада и размишљања, укључујући извештај о дигиталном благостању Међународне мреже за владине научне савете (ИНГСА)¹ и Оквир за класификацију АИ ОЕЦД-а² представити све потенцијалне могућности, ризике и утицаје вештачке интелигенције. Ови претходни производи су били ограниченији у својој намери с обзиром на њихово време и контекст, постоји потреба за свеобухватним оквиром који представља читав низ питања, како краткорочно тако и дугорочно. 

Иако је развијен за разматрање АИ, овај аналитички оквир би се могао применити на било коју технологију која се брзо појављује. Питања су углавном груписана у следеће категорије за даље испитивање: 

• Благостање (укључујући и појединца или себе, друштво и друштвени живот и грађански живот) 
• Трговина и привреда 
• еколошки 
• Геостратешки и геополитички 
• Технолошки (карактеристике система, дизајн и употреба) 

Списак разматрања за сваку од горе наведених категорија је укључен заједно са њиховим одговарајућим могућностима и последицама. Неки су релевантни за специфичне случајеве или апликације АИ, док су други генерички и агностички за платформу или употребу. Ниједно једно разматрање укључено овде не треба да се третира као приоритет и, као такво, све треба испитати. 

Овај оквир би се могао користити на, али не ограничавајући се на, следеће начине: 

• Премостити јаз између принципа и процене успостављањем валидиране заједничке таксономије низа разматрања које би релевантне заинтересоване стране могле да користе као основу за информисање и обликовање даљег размишљања, укључујући било који оквир за процену који би могли да развију власти. 

• Информисати о процени утицаја. Закон о вештачкој интелигенцији ЕУ захтева од организација које обезбеђују АИ алате или усвајају вештачку интелигенцију у својим процесима да предузму процену утицаја како би идентификовале ризик својих иницијатива и примениле одговарајући приступ управљању ризиком. Оквир који је овде представљен би се могао користити као основа за ово. 

• Да побољшамо етичке принципе потребне за вођење и управљање употребом АИ. Оквир то може учинити тако што ће обезбедити флексибилну основу на којој се могу развити поуздани системи и обезбедити закониту, етичку, робусну и одговорну употребу технологије. Ови принципи би се могли тестирати у односу на читав низ утицаја представљених у овом оквиру. 
• Олакшати прикупљање постојећих мера (тј. регулаторних, законодавних, политика) и идентификовати све недостатке које треба даље разматрати. 

• Оквир је агностичан према технологији и њеној употреби. Стога би се могао користити у прилично различитим областима као што је синтетичка биологија. 

Следећа табела је рано обликовање димензија аналитичког оквира. У зависности од технологије и њене употребе, неке компоненте ће бити релевантније од других. Примери су дати да илуструју зашто сваки домен може бити важан; у контексту, оквир би захтевао контекстуално релевантно проширење. Такође је важно направити разлику између развоја платформе и генеричких проблема који се могу појавити током специфичних апликација.  

Кључ извори дескриптора

Обичан текст:
Глуцкман, П. и Аллен, К. 2018. Разумевање благостања у контексту брзих дигиталних и повезаних трансформација. ИНГСА. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Задебљани текст:
ОЕЦД. 2022. Оквир ОЕЦД-а за класификацију система вештачке интелигенције. ОЕЦД Дигитал Ецономи Паперс, Но. 323, ОЕЦД Публисхинг, Париз. https://oecd.ai/en/classification 

Курзив текст:
Нови дескриптори (из више извора) 

У зависности од одговора на овај документ за дискусију, ИСЦ би формирао стручну радну групу која би даље развијала или изменила горњи аналитички оквир помоћу којег би заинтересоване стране могле свеобухватно да сагледају било који значајан развој било платформи или димензија коришћења. Радна група би била дисциплинарно, географски и демографски разнолика, са стручношћу која се протеже од процене технологије до јавних политика, од људског развоја до социологије и студија будућности и технологије. 

Да бисте се укључили у овај документ за дискусију, посетите савет.сциенце/публицатионс/фрамеворк-дигитал-тецхнологиес 

Много људи је консултовано у изради овог документа, који је саставио Sir Peter Gluckman, председник, ISC и Хема Сридхар, бивша главна научница, Министарство одбране, а сада виши истраживач, Универзитет у Окланду, Нови Зеланд. 

Посебно захваљујемо Лорду Мартину Рису, бившем председнику Краљевског друштва и суоснивачу Центра за проучавање егзистенцијалних ризика Универзитета у Кембриџу; Професор Схиваји Сондхи, професор физике, Универзитет у Оксфорду; Професор К Вијаи Рагхаван, бивши главни научни саветник Владе Индије; Амандееп Сингх Гилл, изасланик генералног секретара УН за технологију; Др Сеан Ох Еигеартаигх, извршни директор, Центар за проучавање егзистенцијалних ризика, Универзитет у Кембриџу; Аманда-Јуне Бравнер, виши саветник за политику и Иан Виггинс, директор за међународне послове, Краљевско друштво УК; Др Јероме Дуберри, Др Марие-Лауре Саллес, директор, Женевски постдипломски институт; г-дин Цхор Пхарн Лее, Центар за стратешку будућност, Канцеларија премијера, Сингапур; Баренд Монс и др Симон Ходсон, Комитет за податке (ЦоДАТА); Проф. Иуко Хараиама, Јапан; Професор Реми Куирион, председник, ИНГСА; Др Цлаире Цраиг, Универзитет у Оксфорду и бивши шеф предвиђања, Владина канцеларија за науку; и професор Јосхуа Бенгио, Научни саветодавни одбор генералног секретара УН и на Универзитету у Монтреалу. Приступ контролне листе је генерално прихваћен и наглашена је благовременост било које акције ИСЦ-а.