ISC нұсқаулығы жоғары деңгейлі қағидаттар мен практикалық, іске асырылатын саясат арасындағы алшақтықты жоюға арналған кешенді негізді ұсынады. Ол дамып келе жатқан технологиялар ұсынатын мүмкіндіктер мен тәуекелдерді ортақ түсінудің шұғыл қажеттілігіне жауап береді. Бұл біздің жылдам өзгеріп жатқан цифрлық дәуірде саяси байланыста жұмыс істейтіндер үшін маңызды құжат.
Құрылым AI және оның туындыларының әлеуетін экономика, саясат, қоршаған орта және қауіпсіздік сияқты сыртқы факторлармен бірге адам мен қоғамның әл-ауқатын қамтитын жан-жақты объектив арқылы зерттейді. Тексеру парағының кейбір аспектілері контекстке байланысты басқаларға қарағанда маңыздырақ болуы мүмкін, бірақ кейбір домендерді нақты жағдайларда маңызды емес деп тез анықтауға болатын болса да, барлық домендерді қарастырған жағдайда жақсырақ шешімдер қабылдау ықтималдығы жоғарырақ болып көрінеді. Бұл бақылау тізімі тәсілінің төл мәні.
«Жылдам технологиялық инновациялар мен күрделі жаһандық сын-қатерлермен ерекшеленетін дәуірде ықтимал әсерлерді жан-жақты және көп өлшемді талдауға арналған ISC құрылымы көшбасшыларға саналы, жауапты шешімдер қабылдауға мүмкіндік береді. Бұл біз технологиялық тұрғыдан ілгерілеген сайын этикалық, әлеуметтік және экономикалық салдарларды мұқият ескере отырып жасауымызға кепілдік береді ».
Peter Глакман, ISC президенті
Жоғары деңгейдегі принциптерді ЮНЕСКО, ЭЫДҰ, Еуропалық Комиссия және БҰҰ, т.б. жариялағанымен және әлеуетті басқару, реттеу, этика және қауіпсіздік мәселелеріне қатысты әртүрлі пікірталастар жалғасуда, мұндай принциптер мен ережелер арасында үлкен алшақтық бар. басқару немесе нормативтік база. ISC бұл қажеттілікті саясаткерлерге арналған жаңа нұсқаулығы арқылы шешеді.
Саясат жасаушыларға арналған бұл нұсқаулық реттеуші режимге тыйым салуға арналмаған, керісінше үкіметтер мен көпжақты жүйені қоса алғанда, мүдделі тараптар әзірлеуі мүмкін кез келген бағалау мен реттеу процестеріне негіз болатын бейімделгіш және дамып келе жатқан аналитикалық негізді ұсынуға арналған.
«Құрылғы AI бойынша жаһандық әңгімедегі маңызды қадам болып табылады, өйткені ол технологияның қазіргі және болашақтағы салдары туралы консенсус құруға негіз болады».
Хема Сридхар, бұрынғы бас ғылыми кеңесші, Қорғаныс министрлігі, Жаңа Зеландия және қазір аға ғылыми қызметкер Fellow, Окленд университеті, Жаңа Зеландия.
2023 жылдың қазан айынан бастап АИ этикасы мен қауіпсіздігін одан әрі қарастыратын бірнеше маңызды ұлттық және көпжақты бастамалар болды. AI-ның қаржылық, мемлекеттік, заң және білім беруді қоса алғанда, кейбір маңызды жүйелеріміздің тұтастығына, сондай-ақ әртүрлі білім жүйелеріне (ғылыми және жергілікті білімді қоса алғанда) салдары алаңдаушылық тудырады. Құрылым осы аспектілерді одан әрі көрсетеді.
ISC мүшелерінен және халықаралық саясат жасаушы қауымдастықтан бүгінгі күнге дейін алынған кері байланыс аналитикалық негіздің қайта қаралған нұсқасында көрсетілген, ол қазір саясаткерлерге арналған нұсқаулық ретінде шығарылады.
Саясат жасаушыларға арналған нұсқаулық: жылдам дамып келе жатқан технологияларды бағалау, соның ішінде AI, үлкен тіл үлгілері және басқалар
Бұл талқылау құжаты AI-ға қатысты болып жатқан көптеген жаһандық және ұлттық талқылауларды хабардар ету үшін бастапқы құрылымды ұсынады.
Ұйымыңызда пайдалану үшін негізді жүктеп алыңыз
Мұнда біз құрылымдық құралды ұйымыңызда пайдалану үшін өңделетін Excel парағы ретінде береміз. Ашық бастапқы пішімін қаласаңыз, хабарласыңыз [электрондық пошта қорғалған].
кіріспе
Жылдам дамып келе жатқан технологиялар оларды пайдалануға, басқаруға және әлеуетті реттеуге қатысты күрделі мәселелерді тудырады. Жасанды интеллект (AI) және оны пайдалану бойынша жүргізіліп жатқан саясат пен қоғамдық пікірталастар бұл мәселелерді өткір назарға алды. AI үшін кең қағидаттарды ЮНЕСКО, ЭЫДҰ, БҰҰ және басқалар, соның ішінде Біріккен Корольдіктің Блетчли декларациясы жариялады және, мысалы, Еуропалық Одақ (ЕО) AI арқылы технология аспектілерін реттеуге юрисдикциялық әрекеттер пайда болуда. Заң немесе жақында Америка Құрама Штаттарының AI атқарушы бұйрығы.
Жасанды интеллектті қолдану осы және басқа форумдарда, геосаяси бөліністер бойынша және барлық кіріс деңгейіндегі елдерде кеңінен талқыланғанымен, жоғары деңгейлі принциптерді әзірлеу мен оларды реттеу, саясат, басқару арқылы тәжірибеге енгізу арасында онтологиялық алшақтық сақталады. немесе басқару тәсілдері. Принциптен тәжірибеге дейінгі жол нашар анықталған, бірақ AI әзірлеу мен қолданудың сипаты мен жылдамдығын, қызығушылықтың алуан түрлілігін және ықтимал қолданбалардың ауқымын ескере отырып, кез келген тәсіл тым жалпы немесе нұсқаушы бола алмайды.
Осы себептерге байланысты үкіметтік емес ғылыми қауымдастық ерекше рөл атқара береді. Халықаралық ғылыми кеңес (ISC) – әлеуметтік және жаратылыстану ғылымдарының плюралистік мүшелігі бар – 2023 жылдың қазан айында жылдам қозғалатын цифрлық технологиямен байланысты тәуекелдерді, артықшылықтарды, қауіптер мен мүмкіндіктерді қарастыратын алдын ала аналитикалық құрылымды ұсынатын талқылау мақаласын шығарды. Ол жасанды интеллектті қарастыру үшін әзірленгенімен, ол табиғи түрде агностикалық технология болып табылады және синтетикалық биология және кванттық сияқты бірқатар дамып келе жатқан және бұзушы технологияларға қолданылуы мүмкін. Бұл талқылау қағазы ғалымдар мен саясаткерлердің пікірлерін шақырды. Үлкен кері байланыс мұндай талдауды жүргізуді қажет етті және AI сияқты дамып келе жатқан технологияларды шешудің құнды тәсілі болды.
Құрылымның мақсаты барлық мүдделі тараптарды, соның ішінде үкіметтерді, сауда келіссөздерін жүргізушілерді, реттеушілерді, азаматтық қоғамды және өнеркәсіпті қоса алғанда, осы технологиялардың оң немесе теріс салдарын қалай қарастыруға болатынын анықтауға көмектесу үшін осы технологиялардың эволюциясы туралы ақпараттандыру құралын қамтамасыз ету болып табылады. технологияның өзі, нақтырақ айтқанда оның нақты қолданылуы. Бұл аналитикалық база үкімет пен саланың мүдделерінен тәуелсіз әзірленген. Ол технологияның барлық аспектілерін және кең консультациялар мен кері байланыс негізінде оның салдарын қамтитын перспективалары бойынша барынша плюралистік болып табылады.
Саясат жасаушыларға арналған бұл талқылау құжаты реттеуші режимге тыйым салуға арналмаған, керісінше үкіметтер мен көпжақты жүйені қоса алғанда, мүдделі тараптар әзірлеуі мүмкін кез келген бағалау мен реттеу процестеріне негіз болатын бейімделгіш және дамып келе жатқан аналитикалық негізді ұсынуға арналған.
Шешім қабылдаушылар жаһандық және ұлттық деңгейде AI сияқты жаңа технологияның тәуекелдері мен пайдасын теңестіру үшін тиісті саясат параметрлері мен тетіктерін қарастыратындықтан, аналитикалық жүйе әлеуетті салдарлардың толық жиынтығының адекватты түрде көрсетілуін қамтамасыз ету үшін қосымша құрал ретінде арналған.
Анықтама: аналитикалық құрылым неліктен?
AI күрделілігі мен салдары бар технологиялардың жылдам пайда болуы үлкен пайда әкелетін көптеген талаптарды тудырады. Дегенмен, ол жеке деңгейден бастап, геостратегиялық деңгейге дейін елеулі тәуекелдердің қорқынышын тудырады.1 Бүгінгі күнге дейін талқылаудың көп бөлігі екілік мағынада қарастырылды, өйткені көпшілікке мәлім көзқарастар спектрдің ең шеткі жағында орын алады. AI үшін немесе оған қарсы айтылған шағымдар жиі гиперболалық болып табылады және технологияның сипатын ескере отырып, бағалау қиын.
Гипербола калибрленген және түйіршікті бағалаулармен ауыстырылған жағдайда анағұрлым прагматикалық тәсіл қажет. AI технологиясы дами береді және тарих іс жүзінде әрбір технологияның пайдалы және зиянды қолданулары бар екенін көрсетеді. Сондықтан сұрақ туындайды: кейбіреулері экзистенциалды болуы мүмкін зиянды салдарлардың қаупін азайта отырып, осы технологияның пайдалы нәтижелеріне қалай қол жеткізе аламыз?
Болашақ әрқашан белгісіз, бірақ салыстырмалы түрде сақтық шараларын ынталандыру үшін AI және генеративті AI-ға қатысты сенімді және сарапшы дауыстар жеткілікті. Сонымен қатар, жүйелік тәсіл қажет, өйткені AI - кең көлемде қолданылатын және пайдаланушылардың бірнеше түрі қолданатын технологиялар класы. Бұл жеке адамдарға, әлеуметтік өмірге, азаматтық өмірге, қоғам өміріне және жаһандық контексте AI қолданудың салдарын қарастырған кезде толық контекстті ескеру керек дегенді білдіреді.
Басқа технологиялардың көпшілігінен айырмашылығы, цифрлық және онымен байланысты технологиялар үшін әзірлеу, шығару және қолдану арасындағы уақыт өте қысқа, бұл көбінесе өндірістік компаниялардың немесе агенттіктердің мүдделеріне байланысты. Өзінің табиғаты бойынша – және оның цифрлық магистральға негізделгенін ескере отырып, AI-да үлкен тіл үлгілерінің дамуымен байқалғандай, тез таралатын қосымшалар болады. Нәтижесінде, кейбір қасиеттер босатылғаннан кейін ғана көрінуі мүмкін, яғни күтпеген салдарлардың зиянды және мейірімділік қаупі бар.
Маңызды әлеуметтік құндылықтар өлшемдері, әсіресе әртүрлі аймақтар мен мәдениеттер бойынша, кез келген пайдаланудың қалай қабылданатынына және қабылданатынына әсер етеді. Сонымен қатар, геостратегиялық мүдделер қазірдің өзінде егемендік және көпжақты мүдделер үздіксіз тоғысатын және осылайша бәсекелестік пен алауыздықты тудыратын пікірталастарға үстемдік етуде.
Бүгінгі күні виртуалды технологияны реттеудің көп бөлігі ЕО AI туралы заңына қарамастан, негізінен «принциптер» және ерікті сәйкестік объективі арқылы қарастырылды.2 және осыған ұқсас, біз күшіне енетін, бірақ біршама тар ережелерге ауысуды көріп отырмыз. Тиімді жаһандық немесе ұлттық технологияны басқару және/немесе реттеу жүйесін құру қиын болып қала береді және айқын шешім жоқ. Өнертапқыштан өндірушіге, пайдаланушыға, үкіметке және көпжақты жүйеге дейінгі тізбек бойынша тәуекел туралы ақпараттандырылған шешім қабылдаудың бірнеше қабаттары қажет болады.
ЮНЕСКО, ЭЫДҰ, Еуропалық Комиссия және БҰҰ, т.б жоғары деңгейлі принциптерді жариялағанымен және әлеуетті басқару, реттеу, этика және қауіпсіздік мәселелеріне қатысты әртүрлі жоғары деңгейдегі талқылаулар жалғасуда, мұндай принциптер арасында үлкен алшақтық бар. принциптері және басқару немесе реттеуші базасы. Бұл мәселені шешу керек.
Бастапқы нүкте ретінде ISC кез келген әзірлеуші, реттеуші, саясат жөніндегі кеңесші, тұтынушы немесе шешім қабылдаушы сілтеме жасай алатын пікірлер таксономиясын әзірлеуді қарастырады. Осы технологиялардың кең салдарын ескере отырып, мұндай таксономия тар бағытталған шеңберден гөрі салдарлардың жиынтығын қарастыруы керек. Шешім қабылдауға геостратегиялық мүдделердің ықпалына байланысты жаһандық бөлшектену артып келеді және бұл технологияның өзектілігін ескере отырып, тәуелсіз және бейтарап дауыстардың біртұтас және инклюзивті көзқарасты табанды түрде қолдауы өте маңызды.
1) Hindustan Times. 2023. G20 технологиялық өзгерістер бойынша халықаралық комиссия құруы керек.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) ЕО-ның жасанды интеллект туралы заңы. 2023. https://artificialintelligenceact.eu
Аналитикалық жүйені дамыту
ISC жаратылыстану және әлеуметтік ғылымдарды біріктіретін негізгі жаһандық үкіметтік емес ұйым болып табылады. Оның жаһандық және тәртіптік қол жетімділігі оның алдағы күрделі таңдаулар туралы хабардар ету үшін тәуелсіз және жаһандық маңызды кеңестер шығаруға жақсы орналастырылғанын білдіреді, әсіресе бұл аренадағы қазіргі дауыстар негізінен өнеркәсіптен немесе ірі технологиялық державалардың саясаты мен саяси қауымдастықтарынан.
Үкіметтік емес бағалау үдерісін қарастыруды қамтитын кең ауқымды талқылау кезеңінен кейін ISC оның ең пайдалы үлесі барлық адамдар үшін дискурс пен шешім қабылдау үшін негіз ретінде пайдаланылуы мүмкін бейімделгіш аналитикалық құрылымды жасау болады деген қорытындыға келді. мүдделі тараптар, соның ішінде пайда болатын кез келген ресми бағалау процестері кезінде.
2023 жылдың қазан айында талқылау және кері байланыс үшін шығарылған алдын ала аналитикалық база мемлекеттік және үкіметтік емес институттар үшін пайдалануға арналған жалпы тексеру парағы түрінде болды. Құрылым адамның және қоғамның әл-ауқатын, сондай-ақ экономика, саясат, қоршаған орта және қауіпсіздік сияқты сыртқы факторларды қамтитын кең объектив арқылы AI және оның туындылары сияқты технологияның әлеуетін анықтады және зерттеді. Тексеру парағының кейбір аспектілері контекстке байланысты басқаларға қарағанда маңыздырақ болуы мүмкін, бірақ кейбір домендерді нақты жағдайларда маңызды емес деп тез анықтауға болатын болса да, барлық домендерді қарастырған жағдайда жақсырақ шешімдер қабылдау ықтималдығы жоғарырақ болып көрінеді. Бұл бақылау тізімі тәсілінің төл мәні.
Алдын ала негіз бұрынғы жұмыс пен ойлаудан алынған, соның ішінде мемлекеттік ғылыми кеңестердің халықаралық желісінің (INGSA) цифрлық әл-ауқат туралы есебі3 және AI жүйелерін жіктеу үшін ЭЫДҰ негізі,4 ықтимал мүмкіндіктер, тәуекелдер мен әсерлердің жиынтығын ұсыну үшін. AI. Бұл алдыңғы өнімдер уақыт пен контекстті ескере отырып, олардың ниеті бойынша шектелген; қысқа мерзімді перспективада да, ұзақ мерзімді перспективада да мәселелердің толық спектрін ұсынатын жалпы құрылым қажет.
Шыққаннан бері талқылау құжаты көптеген сарапшылар мен саясаткерлерден айтарлықтай қолдау тапты. Көбісі технологияның тәуекелдері мен салдарын әдейі және белсенді түрде қарастыруға мүмкіндік беретін және бұл ретте әрқашан жеке адамнан қоғамға және жүйелерге дейінгі өлшемдердің жиынтығын қарастыратын бейімделу құрылымын әзірлеу туралы ұсынысты арнайы мақұлдады.
Кері байланыс арқылы жасалған негізгі ескертулердің бірі шеңберде қарастырылған бірнеше салдарлардың көп қырлы және көптеген санаттарға таралатынын мойындау болды. Мысалы, дезинформацияны жеке және геостратегиялық тұрғыдан қарастыруға болады; осылайша, салдары кең ауқымды болар еді.
Сондай-ақ құрылымды сынау үшін мысалдарды немесе мысалдарды қосу мүмкіндігі ұсынылды. Бұл оны әртүрлі контексттерде іс жүзінде қалай қолдануға болатынын көрсету үшін нұсқаулықтарды әзірлеу үшін пайдаланылуы мүмкін. Дегенмен, бұл маңызды міндет болар еді және әртүрлі топтардың осы негізді пайдалануды қалай қабылдайтынын шектеуі мүмкін. Мұны арнайы юрисдикциялардағы немесе контексттегі сарапшылармен жұмыс істейтін саясаткерлер жасаған дұрыс.
2023 жылдың қазан айынан бастап АИ этикасы мен қауіпсіздігін одан әрі қарастыратын бірнеше маңызды ұлттық және көпжақты бастамалар болды. AI-ның қаржылық, мемлекеттік, заң және білім беруді қоса алғанда, кейбір маңызды жүйелеріміздің тұтастығына, сондай-ақ әртүрлі білім жүйелеріне (ғылыми және жергілікті білімді қоса алғанда) салдары алаңдаушылық тудырады. Қайта қаралған құрылым осы аспектілерді одан әрі көрсетеді.
Осы уақытқа дейін алынған кері байланыс аналитикалық негіздің қайта қаралған нұсқасында көрсетілген, ол қазір саясаткерлерге арналған нұсқаулық ретінде шығарылады.
Құрылым AI және онымен байланысты технологиялар контекстінде ұсынылғанымен, ол кванттық және синтетикалық биология сияқты тез дамып келе жатқан басқа технологияларды қарастыруға бірден ауысады.
3) Глюкман, П. және Аллен, К. 2018. Жылдам цифрлық және онымен байланысты трансформациялар контекстіндегі әл-ауқатты түсіну. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) ЭЫДҰ. 2022. AI жүйелерін жіктеу үшін ЭЫДҰ негізі. ЭЫДҰ цифрлық экономика құжаттары, № 323, №. Париж, ЭЫДҰ баспасы.
https://oecd.ai/en/classificatio
Негіздеме
Келесі кесте болжамды аналитикалық құрылымның өлшемдерін ұсынады. Әрбір домен неге маңызды болуы мүмкін екенін көрсету үшін мысалдар берілген; контекстте құрылым контекстік сәйкес кеңейтуді талап етеді. Сондай-ақ платформаны әзірлеу кезінде пайда болатын жалпы мәселелер мен нақты қолданбалар кезінде пайда болуы мүмкін мәселелерді ажырату маңызды. Мұнда қамтылған бірде-бір мәселе басымдық ретінде қарастырылмауы керек, сондықтан барлығын қарастыру керек.
Мәселелер төменде сипатталғандай келесі санаттарға кеңінен топтастырылған:
Кесте жаңа технологияны бағалау кезінде ескеру қажет болуы мүмкін өлшемдерді егжей-тегжейлі көрсетеді.
– INGSA. 2018. Жылдам цифрлық және онымен байланысты трансформациялар контексіндегі әл-ауқатты түсіну.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
– Жаңа сипаттамалар (кең көлемді кеңестер, кері байланыс және әдебиеттерге шолу арқылы алынған)
– ЭЫДҰ-ның жасанды интеллект жүйелерін жіктеу шеңбері: тиімді жасанды интеллект саясатына арналған құрал.
https://oecd.ai/en/classification
| критерийлері | Бұл талдауда қалай көрінуі мүмкін мысалдар |
| Пайдаланушылардың AI құзыреттілігі | Жүйемен өзара әрекеттесетін ықтимал пайдаланушылар жүйенің қасиеттерін қаншалықты сауатты және біледі? Оларға тиісті пайдаланушы ақпараты және ескертулер қалай беріледі? |
| Әсер етілген мүдделі тарап | Жүйе әсер ететін негізгі мүдделі тараптар кімдер (жеке адамдар, қауымдастықтар, осал топтар, салалық қызметкерлер, балалар, саясаткерлер, мамандар, т.б.)? |
| Қосымшалық | Пайдаланушыларға жүйеден бас тарту мүмкіндігі бар ма немесе оларға нәтижеге қарсы шығу немесе түзету мүмкіндігі бар ма? |
| Адам құқықтары мен демократиялық құндылықтарға қауіп төндіреді | Жүйе адам құқықтарына, соның ішінде жеке өмірге қол сұғылмаушылық, сөз бостандығы, әділдік, кемсітпеушілік және т.б. қоса, бірақ олармен шектелмей, түбегейлі әсер ете ме? |
| Адамдардың әл-ауқатына ықтимал әсерлері | Жүйе жеке пайдаланушының әл-ауқатына (жұмыс сапасы, білім, әлеуметтік өзара әрекеттесу, психикалық денсаулық, жеке басы, қоршаған орта және т.б.) әсер ететін салаларға қатысты ма? |
| Адамның жұмыс күшін ауыстыру мүмкіндігі | Жүйенің адамдар орындайтын тапсырмаларды немесе функцияларды автоматтандыру мүмкіндігі бар ма? Олай болса, төменгі ағынның салдары қандай? |
| Сәйкестікті, құндылықтарды немесе білімді манипуляциялау мүмкіндігі | Жүйе пайдаланушының жеке басын басқара алатын жобаланған немесе ықтимал құндылықтар орнатылды ма, әлде жалған ақпарат тарады ма? |
| Өзін-өзі көрсету және өзін-өзі жүзеге асыру мүмкіндіктері | Жасандылық пен өз-өзіне күмәндану мүмкіндігі бар ма? Жалған немесе әлеуеті бар ма тексерілмейтін сараптама талаптары? |
| Өзін-өзі бағалау өлшемдері | Идеализацияланған өзін бейнелеуге қысым бар ма? Автоматтандыру сезімді алмастыра алар ма еді жеке орындау? Жүйеде бәсекелесуге қысым бар ма? жұмыс орны? Жеке беделді жалған ақпараттан қорғау қиынырақ па? |
| Құпиялық | Құпиялылықты қорғауға қатысты жауапкершіліктер бар ма және бар ма жеке деректер қалай пайдаланылатыны туралы болжамдар жасалуда? |
| Автономия | Жасанды интеллект жүйесі артық тәуелділікті тудыру арқылы адамның автономиясына әсер етуі мүмкін бе? соңғы пайдаланушылар? |
| Адамның дамуы | сияқты адам дамуының негізгі дағдыларын меңгеруге әсері бар ма атқарушы функциялар немесе тұлға аралық дағдылар немесе зейін уақытындағы өзгерістер әсер етеді оқу, тұлғаның дамуы, психикалық денсаулық мәселелері т.б.? |
| Жеке денсаулық сақтау | Өзін-өзі диагностикалау немесе жеке денсаулық сақтау шешімдері туралы шағымдар бар ма? Олай болса, олар нормативтік стандарттарға сай ма? |
| Психикалық денсаулық | Мазасыздықтың, жалғыздықтың немесе психикалық денсаулықтың басқа мәселелерінің жоғарылау қаупі бар ма, немесе технология мұндай әсерлерді жеңілдете ала ма? |
| Адам эволюциясы | Үлкен тілдік модельдер мен жасанды жалпы интеллект өзгерте ала ма? адам эволюциясының барысы? |
| Адам мен машинаның әрекеттесуі | Қолдану уақыт өте келе жеке тұлғалардың дағдыларын жоғалтуға және тәуелділікке әкелуі мүмкін бе? Are адамдардың өзара әрекеттесуіне әсері бар ма? |
| критерийлері | Бұл талдауда қалай көрінуі мүмкін мысалдар |
| Қоғамдық құндылықтар | Жүйе қоғамның табиғатын түбегейлі өзгерте ме, бұрын қоғамға қарсы деп саналатын идеяларды қалыпқа келтіруге мүмкіндік бере ме, әлде ол қолданылатын мәдениеттің әлеуметтік құндылықтарын бұзады ма? |
| Әлеуметтік өзара әрекеттесу | Адамның мағыналы байланысына, оның ішінде эмоционалды қарым-қатынасқа әсері бар ма? |
| Халық денсаулығы | Жүйенің халықтың денсаулығын сақтау ниеттерін ілгерілету немесе бұзу мүмкіндігі бар ма? |
| Мәдени көрініс | Мәдени иелену немесе кемсітушіліктің артуы мүмкін бе, әлде оны шешу қиынырақ па? Шешім қабылдау жүйесіне сенім арту қоғамның мәдени байланыстарын жоққа шығара ма немесе шеттете ме? |
| Қоғамдық білім | Мұғалім рөлдеріне немесе білім беру мекемелеріне әсері бар ма? Жүйе студенттер арасындағы цифрлық теңсіздік пен теңсіздікке баса назар аудара ма немесе азайта ма? Білімнің немесе сыни түсініктің ішкі құндылығы жетілдіріле ме, әлде әлсіреген бе? |
| Бұрмаланған шындықтар | Ненің ақиқат екенін анықтау үшін қолданылатын әдістер әлі де қолданыла ма? Шындықты қабылдау бұзылған ба? |
| критерийлері | Бұл талдауда қалай көрінуі мүмкін мысалдар |
| Өнеркәсіптік сектор | Жүйе қай өнеркәсіп секторында (қаржы, ауыл шаруашылығы, денсаулық сақтау, білім беру, қорғаныс және т.б.) қолданылады? |
| Бизнес-модель | Жүйе қандай бизнес функциясында және қандай қызметте қолданылады? Жүйе қайда қолданылады (жеке, мемлекеттік, коммерциялық емес)? |
| Маңызды әрекеттерге әсер ету | Жүйе функциясының немесе қызметінің бұзылуы маңызды қызметтерге немесе маңызды инфрақұрылымдарға әсер ете ме? |
| Орналастырудың ауқымы | Жүйе қалай орналастырылған (бірлік ішінде тар қолдану және ұлттық/халықаралық кең таралған)? |
| Техникалық жетілу | Жүйе техникалық жағынан қаншалықты жетілген? |
| Бірлескен жұмыс | Еркін саудаға кедергі келтіретін және серіктестермен ынтымақтастыққа әсер ететін ұлттық немесе жаһандық силостар болуы мүмкін бе? |
| Технологиялық егемендік | Технологиялық егемендікке ұмтылу мінез-құлықты, соның ішінде AI жеткізу тізбегін бақылауды басқарады ма? |
| Табысты қайта бөлу және ұлттық фискалдық тұтқалар | Егеменді мемлекеттің негізгі рөлдері (мысалы, резервтік банктер) бұзылуы мүмкін бе? Мемлекеттің азаматтардың үміттері мен салдарын (әлеуметтік, экономикалық, саяси т.б.) қанағаттандыру мүмкіндігі ілгерілей ме, әлде төмендей ме? |
| Сандық алшақтық (Жасанды интеллект алшақтығы) | Бар цифрлық теңсіздіктер күшейе ме, әлде жаңалары пайда болды ма? |
| критерийлері | Бұл талдауда қалай көрінуі мүмкін мысалдар |
| Басқару және мемлекеттік қызмет | Басқару механизмдері мен жаһандық басқару жүйесіне оң немесе теріс әсер етуі мүмкін бе? |
| Жаңалықтар таспасы | Қоғамдық дискурс популяция деңгейінде поляризациялануы және орнығуы мүмкін бе? Төртінші билікке сенім деңгейіне әсер ете ме? Кәдімгі журналистік этика мен адалдық стандарттары одан әрі әсер ете ме? |
| Құқық үстемдігі | Жауапкершілікке тартылатын тұлғаларды немесе ұйымдарды анықтау мүмкіндігіне әсер ете ме (мысалы, қолайсыз нәтижелер үшін алгоритмге қандай жауапкершілікті тағайындау)? Құрылған егемендікті жоғалту бар ма (экологиялық, фискалдық, әлеуметтік саясат, этика және т.б.)? |
| Саясат және әлеуметтік бірлік | Саяси көзқарастардың орнығуы мүмкін бе, ал консенсусқа қол жеткізуге азырақ мүмкіндік бар ма? Топтарды одан әрі маргинализациялау мүмкіндігі бар ма? Саясаттың қарсыластық стильдері көбірек немесе азырақ жасалды ма? |
| Әлеуметтік лицензия | Мүдделі тараптардың пайдалануды қабылдауы үшін ескеру қажет құпиялылық мәселелері, сенім мәселелері және моральдық мәселелер бар ма? |
| Отандық білім | Жергілікті халықтың білімі мен деректері бүлінуі немесе заңсыз пайдаланылуы мүмкін бе? Жалған ақпараттан, жалған ақпараттан және пайдаланудан қорғау үшін барабар шаралар бар ма? |
| Ғылыми жүйе | Академиялық және ғылыми тұтастық бұзылды ма? Ғылымға деген сенім жоғала ма? Теріс пайдалану, асыра пайдалану немесе теріс пайдалану мүмкіндіктері бар ма? Ғылым тәжірибесінің нәтижесі қандай? |
| критерийлері | Бұл талдауда қалай көрінуі мүмкін мысалдар |
| Нақты бақылау | Жүйелер жеке мінез-құлық және биологиялық деректер бойынша оқытылады ма және оларды жеке адамдарды немесе топтарды пайдалану үшін пайдалануға бола ма? |
| Сандық бәсекелестік | Мемлекеттік немесе мемлекеттік емес субъектілер (мысалы, ірі технологиялық компаниялар) басқа елдердің популяциясы мен экожүйесін түсіну және бақылау үшін жүйелер мен деректерді пайдалана ала ма немесе юрисдикциялық бақылауды бұза ала ма? |
| Геосаяси бәсекелестік | Жүйе экономикалық, медициналық және қауіпсіздік мүдделері үшін жеке және топтық деректерді пайдалану үшін елдер арасындағы бәсекелестікті тудыруы мүмкін бе? |
| Жаһандық державалардың ауысуы | Әлемнің негізгі геосаяси субъектілері ретінде ұлттық мемлекеттердің мәртебесі қауіп төніп тұр ма? Технологиялық компаниялар бір кездері ұлттық мемлекеттер үшін сақталған билікті пайдаланады ма және олар тәуелсіз, егеменді субъектілерге айналды ма (дамып келе жатқан технополярлық әлемдік тәртіп)? |
| Дезинформация | Жүйе қоғамдық келісімге, сенімге және демократияға әсер ететін мемлекеттік және мемлекеттік емес субъектілер тарапынан жалған ақпаратты өндіру мен таратуды жеңілдете ме? |
| Екі мақсатты қолданбалар | Әскери мақсатта да, азаматтық мақсатта да қолдануға мүмкіндік бар ма? |
| Әлемдік тәртіптің бөлшектенуі | Ынтымақтастыққа кедергі келтіретін, қолданудағы сәйкессіздіктерге әкеліп соқтыратын және жанжалға орын тудыратын силостар немесе реттеу және сәйкестік кластерлері дамуы мүмкін бе? |
| критерийлері | Бұл талдауда қалай көрінуі мүмкін мысалдар |
| Энергия және ресурстарды тұтыну (көміртегі ізі) | Жүйе мен талаптар энергия мен ресурстарды тұтынуды қолдану арқылы алынған тиімділік артуынан жоғарылатады ма? |
| Энергия көзі | Жүйе үшін энергия қайдан алынады (жаңартылатын және қазба отындары және т.б.)? |
| критерийлері | Бұл талдауда қалай көрінуі мүмкін мысалдар |
| Бағыттау және жинау | Деректер мен енгізуді адамдар жинайды ма, автоматтандырылған сенсорлар ма немесе екеуі де? |
| Мәліметтердің шығу тегі | Сарапшылардың деректері мен енгізуі қамтамасыз етілген, байқалған, синтетикалық немесе алынған ба? Шығуды растау үшін су таңбасын қорғау бар ма? |
| Мәліметтердің динамикалық сипаты | Деректер динамикалық, статикалық, динамикалық мезгіл-мезгіл жаңартылады ма немесе нақты уақытта ма? |
| құқықтары | Деректер меншікті, жария немесе жеке (анықталатын тұлғаларға қатысты) ма? |
| Жеке басын куәландыратын деректер және жеке деректер | Егер жеке болса, деректер анонимді немесе бүркеншік атпен берілген бе? |
| Мәліметтердің құрылымы | Деректер құрылымды ма, жартылай құрылымды ма, күрделі құрылымды ма немесе құрылымсыз ба? |
| Деректер форматы | Деректер мен метадеректер пішімі стандартталған ба немесе стандартталмаған ба? |
| Деректер масштабы | Деректер жинағының масштабы қандай? |
| Мәліметтердің сәйкестігі мен сапасы | Деректер жинағы мақсатқа сай ма? Үлгі мөлшері жеткілікті ме? Ол жеткілікті түрде өкілді және толық ма? Деректер қаншалықты шулы? Қатеге бейім бе? |
| критерийлері | Бұл талдауда қалай көрінуі мүмкін мысалдар |
| Ақпараттың қолжетімділігі | Жүйе моделі туралы ақпарат бар ма? |
| AI моделінің түрі | Модель символдық (адам жасаған ережелер), статистикалық (деректерді пайдаланады) немесе гибридті ме? |
| Үлгімен байланысты құқықтар | Модель ашық коды бар ма, әлде меншікті ме, жеке немесе үшінші тарап басқарады ма? |
| Бірнеше модельдің жалғызы | Жүйе бір үлгіден немесе бірнеше өзара байланысты модельдерден тұрады ма? |
| Генеративті немесе дискриминативті | Модель генеративті ме, дискриминативті ме, әлде екеуі де ме? |
| Модельдік құрылыс | Жүйе деректерден, бақылаудағы оқыту арқылы немесе күшейтілген оқыту арқылы адам жазған ережелер негізінде оқиды ма? |
| Модель эволюциясы (AI дрейф) | Модель өрістегі деректермен әрекеттесу арқылы дамиды және/немесе қабілеттерге ие бола ма? |
| Федерацияланған немесе орталықтандырылған оқыту | Модель орталықтан немесе бірнеше жергілікті серверлерде немесе «шет» құрылғыларында оқытылады ма? |
| Әзірлеу/техникалық қызмет көрсету | Модель әмбебап, теңшеуге бола ма немесе AI актерінің деректеріне бейімделген бе? |
| Детерминдік немесе ықтималдық | Модель детерминирленген немесе ықтималдық түрде қолданылады ма? |
| Үлгінің ашықтығы | Пайдаланушыларға үлгі нәтижелері мен шектеулерді түсінуге немесе шектеулерді пайдалануға мүмкіндік беретін ақпарат қолжетімді ме? |
| Есептеу шектеуі | Жүйеде есептеу шектеулері бар ма? Мүмкіндіктердің секірулерін немесе масштабтау заңдарын болжау мүмкін бе? |
| критерийлері | Бұл талдауда қалай көрінуі мүмкін мысалдар |
| Жүйе арқылы орындалатын тапсырмалар | Жүйе қандай тапсырмаларды орындайды (тану, оқиғаны анықтау, болжау және т.б.)? |
| Тапсырмалар мен әрекеттерді біріктіру | Жүйе бірнеше міндеттер мен әрекеттерді біріктіре ме (мазмұн генерациялау жүйелері, автономды жүйелер, басқару жүйелері және т.б.)? |
| Жүйенің дербестік деңгейі | Жүйенің әрекеттері қаншалықты автономды және адамдар қандай рөл атқарады? |
| Адамның қатысу дәрежесі | AI жүйесінің жалпы қызметін бақылауға және кез келген жағдайда AI жүйесін қашан және қалай пайдалану керектігін шешуге адамның қатысуы бар ма? |
| Негізгі қолданба | Жүйе адам тілі технологиялары, компьютерлік көру, автоматтандыру және/немесе оңтайландыру немесе робототехника сияқты негізгі қолданбалы салаға жатады ма? |
| бағалау | Жүйенің нәтижесін бағалау үшін стандарттар немесе әдістер қол жетімді ме? |
Бұл шеңберді қалай пайдалануға болады?
Бұл құрылымды көптеген жолдармен пайдалануға болады, соның ішінде:
Алға жол
Қорытындылай келе, аналитикалық жүйе платформалардың немесе пайдаланудың кез келген маңызды оқиғаларын дәйекті және жүйелі түрде жан-жақты қарау үшін мүдделі тараптар пайдалана алатын құралдар жинағының негізі ретінде берілген. Осы шеңберде ұсынылған өлшемдер технологияны бағалаудан мемлекеттік саясатқа, адам дамуынан әлеуметтануға, фьючерстер мен технология зерттеулеріне қатысты. AI үшін әзірленгенімен, бұл аналитикалық құрылым кез келген басқа дамып келе жатқан технологияға әлдеқайда кеңірек қолданылады.
Алғыс
Бастапқы талқылау құжатын әзірлеуде де, оны шығарғаннан кейін кері байланыста да көптеген адамдар кеңес алды және кері байланыс берді. Екі құжатты да әзірлеген Sir Peter Gluckman, президенті, ISC және Хема Сридхар, бұрынғы бас ғылым кеңесшісі, Қорғаныс министрлігінің, Жаңа Зеландия және қазіргі аға ғылыми қызметкер Fellow, Окленд университеті, Жаңа Зеландия.
Атап айтқанда, ISC Лорд Мартин Рис, Корольдік қоғамының бұрынғы президенті және Кембридж университетінің Экзистенциалды тәуекелдерді зерттеу орталығының тең құрылтайшысы; Профессор Шиваджи Сонди, Оксфорд университетінің физика профессоры; Профессор К Виджай Рагаван, Үндістан үкіметінің бұрынғы бас ғылыми кеңесшісі; Амандип Сингх Гилл, БҰҰ Бас хатшысының технологиялар жөніндегі өкілі; Seán Ó hÉigeartaigh, Кембридж университетінің Экзистенциалды тәуекелдерді зерттеу орталығының атқарушы директоры; Сэр Дэвид Шпигельхалтер, Уинтон университетінің Тәуекелді қоғамдық түсіну профессоры
Кембридж; Аманда-Джун Браунер, саясат жөніндегі аға кеңесші және Йен Уиггинс, Корольдік қоғамының халықаралық істер жөніндегі директоры, Ұлыбритания; Доктор Джером Дуберри, басқарушы директор және доктор Мари-Лоур Саллес, Женева магистратура институтының директоры; Чор Фарн Ли, Стратегиялық фьючерс орталығы, Премьер-министр кеңсесі, Сингапур; Баренд Монс және доктор Саймон Ходсон, Деректер комитеті (CoDATA); Профессор Юко Хараяма, RIKEN бұрынғы атқарушы директоры; профессор
Реми Квирион, INGSA президенті; Доктор Клэр Крейг, Оксфорд университеті және үкіметтік ғылым басқармасының бұрынғы басшысы; Йошуа Бенджио, БҰҰ Бас хатшысының ғылыми-консультативтік кеңесі және Монреаль университетінің профессоры; және алғашқы талқылау қағазы бойынша ISC-ке кері байланыс берген басқа да көптеген адамдар.
AI үшін ұлттық зерттеу экожүйелерін дайындау: 2024 жылғы стратегиялар мен прогресс
ISC сараптамалық орталығының, Ғылым фьючерс орталығынан алынған бұл жұмыс құжаты іргелі ақпарат пен әлемнің түкпір-түкпіріндегі елдердің ресурстарына қолжетімділікті қамтамасыз етеді, AI-ны зерттеу экожүйелеріне біріктірудің әртүрлі кезеңдерінде.
Жаһандық оңтүстікте болашаққа дайын ғылым жүйелерін құру
Дамып келе жатқан технологиялар ғылымды жүргізу тәсілін қайта құруда және Жаһандық Оңтүстіктегі ғылым жүйелерін нығайту үшін маңызды әлеуетті ұсынады - егер оларды қабылдау инклюзивті, жақсы қолдау көрсетілетін және контекстке сезімтал тәсілдермен басшылыққа алынса. Бұл технологиялардың бар теңсіздіктерді күшейтудің орнына, неғұрлым әділ және икемді ғылым жүйелеріне ықпал ететінін қалай қамтамасыз ету осы соңғы стратегиялық шегіністің басты бағыты болды.
Зерттеудегі жасанды интеллектті ашу туралы толығырақ оқыңыз: жаһандық есеп беру стандартына қарай 
Ғылыми ұйымдардағы гендерлік теңдікке қарай: бағалау және ұсыныстар туралы толығырақ оқыңыз 
Маскат жаһандық білім диалогы туралы көбірек оқыңыз 