Эрик Шмидт – Жасанды сана және адамзаттың жаңа дәуірі (страница 4)

Мысалы, саясат саласында демократиялық әлем үлкен деректерге негізделген ЖИ процестері саяси хабарламаларды әзірлеу, осы хабарламаларды халықтың әр түрлі топтары арасында бейімдеу және насихаттау, әлеуметтік алауыздықты тудырғысы келетін қаскүнемдердің жалған хабар жасауы және таратуы, жалған хабар мен зиянды деректердің басқа да түрлерін анықтау, сәйкестендіру және зиянсыздандыру алгоритмдерін әзірлеу және өрістету сияқты саяси процестердің көптеген аспектілерін анықтайтын дәуірге енеді. Бұл ретте ақпараттық кеңістікті айқындау мен қалыптастырудағы ЖИ рөлін анықтау қиындай түсуде, кейде тіпті оны әзірлеушілер оның қалай әрекет ететінін ғана жалпы сипаттап бере алады. Бұл демократияның, тіпті ерік бостандығының перспективасын өзгертуі мүмкін. Бұл өзгерістердің қаншалықты игілікті немесе қайтымды екендігіне қарамастан, бүкіл әлемдегі мемлекеттер жағдайдан хабардар болуы және қоғамдық келісімдерді бұзбау үшін олар туралы білуі керек.

Әскери саланың болашағы одан да күрделірек. Егер армиялар қарулануға ой-өрісі адамдарға – әскерилерге және стратегтерге түсініксіз ЖИ жасақтаған стратегия мен тактиканы қабылдаса, күштердің арақатынасы өзгереді және оны анықтау қиынға соғады. Егер мұндай машиналар өз бетінше әскери шешімдер қабылдауға мүмкіндік алса, қорғаныс пен тежеудің дәстүрлі тұжырымдамалары, сондай-ақ жалпы соғыс заңдары бұзылады және бейімдеуді қажет етеді.

Бұл мысалдардан әлеуметтік топтар мен әр түрлі ЖИ-мен қаруланған немесе оны жасамайтын елдер арасында қандай кедергілер пайда болатындығы айқын көрінеді. Егер әр түрлі топтар немесе мемлекеттер әр алуан ЖИ пайдаланса, олардың шындықты қабылдау тәсілдері болжап болмайтын бағыттарда айырылуы мүмкін. Мақсаттары, оқыту модельдері және ЖИ-ге қатысты практикалық және әдеп шектеулері әр түрлі адам мен машина арасындағы серіктестіктің әр түрлі тәсілдерінің даму шамасына қарай бұл бәсекелестіктің өсуіне, техникалық үйлесімсіздікке және өзара түсініспеушілікке әкелуі мүмкін. Нәтижесінде бастапқыда ұлттық айырмашылықтарды еңсерудің және объективті шындықты таратудың құралы болып саналған технология уақыт өте келе елдер мен халықтардың тұтас иеліктен айырылуының себебі болуы мүмкін.

Нақты мысал – AlphaZero. Бұл жүйе ЖИ енді қандай жағдай болса да ойындарда адамның білімімен шектелмейтінін дәлелдеді. Әрине, терең нейрондық желілер деп аталатын машиналық оқытуға негізделген AlphaZero ЖИ-дің өзіндік шектеулері бар. Бірақ машиналар көбіне-көп адам қиялынан тыс шешімдерді жасауда. 2016 жылы DeepMind құрамына кіретін DeepMind Applied компаниясы Google деректерді өңдеу орталықтарын салқындатуды оңтайландыру үшін ЖИ (көп жағдайда AlphaZero-мен байланысты) әзірледі. Бұл міндет бойынша әлемнің ең үздік инженерлері жұмыс істеді, бірақ DeepMind ЖИ салқындатуды одан әрі оңтайландырып, қосымша энергия шығынын 40 %-ға азайтты. Бұл – адамның өнімділігімен салыстырғанда орасан зор жақсарту[8]. ЖИ көмегімен әр түрлі қызмет салаларында салыстырмалы серпілістерге қол жеткізілгенде, әлем сөзсіз өзгереді. Нәтиже адам проблемаларын неғұрлым тиімді шешу ғана емес, ЖИ-дің көптеген жаңалықтарында адамға тән емес оқыту мен ойлаудың белгісі жатады.

Белгілі бір тапсырманы орындау кезінде ЖИ өнімділігі адамның өнімділігінен асып кеткенде, ЖИ-ді адамға қосымша ретінде болсын қолданудан бас тарту болжамсыздық, немқұрайлылық және тіпті қасақылық белгісі ретінде қабылданады. Бірақ ЖИ-ге құнды тасты сыйға тартуға кеңес берген шахматшы (бұл жерде өмірге қауіпті ештеңе жоқ) бөлек, ал ЖИ оған көбірек адамдардың өмірін сақтап қалу үшін (ЖИ есептеуі бойынша) көптеген отандастарын құрбан етуді ұсынған бас қолбасшының жағдайы – мүлдем бөлек мәселе. Бұл құрбандықты қандай негізде жоюға болар еді және бұл жоюды ақтауға болар ма еді? Адамдар ЖИ қандай есептеулер жүргізгенін әрқашан білетін бола ма? Адамдар ЖИ-дің қате шешімін тауып, оны дер кезінде жоя ала ма? Егер бізге ЖИ-дің жеке шешімдерінің қисынын түсіну мүмкін болмаса, оның әр ұсынымына сенуіміз керек пе? Егер біз ЖИ шешімдерін бұғаттасақ, онда өзіміз үшін тым күрделі процестерге араласуға тәуекел етпейміз бе? Тіпті, егер біз жеке шешімдердің қисынын, құнын және мағынасын түсінсек те, егер қарсыласымыз өзінің ЖИ-інен осындай ұсыным алса, не болмақ? Егер ол құрбандыққа барғанда, біз олай етпесек, біз жеңіліске ұшыраймыз ба?

AlphaZero мен халицин жағдайларында ЖИ олардың алдына адамдар қойған тапсырмаларды шешті. AlphaZero-ның мақсаты шахматта жеңіске жету болды. Халицинді ашқан ЖИ-дің мақсаты мүмкіндігінше көп патогенді өлтіру болды және патогендер адамға зиян тигізбестен неғұрлым көп жойылса, жетістік соғұрлым көп болады. Тағы бір мақсат адамға қолжетімсіз сала болды: ЖИ-ге дәрілерді жеткізудің белгісіз тәсілдерін іздеу тапсырылды. ЖИ жетістікке жетті, өйткені ол тапқан антибиотик патогендік микроорганизмдерді өлтірді, бірақ оның басты жетістігі – жеткізудің жаңа тәсілімен қатар, жаңа сенімді антибиотикті ашу арқылы емдеу мүмкіндіктерін кеңейту.

Адам мен машина арасындағы серіктестіктің жаңа түрі пайда болады. Біріншіден, адам машинаға арналған тапсырманы анықтайды. Содан кейін машина адамға қолжетімсіз салада әрекет ете отырып, адам кейінірек зерделеп, түсіне алатын және ең дұрысы қолданыстағы тәжірибеге енгізе алатын оңтайлы процесті анықтайды. AlphaZero стратегиясы мен тактикасы адамдардың шахмат туралы түсініктерін кеңейтті, ал АҚШ ӘӘК AlphaZero-ның негізгі қағидаттарын оның радарлық жүйелерін пайдалану туралы өз бетінше шешім қабылдай отырып, U-2 бақылау ұшағын дербес басқаратын жаңа μZero ЖИ-ге бейімдеді[9]. Халицинді ашқан ЖИ бактерияларды жою мен дәрілерді жеткізудің тар саласында да, кең мағынада да (денсаулық сақтау, медицина) білімімізді кеңейтті.

Адам мен машинаның бұл серіктестігі мүлдем жаңа тәжірибенің пайда болуын білдіреді. Әңгіме бәрін білетін, бәрін басқаратын машиналардан қорқу жайында емес, бұл ғылыми фантастика тақырыбы болып қала береді және адам мен ЖИ серіктестігіне байланысты туындайтын қоғамның шынайы мәселелерінен назарды бұрып әкетеді.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.