Келечекте өзүн өзү өркүндөтүүчү жасалма интеллект (AI) кааласа адамдарды кулга айландырышы же өлтүрүшү мүмкүн. Муну эркин ой жүгүртүүнүн жана өтө интеллектуалдык аң-сезимдин өнүгүшүнөн келип чыгуучу тобокелчиликтер өтө жогору деп эсептеген окумуштуу Амнон Эден айткан жана "эгерде сиз интеллектти башкаруу маселелерине азыркы этапта кам көрбөсөңүз. өнүгүү, анда эртең келбей калышы мүмкүн. " Англисче Express басылмасынын маалыматы боюнча, Амнон Идендин айтымында, адамзат бүгүн атактуу "Терминатор" киноэпопеясынын сюжетин ишке ашыруу үчүн "артка кайтпай турган абалда" турат.
Белгилей кетүүчү нерсе, доктор Амнон Эден - долбоордун лидери, анын негизги максаты КТнын мүмкүн болуучу кыйратуучу кесепеттерин талдоо. Жасалма интеллектти жаратуунун кесепеттерин туура түшүнбөсө, анын өнүгүшү кырсык менен коркутуп коюшу мүмкүн, деп эсептейт окумуштуу. Учурда биздин коом илимий чөйрөдө КТнын потенциалдуу таасирин талдоо тууралуу жүрүп жаткан талаш -тартыштар тууралуу начар маалыматка ээ. "Келе жаткан 2016 -жылы мүмкүн болгон тобокелдиктерди талдоо корпорациялардын жана өкмөттөрдүн, саясатчылардын жана чечимдерди кабыл алууга жооптуу адамдардын ой жүгүртүүсүндө кыйла кеңири таралышы керек" дейт Эден.
Окумуштуулардын ою боюнча, адамзаттын роботтор тарабынан жок кылынышын сүрөттөгөн илимий фантастика, AI түзүү процесси көзөмөлдөн чыгып калгандыктан, жакында биздин жалпы көйгөйүбүзгө айланышы мүмкүн. Мисалы, Илон Маск, ишкер Сэм Альтмандын колдоосу менен, адамдын акылынан ашышы керек болгон ачык булак AIди иштеп чыгуучу 1 миллиард долларлык жаңы коммерциялык эмес уюм түзүүнү чечти. Ошол эле учурда америкалык миллиардер Илон Масктын өзү жасалма интеллектти "биздин жашообуз үчүн эң чоң коркунучтардын" катарына кошот. Apple компаниясын негиздеген Стив Возняк өткөн жылдын март айында "келечек адамдар үчүн коркунучтуу жана коркунучтуу көрүнөт … акыры компьютерлер бизден тезирээк ойлонуп, жай адамдардан арыла турган күн келет" деп айткан. компаниялар натыйжалуу иштеши үчүн ".
Белгилей кетсек, көптөгөн илимпоздор КТдан келген коркунучту көрүп жатышат. Жасалма интеллектти өнүктүрүү менен байланышкан ондогон белгилүү окумуштуулар, инвесторлор жана ишкерлер ачык катка кол коюшту. AI талаасы. Астрофизик Стивен Хокинг жана Tesla менен SpaceXтин негиздөөчүсү Илон Маск бул документке кол койгондордун бири. Кат, Жашоонун Келечеги Институту (FLI) тарабынан даярдалган коштоочу документ менен бирге, жасалма интеллектин эмгек рыногуна тийгизген таасири, ал тургай, бүткүл адамзаттын узак мөөнөттүү жашоосу жөнүндө кооптонуунун фонунда жазылган. роботтордун жана машиналардын мүмкүнчүлүктөрү дээрлик көзөмөлсүз өсө турган чөйрө.
Окумуштуулар AIдин потенциалы бүгүнкү күндө абдан чоң экенин түшүнүшөт, андыктан коштоочу тузактарга жол бербөө үчүн аны биз үчүн оптималдуу колдонуу мүмкүнчүлүктөрүн толугу менен иликтөө зарыл, FLI катында белгиленген. Адам тарабынан жасалган AI тутумдары биз каалагандай кылышы керек. Белгилей кетчү нерсе, "Келечектин жашоосу" институту өткөн жылы гана бир топ энтузиасттар тарабынан негизделген, алардын арасында скайпты жараткан Жаан Таллин "адамзатынын алдында турган тобокелчиликтерди азайтуу" жана "оптимисттик көз караш" менен изилдөөлөрдү стимулдаштыруу максатында болгон. келечектин ". Биринчиден, биз бул жерде AI менен робототехниканын өнүгүшүнөн келип чыккан тобокелчиликтер жөнүндө айтып жатабыз. FLI Консультативдик Кеңешине Маск жана Хокинг, белгилүү актер Морган Фриман жана башка атактуу адамдар кирет. Илон Масктын айтымында, жасалма интеллекттин көзөмөлсүз өнүгүшү потенциалдуу түрдө өзөктүк куралдан да коркунучтуу.
Атактуу британиялык астрофизик Стивен Хокинг 2015 -жылдын аягында AI технологиясынан баш тартуусун түшүндүрүүгө аракет кылган. Анын ою боюнча, убакыттын өтүшү менен супер интеллектуалдык машиналар адамдарды өздөрүнүн милдеттерин чечүүгө тоскоол болгон керектелүүчү буюмдар же кумурскалар катары карашат. Reddit порталынын колдонуучулары менен сүйлөшүп жатып, Стивен Хокинг мындай акылдуу машиналар интеллектуалдык артыкчылыгынан улам бүткүл адамзатты жок кылгысы келген "кара жандыктар" болоруна ишенбей турганын белгиледи. Кыязы, алар жөн гана адамгерчиликти байкабай тургандыгы жөнүндө айтууга болот.
«Акыркы мезгилде ММКлар менин сөздөрүмдү дайыма бурмалап жатышат. AIди өнүктүрүүдөгү негизги коркунуч машиналардын кара ниети эмес, алардын компетенттүүлүгү. Жасалма интеллект супер интеллектти мыкты аткарат, бирок эгерде ал жана биздин максаттарыбыз дал келбесе, анда адамзатты өтө олуттуу көйгөйлөр күтүп турат », - деп түшүндүрөт белгилүү окумуштуу. Мисал катары Хокинг суперкүчтүү AI жаңы ГЭСтин плотинасынын иштеши же курулушу үчүн жооптуу болгон гипотетикалык жагдайды келтирди. Мындай машина үчүн биринчи кезекте ишенилген система канча энергия өндүрөт жана адамдардын тагдыры эч кандай мааниге ээ болбойт. «Ачуубуздан кумурскаларды басып, кумурскаларды тебелегендер аз, бирок бир жагдайды элестетели - сиз электр энергиясын өндүргөн кубаттуу ГЭСти башкарасыз. Эгерде сиз суунун деңгээлин көтөрүшүңүз керек болсо жана сиздин аракетиңиздин натыйжасында бир кумурсканы суу каптап кетсе, анда чөгүп бараткан курт -кумурскалардын көйгөйлөрү сизди түйшөлтпөйт. Элди кумурскалардын ордуна койбойлу”, - деди окумуштуу.
Жасалма интеллектти андан ары өнүктүрүү үчүн экинчи потенциалдуу проблема, Хокингдин пикири боюнча, "машиналардын ээлеринин зулумдугу" болушу мүмкүн - өндүрүштү монополиялап ала турган бай адамдардын ортосундагы киреше деңгээлинин ажырымынын тез өсүшү. акылдуу машиналардын жана дүйнөнүн калган калкынын. Стивен Хокинг бул мүмкүн болгон көйгөйлөрдү төмөнкү жол менен чечүүнү сунуштайт - интеллектти өнүктүрүү процессин жайлатып, "универсалдуу" эмес, өтө адистештирилген жасалма интеллектти өнүктүрүүгө өтүү.
Хокинг менен Масктан тышкары, катка Нобель сыйлыгынын лауреаты жана MIT физика профессору Фрэнк Вилчек, Machine Intelligence Research Institute (MIRI) аткаруучу директору Люк Мюльгаузер, ошондой эле ири IT -компаниялардын көптөгөн адистери кол коюшкан: Google, Microsoft жана IBM, ошондой эле AI компанияларын Vicarious жана DeepMind негиздеген ишкерлер. Каттын авторлору алар коомчулукту коркутуу максатын көздөбөгөнүн, бирок жасалма интеллектти түзүү менен байланышкан оң жана терс жактарын бөлүп көрсөтүүнү пландап жатканын белгилешет. "Азыркы учурда, бардыгы интеллектуалдык интеллект тармагындагы изилдөөлөр туруктуу түрдө өнүгүп жатканына макул болушат жана интеллектинин заманбап адамзат коомуна тийгизген таасири бир гана жогорулайт", - деп айтылат катта, "адамдар үчүн ачылган мүмкүнчүлүктөр эбегейсиз, азыркы цивилизациянын баары адам акыл тарабынан жаратылган. Эгерде биз интеллектти интеллект менен көбөйтө алсак, анда эмнеге жетише аларыбызды алдын ала айта албайбыз, бирок жакырчылыктан жана оорулардан арылуу көйгөйү чексиз кыйын эмес ».
Жасалма интеллект тармагындагы көптөгөн өнүгүүлөр заманбап жашоого буга чейин киргизилген, анын ичинде имиджди жана сүйлөөнү таануу системалары, учкучсуз унаалар жана башкалар. Силикон өрөөнүнүн байкоочуларынын эсептөөсү боюнча учурда бул багытта 150дөн ашык стартаптар ишке ашырылып жатат. Ошол эле учурда, бул жааттагы өнүгүүлөр барган сайын көбүрөөк инвестицияларды тартууда жана Google сыяктуу компаниялар барган сайын AI долбоорлорун иштеп чыгууда. Ошондуктан, каттын авторлору адам жашоосунун экономикалык, социалдык жана укуктук аспектилери үчүн байкалган бумдун бардык мүмкүн болгон кесепеттерине көбүрөөк көңүл бурууга убакыт келди деп эсептешет.
Жасалма интеллект адамдарга коркунуч туудурат деген позицияны антропикалык принцип боюнча эмгеги менен белгилүү Оксфорд университетинин профессору Ник Бостром бөлүшөт. Бул адис AI анын адамдарга туура келбестигине алып келет деп ишенет. Ник Бостром баса белгилегендей, өкмөттөр контролдоо үчүн жетиштүү каражат бөлүп жаткан гендик инженериядан жана климаттын өзгөрүшүнөн айырмаланып, "AIдин эволюциясын көзөмөлдөө үчүн эч нерсе жасалган жок". Профессордун айтымында, учурда жасалма интеллектке карата "толтурулушу керек болгон укуктук боштук саясаты" жүргүзүлүүдө. Ал тургай, зыяны жок жана пайдалуу көрүнгөн өзүн өзү башкаруучу унаалар сыяктуу технологиялар бир катар суроолорду жаратат. Мисалы, мындай унаа жүргүнчүлөрүн сактап калуу үчүн чукул тормоз кылышы керекпи жана учкучсуз унаа кырсыкка учураганда ким жооп берет?
Потенциалдуу тобокелчиликтерди талкуулап, Ник Бостром "компьютер адамдардын пайдасын жана зыянын аныктай албайт" жана "адамдык адеп -ахлак жөнүндө кичинекей бир түшүнүккө да ээ эмес" деп белгиледи. Мындан тышкары, компьютерлерде өзүн-өзү өркүндөтүү циклдери адам көз салып тура албаган ылдамдыкта болушу мүмкүн жана бул жөнүндө дээрлик эч нерсе кыла албайт, дейт окумуштуу. "Компьютерлер өзүлөрү ойлоно турган өнүгүү стадиясында, бул башаламандыкка алып келеби же биздин дүйнөнү бир топ жакшыртат деп эч ким алдын ала айта албайт", - деди Ник Бостром, компьютер үчүн жөнөкөй мүмкүн болгон чечимди мисал келтирип - өчүрүү. муздак климаты бар өлкөлөрдө "жасалма интеллектин башына келе турган" адамдардын ден соолугун чыңдоо жана чыдамкайлыгын жогорулатуу.
Мындан тышкары, Bostrom биздин биоинтеллектти жогорулатуу үчүн адамдын мээсин чип салуу көйгөйүн да көтөрөт. «Бардык процесстер көзөмөлгө алынса, мындай процедура пайдалуу болушу мүмкүн, бирок имплантацияланган чип өзүн өзү кайра программаласа эмне болот? Бул кандай кесепеттерге алып келиши мүмкүн - супермендин пайда болушуна же адамга окшош компьютердин пайда болушуна? " - деп сурайт профессор. Компьютерлердин адамдык көйгөйлөрдү чечүү жолу биздикинен такыр башкача. Мисалы, шахматта адамдын мээси тар кыймылдарды гана карайт, алардан эң жакшы вариантты тандап алат. Өз кезегинде, компьютер мүмкүн болгон бардык аракеттерди карап чыгып, эң жакшысын тандап алат. Ошол эле учурда, компьютер оюнда атаандашын капалантат же таң калтырат деп күтпөйт. Шахмат ойногон адамдан айырмаланып, компьютер кокусунан гана айлакер жана тымызын кыймыл жасай алат. Жасалма интеллект эң жакшы жол менен эсептей алат - ал жерден "адам факторун" алып салуу менен каалаган системанын катасын жок кылуу үчүн, бирок адамдан айырмаланып, робот адамдардын өмүрүн сактап кала турган эрдиктерди жасоого даяр эмес.
Башка нерселер менен бирге, акылдуу машиналардын санынын өсүшү жаңы өнөр жай революциясынын этабын билдирет. Бул өз кезегинде жакынкы келечекте адамзат сөзсүз түрдө социалдык өзгөрүүлөргө дуушар болорун билдирет. Убакыттын өтүшү менен жумуш жогорку квалификациялуу адистерге айланат, анткени дээрлик бардык жөнөкөй иштерди роботтор жана башка механизмдер аткара алат. Илимпоздор биздин планета роботтор жашаган "Железяка" мультфильмине айланып кетпеши үчүн жасалма интеллект "көзгө жана көзгө муктаж" деп эсептешет.
Өндүрүш процесстерин барган сайын автоматташтыруу жагынан келечек эбак эле келген. Дүйнөлүк экономикалык форум (WEF) өз отчетун сунуштады, ага ылайык автоматташтыруу 2020 -жылга чейин ар кандай тармактарда иштеген 5 миллиондон ашык адам жумушсуз калышына алып келет. Бул роботтордун жана роботтук системалардын биздин жашообузга тийгизген таасири. Отчетту түзүү үчүн WEFтин кызматкерлери дүйнө жүзү боюнча 13,5 миллион кызматкер жөнүндө маалыматтарды колдонгон. Алардын айтымында, 2020 -жылга карата 7 миллиондон ашык жумуш орундарына болгон жалпы муктаждык жоголот, ал эми башка тармактарда жумуш орундарынын күтүлгөн өсүшү 2 миллиондон бир аз көбүрөөк жумуш орундарын түзөт.
