Сизге чейин "Күтө туруңуз, мунун баары кантип реалдуу болушу мүмкүн, эмне үчүн ал дагы эле ар бир бурчта айтыла элек" сериясындагы макаланын экинчи бөлүгү. Мурунку серияда интеллектин жарылышы акырындык менен Жер планетасынын адамдарына чейин жетип баратканы белгилүү болду, ал тар багытталгандан жалпы интеллектке жана акырында жасалма супер интеллектке чейин өнүгүүгө аракет кылып жатат.
"Балким, биз өтө татаал көйгөйгө туш болуп жатабыз жана аны чечүүгө канча убакыт бөлүнгөнү белгисиз, бирок адамзаттын келечеги анын чечилишинен көз каранды болушу мүмкүн." - Ник Бостром.
Макаланын биринчи бөлүгү күнөөсүз түрдө башталды. Биз тар багытталган жасалма интеллектти (маршруттарды аныктоо же шахмат ойноо сыяктуу белгилүү бир маселени чечүүгө адистешкен AI) талкууладык, бул биздин дүйнөдө көп. Андан кийин алар эмне үчүн жалпы багытталган жасалма интеллектти (интеллектуалдык жөндөмдүүлүгү боюнча кандайдыр бир маселени чечүүдө адам менен салыштырууга болот) өстүрүү өтө кыйын экенин анализдешти. Биз технологиялык прогресстин экспоненциалдык ылдамдыгы AGI жакында бурчта болот деген жыйынтыкка келдик. Акыр -аягы, машиналар адамдын интеллектине жеткенде, төмөнкүлөр дароо болушу мүмкүн деп чечтик:
Адаттагыдай эле, биз жасалма супер интеллект (ISI, кандайдыр бир адамдан алда канча акылдуу) биздин жашообузда пайда боло турганына ишенбей, бул маселе боюнча биздин оюбузду эң жакшы чагылдыра турган эмоцияларды тандап, экранды карайбыз.
ISIдин өзгөчөлүктөрүнө кирерден мурун, машинанын супер интеллектуалдуу болушу эмнени билдирерин эстеп көрөлү.
Негизги айырма тез супер интеллект менен сапаттуу супер чалгындын ортосунда. Көбүнчө, супер интеллектуалдуу компьютер жөнүндө ойлонгондо эң биринчи эске түшүүчү нерсе, ал адамга караганда алда канча тезирээк ойлонот - миллиондогон эсе ылдамыраак жана беш мүнөттө адамга он жыл керек экенин түшүнөт. ("Мен кунг -фуну билем!")
Бул таасирдүү угулат жана ISI чындыгында башка адамдарга караганда тезирээк ойлонушу керек - бирок негизги айырмалоочу өзгөчөлүк таптакыр башкача болгон анын интеллектинин сапаты болот. Адамдар маймылдарга караганда алда канча акылдуу, анткени алар тезирээк ойлойт, бирок мээсинде маймылдар жөндөмсүз татаал лингвистикалык презентацияларды, узак мөөнөттүү пландоону, абстрактуу ой жүгүртүүнү ишке ашыруучу бир топ интеллектуалдык модулдар камтылган. Эгер маймылдын мээсин миң эсе тездетсеңиз, ал бизден акылдуураак болбойт - он жылдан кийин да конструкторду инструкция боюнча чогулта албайт, бул адамга эң көп дегенде эки саат кетет. Маймыл канча саат өткөрсө да, мээси канчалык ылдам иштесе да, эч качан үйрөнбөгөн нерселер бар.
Мындан тышкары, маймыл канчалык адамдык сапатын билбейт, анткени анын мээси башка ааламдардын бар экенин аңдай албайт - маймыл адамдын эмне экенин жана асман тиреген имаратты билиши мүмкүн, бирок асман тиреген имараттын курулганын эч качан түшүнө албайт. адамдар Анын дүйнөсүндө баары табиятка тиешелүү жана макаку асман тиреген имаратты кура албастан, аны эч ким кура албасын да түшүнөт. Жана бул интеллект сапатынын кичине айырмасынын натыйжасы.
Биз айтып жаткан жалпы интеллект схемасында, же жөн эле биологиялык жандыктардын стандарттары боюнча, адамдар менен маймылдардын интеллектинин сапатынын айырмасы кичине. Мурунку макалада биологиялык таанып билүү жөндөмдөрүн тепкичке койдук:
Супер интеллектүү машинанын канчалык олуттуу болорун түшүнүү үчүн, аны ошол тепкичтеги адамдан эки тепкич жогору коюңуз. Бул машина кичинекей эле акылдуу болушу мүмкүн, бирок анын таанып билүү жөндөмүбүздөн артыкчылыгы биздикиндей эле болот - маймылдарга караганда. Жана шимпанзе асман тиреген имараттын курула турганын эч качан түшүнө албагандай эле, машина бизге түшүндүрүүгө аракет кылса дагы, бир нече тепкич жогору турган машина эмнени түшүнөрүн эч качан түшүнө албайбыз. Бирок бул жөн эле бир -эки кадам. Акылдуу машина бизде кумурскаларды көрөт - ал бизге эң жөнөкөй нерселерди көп жылдар бою үйрөтөт жана бул аракеттер таптакыр үмүтсүз болот.
Бүгүн биз сөз кыла турган супер чалгындын түрү бул тепкичтен алда канча алыс. Бул акылдын жарылышы - унаа канчалык акылдуу болсо, ошончолук тездик менен өзүнүн интеллектин жогорулатып, моментин акырындык менен жогорулатат. Мындай машинанын интеллектуалдык жактан шимпанзеден ашып кетиши үчүн жылдар талап кылынышы мүмкүн, бирок, балким, бизден бир нече баскычка ашып кетиши үчүн бир нече саат керек. Ошол учурдан тартып, машина буга чейин секундасына төрт кадамдан секире алат. Мына ушундан улам, биз машинанын адамдын интеллектуалдык деңгээлине жеткени тууралуу биринчи кабар пайда болгондон кийин, биз бул тепкичте бизден алда канча жогору турган нерсе менен Жерде жанаша жашоо реалдуулугуна туш болушубуз мүмкүн экенин түшүнүшүбүз керек. жана миллиондогон эсе жогору):
Жана бизден эки тепкич жогору турган машинанын күчүн түшүнүүгө аракет кылуу таптакыр пайдасыз экенин аныктагандан кийин, ISI эмне кыларын жана анын кесепеттери кандай болорун түшүнүүнүн эч кандай жолу жок экенин биротоло аныктайлы. бул биз үчүн болот. Тескерисинче ырастаган адам супер интеллект дегенди түшүнбөйт.
Эволюция жүздөгөн миллиондогон жылдар бою акырындык менен биологиялык мээни өнүктүрдү, эгер адамдар супер -акылдуу машинаны жаратса, кандайдыр бир мааниде биз эволюциядан ашып кетебиз. Же бул эволюциянын бир бөлүгү болот - балким эволюция акылы акырындык менен өнүгүп, бардык жандыктар үчүн жаңы келечекти билдирген бурулуш чекитине жеткенге чейин иштейт:
Кийинчерээк талкуулай турган себептерден улам, илимий коомчулуктун чоң бир бөлүгү маселе бул бурулуш чекитке жетебизби же жокпузбу деп ойлошот, бирок качан.
Ушундан кийин кайда барабыз?
Мен ойлойм, бул дүйнөдө эч ким, мен дагы, сен дагы, биз чегине жеткенде эмне болорун айта албайбыз. Оксфорд философу жана AIнин алдыңкы теоретиги Ник Бостром мүмкүн болгон жыйынтыктарды эки чоң категорияга кайната алабыз деп эсептейт.
Биринчиден, тарыхка көз жүгүртсөк, жашоо жөнүндө төмөнкүлөрдү билебиз: түрлөр пайда болот, белгилүү бир убакытка чейин жашашат, анан сөзсүз түрдө тең салмактуулук нурунан түшүп, өлүшөт.
"Бардык түрлөр өлөт" тарыхта "бардык адамдар бир күнү өлөт" сыяктуу ишенимдүү эреже болгон. Түрдүн 99,9% ы жашоо журналынан түшүп кеткен жана эгерде бир түр бул журналда көпкө илинсе, табигый шамалдын соккусу же күтүлбөгөн астероид журналды оодарып салаары анык. Bostrom жок болууну аттракциондун абалы деп атайт - эч кандай түрү кайтып келе элек жерге түшпөө үчүн бардык түрлөрдүн тең салмактуулугу.
Көпчүлүк окумуштуулар ISI адамдардын жок болуп кетүү жөндөмүнө ээ болорун моюнга алышса да, көбү ISIдин мүмкүнчүлүктөрүн колдонуу индивиддерге (жана жалпы эле түргө) аттракциянын экинчи абалына - түрдүн өлбөстүгүнө жетүүгө мүмкүндүк берет деп ишенишет. Бостром бир түрдүн өлбөстүгү бир түрдүн жоголушу сыяктуу эле тартуучу деп эсептейт, башкача айтканда, эгер биз буга жетсек, биз түбөлүккө жок болобуз. Ошентип, ушул убакка чейин бардык түрлөр бул таяктан жок болуп кетүү коркунучуна түшүп кетсе да, Бостром журналдын эки жагы бар деп эсептейт жана Жерге башка тарапка кантип түшүү керек экенин түшүнө турган мындай акыл пайда болгон эмес.
Эгерде Bostrom жана башкалар туура айтса жана бизге жеткиликтүү болгон бардык маалыматтарга караганда, алар ошондой болушу мүмкүн, биз абдан таң калтырган эки фактыны кабыл алышыбыз керек:
Тарыхта биринчи жолу ISIдин пайда болушу бир түрдүн өлбөстүккө жетүүсүнө жол ачып, жок болуп кетүү циклинен чыгып кетет.
ISIдин пайда болушу, кыязы, адамзатты бул журналдан тигил же бул жакка түртүп жиберет.
Мүмкүн, эволюция ушундай бурулуш чекитке жеткенде, дайыма адамдардын жашоо агымы менен болгон мамилесине чекит коюп, адамдар менен же аларсыз жаңы бир дүйнө түзүшү мүмкүн.
Бул кызык суроого алып келет, аны бир гана бампер сурабайт: качан биз бул чекитке жетебиз жана ал бизди кайда коёт? Бул кош суроонун жообун дүйнөдө эч ким билбейт, бирок көптөгөн акылдуу адамдар ондогон жылдар бою аны түшүнүүгө аракет кылышкан. Макаланын калган бөлүгүндө, биз алардын кайдан келгенин аныктайбыз.
* * *
Бул суроонун биринчи бөлүгүнөн баштайлы: чокуга качан жетишибиз керек? Башкача айтканда: биринчи машина супер чалгынга жеткенге чейин канча убакыт калды?
Пикирлер ар бир иште ар кандай. Көптөр, анын ичинде профессор Вернор Винг, окумуштуу Бен Герцел, Sun Microsystemsтин негиздөөчүсү Билл Джой, футуролог Рэй Курцвейл, TED Talkто төмөнкү графикти көрсөткөндө машина үйрөнүү боюнча эксперт Жереми Ховард менен макул болушту:
Бул адамдар ISI жакында келет деген көз карашта болушат - бул экспоненциалдык өсүү, бүгүн бизге жай көрүнгөнү, жакынкы он жылдыктарда жарылат.
Башкалары, Microsoftтун негиздөөчүсү Пол Аллен, изилдөөчү психолог Гари Маркус, компьютер боюнча эксперт Эрнест Дэвис жана технологиялык ишкер Митч Капор, Курцвейл сыяктуу ойчулдар көйгөйдүн чоңдугун олуттуу баалашпайт деп ойлошот жана биз анча жакын эмеспиз деп ойлошот. бурулуш чекити.
Курцвейлдин лагери экспоненциалдык өсүшкө көңүл бурбоо гана пайда болот деп ишенет жана күмөн санагандар 1985 -жылы жай өнүгүп жаткан интернетти карап, анын жакынкы келечекте дүйнөгө эч кандай таасири тийбейт деп ырасташат.
Күмөн санагандар технологиялык прогресстин типтүү экспоненциалдык мүнөзүн нейтралдаштырган интеллектти экспоненциалдуу өнүктүрүүдө прогресс үчүн ар бир кийинки кадамды жасоо кыйыныраак деп ойлошу мүмкүн. Жана башкалар.
Ник Бостром турган үчүнчү лагерь, биринчиси же экинчиси менен макул эмес, а) мунун баары жакын арада такыр болушу мүмкүн; жана б) бул таптакыр болот же эчак кепилдик жок.
Башкалары, философ Хуберт Дрейфус сыяктуу, үч топ тең эч нерсеге карабай чөгүү болот деп ишенишет жана биз ISIге эч качан жете албайбыз деп ишенишет.
Бул пикирлердин бардыгын бириктиргенде эмне болот?
2013 -жылы Bostrom сурамжылоо жүргүзүп, анда жүздөгөн AI эксперттери менен бир катар конференцияларда төмөнкү темада маектешкен: "AGIге адамдык деңгээлде жетүү үчүн сиздин божомолдоруңуз кандай болот?" жана бизден оптимисттик жылды (10 % шансы бар AGIге ээ болууну), реалдуу божомолду (50 % ыктымалдуулук менен AGIге ээ боло турган жылды) жана ишенимдүү божомолду (эң алгачкы жылы AGI 90 пайыздык ыктымалдуулуктан кийин пайда болот). Мына жыйынтыктар:
* Орточо оптимисттик жыл (10%): 2022
* Орточо реалдуу жыл (50%): 2040
* Орточо пессимисттик жыл (90%): 2075
Орточо респонденттер 25 жылдан кийин бизде AGI болбойт деп ишенишет. 2075 -жылга чейин AGI пайда болуу мүмкүнчүлүгүнүн 90 пайызы, эгер сиз азыр дагы эле жаш болсоңуз, анда бул сиздин жашооңузда болот дегенди билдирет.
Жакында Джеймс Барратт тарабынан жүргүзүлгөн өзүнчө изилдөө (атактуу жана абдан жакшы китептин автору Биздин акыркы ойлоп табуу, үзүндүлөр Мен окурмандардын назарына сунуштадым Hi-News.ru) жана Ben Hertzel AGI конференциясында, AGI жылдык конференциясы, биз AGIге жеткен жылыбыз боюнча адамдардын пикирин көрсөтүштү: 2030, 2050, 2100, кийинчерээк же эч качан. Мына жыйынтыктар:
* 2030: Респонденттердин 42%
* 2050: 25%
* 2100: 20%
2100дөн кийин: 10%
Эч качан: 2%
Bostromдун жыйынтыктарына окшош. Барраттын сурамжылоосунда суралгандардын үчтөн экисинен көбү AGI 2050-жылы болот деп ишенишет, ал эми жарымынан азы AGI жакынкы 15 жылда пайда болот деп ишенишет. Респонденттердин 2% ы гана, негизи, биздин келечекте AGIни көрбөй тургандыгы таң калтырат.
Бирок AGI ISIге окшоп чөгүүчү жер эмес. Качан, эксперттердин пикири боюнча, бизде ISI болот?
Bostrom эксперттерден биз ASIге качан жетээрибизди сурады: а) AGIге жеткенден эки жыл өткөндөн кийин (башкача айтканда, чалгындын жарылуусунан дээрлик ошол замат); б) 30 жылдан кийин. Жыйынтыктар?
Орточо пикир, AGIден ISIге тез өтүү 10% ыктымалдуулук менен болот, бирок 30 жылдан кийин же 75% ыктымалдуулук менен болот.
Бул маалыматтан биз респонденттер кайсы күнү ASIге 50 % кокустук деп атаарын билбейбиз, бирок жогорудагы эки жоопко таянсак, бул 20 жыл деп ойлойбуз. Башкача айтканда, дүйнөнүн алдыңкы AI эксперттери бурулуш чекити 2060 -жылы келет деп ишенишет (AGI 2040 -жылы пайда болот +, AGIден ISIге өтүү үчүн 20 жыл талап кылынат).
Албетте, жогорудагы статистиканын баары спекулятивдүү жана жөн гана жасалма интеллект тармагындагы эксперттердин пикирин билдирет, бирок алар дагы кызыккан адамдардын көбү 2060 -жылга чейин AI келиши мүмкүн экенине кошулушат. Болгону 45 жылдын ичинде.
Экинчи суроого өтөлү. Биз чокуга жеткенде, өлүмчүл тандоонун кайсы тарабы бизди аныктайт?
Суперинтеллигенция эң күчтүү күчкө ээ болот жана биз үчүн эң маанилүү суроо төмөнкүдөй болот:
Бул бийликти ким же эмне көзөмөлдөйт жана алардын мотивациясы кандай болот?
Бул суроонун жообу ISI укмуштуудай күчтүү өнүгүүгө, өлчөөсүз коркунучтуу өнүгүүгө ээ болоруна же алардын ортосунда бир нерсеге жараша болот.
Албетте, эксперттик коомчулук бул суроолорго да жооп берүүгө аракет кылып жатат. Bostromдун сурамжылоосу AGIнин адамзатка тийгизген кесепеттеринин ыктымалдыгын талдоого алган жана 52 % кокустук менен баары абдан жакшы, 31 % кокустук менен баары жаман же өтө начар болуп кетет экен. Ушул теманын мурунку бөлүгүнүн аягында тиркелген, Hi-Newsтын урматтуу окурмандары, сиздердин араңыздарда жүргүзүлгөн сурамжылоо да ушундай эле жыйынтыктарды көрсөттү. Салыштырмалуу нейтралдуу жыйынтык үчүн ыктымалдык 17%ды гана түздү. Башкача айтканда, биз баарыбыз AGI чоң иш болот деп ишенебиз. Бул сурамжылоо AGIдин пайда болушуна да тиешелүү экенин белгилей кетүү керек - ISI учурда бейтараптыктын пайызы төмөн болот.
Суроонун жакшы жана жаман жактары жөнүндө тереңирээк ойлонуудан мурун, суроонун эки жагын бириктирели - "бул качан болот?" жана "бул жакшыбы же жаманбы?" көпчүлүк эксперттердин пикирин камтыган таблицага.
Биз бир мүнөттөн кийин негизги лагерь жөнүндө сүйлөшөбүз, бирок алгач позицияңызды чечиңиз. Мүмкүн, сиз бул теманын үстүндө иштей электе эле мен турган жердесиз. Адамдардын бул тема жөнүндө такыр ойлонбошунун бир нече себептери бар:
* Биринчи бөлүктө айтылгандай, тасмалар жасалма интеллект менен реалдуу эмес сценарийлерди көрсөтүп, адамдарды жана фактыларды олуттуу түрдө чаташтырып жиберди, бул болсо AIге таптакыр олуттуу мамиле кылбашыбыз керектигине алып келди. Джеймс Барратт бул жагдайды Ооруларды көзөмөлдөө борборлору (CDC) тарабынан келечегибизде вампирлер жөнүндө олуттуу эскертүү берүү менен салыштырды.
* Таанып-билүүчүлүк деп аталган нерселерден улам, бизде далилдер болмоюнча бир нерсенин реалдуу экенине ишенүү өтө кыйын. Ишенимдүү түрдө 1988-жылкы компьютер илимпоздору Интернеттин эбегейсиз кесепеттерин жана ал эмне болуп калышы мүмкүн экенин дайыма талкуулашат, бирок адамдар ал чындыгында болгончо жашоосун өзгөртөт деп ишенишчү эмес. Болгону, 1988 -жылы компьютерлер муну кантип жасоону билишпейт, адамдар компьютерлерине карап: “Чын эле? Бул дүйнөнү өзгөртө турган нерсеби? Алардын кыялдары жеке тажрыйбасынан үйрөнгөн нерселери менен чектелген, алар компьютердин эмне экенин билишкен жана келечекте компьютер эмнеге жөндөмдүү болорун элестетүү кыйын болгон. AI менен азыр да ушундай болуп жатат. Бул олуттуу нерсеге айланат деп уктук, бирок биз али бетме -бет кездешпегендиктен жана жалпысынан алганда, азыркы дүйнөбүздө AIдин өтө начар көрүнүштөрүн байкап жаткандыктан, анын түп тамырынан бери өзгөрөрүнө ишенүү биз үчүн кыйын жашообузду өзгөртүү. Бул бардык лагерлердеги көптөгөн эксперттер, ошондой эле кызыкдар адамдар, күнүмдүк жамааттык эгоцентризмдин ызы -чуусу аркылуу биздин көңүлүбүздү кармоого каршы болушат.
* Биз мунун баарына ишенсек дагы - калган түбөлүктү эч нерсеге жок өткөрөм деп бүгүн канча жолу ойлондуңуз? Бир аз, макул. Бул факт сиз күнү -түнү кылган нерселериңизден алда канча маанилүү болсо да. Бул мээбиз, адатта, кичинекей, күнүмдүк нерселерге багытталгандыктан, узак мөөнөттүү кырдаалга канчалык алдамчы болсок да. Болгону биз жаратылганбыз.
Бул макаланын максаттарынын бири - сизди "Мен башка нерселер жөнүндө ойлогонду жакшы көрөм" деп аталган лагерден чыгарып, эгер сиз жөн гана аянтта эки чекиттүү сызыктын кесилишинде турсаңыз да, сизди эксперттик лагерге жайгаштыруу. жогору, толугу менен чечилбеген.
Изилдөөнүн жүрүшүндө көпчүлүк адамдардын ой -пикири бат эле "башкы лагерге" ооп кетери айкын болот жана эксперттердин төрттөн үчү негизги лагердеги эки подпалпага түшөт.
Биз бул эки лагерге тең толук барабыз. Келгиле, тамаша менен баштайлы.
Эмне үчүн келечек биздин эң чоң кыялыбыз болушу мүмкүн?
AI дүйнөсүн изилдеп жатып, биз таң калыштуу көптөгөн адамдарды биздин жайлуу зонабызда табабыз. Оң жактагы жогорку аянтта элдер толкундануу менен ызылдап жатышат. Алар биз журналдын жакшы жагына түшөбүз деп ишенишет жана алар сөзсүз түрдө бул нерсеге келебиз деп ишенишет. Алар үчүн келечек - бул кыялданууга мүмкүн болгон эң сонун нерсе.
Бул адамдарды башка ойчулдардан айырмалап турган нерсе, алар бактылуу тарапта болгусу келгенинде эмес, алар бизди күтүп жатканына ишенишет.
Бул ишеним талаш -тартыштардан келип чыгат. Сынчылар бул потенциалдуу терс жактарын көмүскөдө калтырган толкундануудан келип чыгат деп ишенишет. Бирок жактоочулар караңгылыктуу божомолдор дайыма жөнөкөйлүк деп айтышат; технология уланууда жана ар дайым бизге зыян келтирүүдөн да көбүрөөк жардам берет.
Сиз бул пикирлердин бирин тандоого эркинсиз, бирок ишенбөөчүлүктү артка таштап, тең салмактуулуктун бактылуу жагына жакшылап көз чаптырып, окуган нерселериңиздин баары болгонун кабыл алууга аракет кылыңыз. Эгерде сиз мергенчи -жыйноочуларга биздин дүйнөбүздүн ыңгайлуулугун, технологиясын жана чексиз молчулугун көрсөтсөңүз, бул аларга сыйкырдуу фантастика болуп көрүнөт - жана биз өзүбүздү өтө жөнөкөй алып жүрөбүз, келечекте бизди ошол эле түшүнүксүз өзгөрүү күтүп турганын моюнга албайбыз.
Ник Бостром супер интеллектуалдык AI тутуму ала турган үч жолду сүрөттөйт:
* Ар кандай так суроого, анын ичинде адамдар жооп бере албаган татаал суроолорго жооп бере ала турган оракул - мисалы, "машинанын кыймылдаткычын кантип эффективдүү кылуу керек?" Google "оракулдун" примитивдүү түрү.
* Мобилдик ассемблерди колдонуп, автомобилдин кыймылдаткычынын жаңы, эффективдүү версиясын түзүү үчүн кандайдыр бир жогорку деңгээлдеги буйрукту аткара турган жана кийинки буйрукту күтүп турган жин.
* Дүйнөдө эркин иштөө мүмкүнчүлүгүнө ээ болгон, өз алдынча чечим кабыл алган жана процессти жакшыртуучу эгемен. Ал жеке менчик транспорттун машинага караганда арзан, ылдам жана коопсуз жолун ойлоп табат.
Биз үчүн кыйын болуп көрүнгөн бул суроолор жана тапшырмалар супер интеллект системасына кимдир бирөө "менин карандашым столдон түштү" абалын жакшыртууну сурагандай көрүнөт, аны сиз жөн эле алып, кайра салып койсоңуз болот.
Жасалма интеллект боюнча америкалык адис Элиезер Юдковски жакшы айткан:
«Эч кандай оор көйгөйлөр жок, белгилүү бир деңгээлдеги интеллект үчүн кыйын болгон проблемалар. Бир кадам жогору (акыл жагынан), жана кээ бир көйгөйлөр күтүүсүздөн "мүмкүн эмес" категориясынан "ачык" лагерине өтүшөт. Бир тепкич жогору - ошондо баары ачык болуп калат."
Биздин дасторкондон ишенимдүү сооронучтун зонасын тандап алган көптөгөн чыдамсыз илимпоздор, ойлоп табуучулар жана ишкерлер бар, бирок бизге бул дүйнөнүн эң жакшысында эң жакшы жүрүү үчүн бир гана жетекчи керек.
Рэй Курцвейл түшүнүксүз. Кээ бирөөлөр анын идеяларын кумир тутушат, кээ бирлери аны жек көрүшөт. Кээ бирлери ортодо калышат - Дуглас Хофстадтер Курцвейлдин китептеринин идеяларын талкуулап жатып, "сиз көп жакшы тамактарды жана кичинекей иттин тезегин алып, анан баарын түшүнүүгө мүмкүн болбогондой аралаштырып алгандай болосуз" деп белгилеген. эмне жакшы, эмне жаман ».
Сиз анын идеяларын жактырасызбы же жактырбайсызбы, кызыкчылыктын көлөкөсүз аларды өткөрүп жиберүү мүмкүн эмес. Ал өспүрүм кезинде эле нерселерди ойлоп таба баштаган жана кийинки жылдары бир нече маанилүү нерселерди ойлоп тапкан, анын ичинде биринчи плоскалдуу сканер, текстти сөзгө айландырган биринчи сканер, белгилүү Kurzweil музыкалык синтезатору (биринчи чыныгы электр пианино) жана биринчи коммерциялык ийгиликтүү сүйлөө таануучу. Ал ошондой эле беш сенсациялуу китептин автору. Курцвейл эр жүрөк прогноздору үчүн бааланат жана анын рекорддук көрсөткүчү абдан жакшы - 80 -жылдардын аягында, интернет дагы эле жаңыдан башталып жаткан кезде, 2000 -жылдарда Желе глобалдык көрүнүшкө айланарын алдын ала айткан. Wall Street Journal Курзвейлди "тынчы жок гений", Forbesти "глобалдык ой жүгүртүү машинасы" деп атады. Журнал - "Эдисондун мыйзамдуу мураскери", Билл Гейтс - "жасалма интеллектин келечегин алдын ала айткандардын мыктысы". 2012-жылы Googleдун негиздөөчүсү Ларри Пейдж Курзвейлди CTO кызматына чакырган. 2011-жылы ал НАСА тарабынан уюштурулган жана жарым-жартылай Google тарабынан каржыланган Singularity университетин негиздеген.
Анын өмүр баяны маанилүү. Курцвейл келечекти көрүү жөнүндө айткандан кийин, бул жиндидей сезилет, бирок чынында жинди болгон нерсе, ал жиндиден алыс экени - ал укмуштуудай акылдуу, билимдүү жана акыл -эстүү адам. Сиз анын божомолдорунда туура эмес деп ойлошуңуз мүмкүн, бирок ал акылсыз эмес. Курцвейлдин божомолун сооронуч зонасынын көптөгөн эксперттери Питер Диамандис менен Бен Герцел бөлүшөт. Бул эмне болот деп ойлойт.
Хронология
Курцвейл компьютерлер 2029 -жылга чейин жалпы жасалма интеллект (AGI) деңгээлине жетет деп ишенет, ал эми 2045 -жылы биз жасалма супер интеллектке гана ээ болбостон, таптакыр жаңы дүйнөгө - сингулярдык деп аталган мезгилге ээ болобуз. Анын AI хронологиясы дагы эле өтө апыртылган деп эсептелет, бирок акыркы 15 жылдын ичинде өтө багытталган жасалма интеллект (AI) системаларынын тез өнүгүшү көптөгөн эксперттерди Kurzweil менен иштөөгө мажбур кылды. Анын божомолдору Бостромдун сурамжылоосуна караганда дагы эле амбициялуу (2040 -жылга чейин AGI, 2060 -жылга чейин ISI), бирок анча деле көп эмес.
Курцвейлдин айтымында, 2045 -жылдын Сингулярдуулугу биотехнологияда, нанотехнологияда жана андан да маанилүүсү, AIда бир эле убакта үч революция менен шартталган. Бирок улантуудан мурун - жана нанотехнология жасалма интеллектти жакындан байкап турат - келгиле, бир аз убакытты нанотехнологияга алалы.
Нанотехнология жөнүндө бир нече сөз
Биз адатта нанотехнологияларды 1-100 нанометрдин чегинде заттардын манипуляциясы менен алектенген технологиялар деп атайбыз. Нанометр - метрдин миллиарддан бир бөлүгү, же миллиметрдин миллиондон бири; 1-100 нанометрдин чегинде вирустар (диаметри 100 нм), ДНК (туурасы 10 нм), гемоглобин молекулалары (5 нм), глюкоза (1 нм) жана башкаларды жайгаштырууга болот. Эгерде нанотехнология качандыр бир кезде бизге баш ийсе, кийинки кадам - чоңдугу бирден аз болгон (~, 1 нм) жеке атомдор менен иштөө.
Адамдар маселени мындай масштабда иштетүү үчүн көйгөйлөргө туш болгонун түшүнүү үчүн, келгиле, чоңураак масштабга өтөлү. Эл аралык космос станциясы Жерден 481 километр бийиктикте жайгашкан. Эгерде адамдар гигант болуп, ISSти башы менен урушса, алар азыркыдан 250,000 эсе чоң болмок. Эгерде сиз 1 ден 100 нанометрге чейин болгон нерсени 250 000 эсе чоңойтсоңуз, анда 2,5 сантиметр болот. Нанотехнология - бул ЭКСтин айланасында, кумдун же көздүн карегиндей болгон нерселерди башкарууга аракет кылган адамга барабар. Кийинки баскычка - жеке атомдордун көзөмөлүнө өтүү үчүн, алп диаметри 1/40 миллиметр болгон объекттерди кылдаттык менен жайгаштырууга мажбур болот. Аларды көрүү үчүн карапайым адамдарга микроскоп керек болот.
Ричард Фейнман биринчи жолу нанотехнология жөнүндө 1959 -жылы айткан. Анан ал мындай деди: «Мен билгендей, физиканын принциптери нерселерди атом менен көзөмөлдөө мүмкүнчүлүгүнө каршы сүйлөбөйт. Негизи, физик химик жазган химиялык заттарды синтездей алат. Кантип? Химик затты алам деп айткан атомдорду жайгаштыруу менен. Бул бүт жөнөкөйлүк. Эгерде сиз жеке молекулаларды же атомдорду кантип жылдырууну билсеңиз, дээрлик бардык нерсени жасай аласыз.
Нанотехнология 1986 -жылы инженер Эрик Дрекслер өзүнүн негиздерин "Машиналарды жаратуу" аттуу негизги китебинде көрсөткөндө олуттуу илимий тармакка айланган, бирок Дрекслер өзү нанотехнологиядагы заманбап идеялар жөнүндө көбүрөөк билүүнү каалагандар анын 2013 -жылкы китебин окушу керек деп эсептейт. Толук молчулук "(Радикал) Молчулук).
"Боз гоо" жөнүндө бир нече сөз
Биз нанотехнологияга тереңирээк киребиз. Тактап айтканда, "боз гоо" темасы нанотехнология жаатындагы анча жагымдуу эмес темалардын бири, аны этибарга албай коюуга болбойт. Нанотехнология теориясынын эски версиялары бир нерсени түзүү үчүн чогуу иштей турган триллиондогон кичинекей нанороботторду түзүүнү камтыган нано-монтаждоо ыкмасын сунушташты. Триллион нанороботторду түзүүнүн бир жолу-өзүн өзү көбөйтө ала турган, башкача айтканда, бирден экиге, экиден төрткө чейин ж.б. Бир күндө бир нече триллион наноробот пайда болот. Бул экспоненциалдуу өсүүнүн күчү. Тамаша, туурабы?
Бул күлкүлүү, бирок так ошондо апокалипсиске чейин. Маселе, тездик менен триллион наноботторду түзүүнүн абдан ыңгайлуу жолун түзүүчү экспоненциалдык өсүүнүн күчү, перспективада өзүн-өзү репликациялоо коркунучтуу нерсеге айлантат. Система бузулуп, бир нече триллионго көбөйүүнү токтотуунун ордуна наноботтор көбөйө берсе эмне болот? Бул процесстин баары көмүрдөн көз каранды болсочу? Жердин биомассасында 10 ^ 45 көмүртек атому бар. Нанобот 10 ^ 6 көмүртек атомунун тартибинде болушу керек, андыктан 10 ^ 39 нанобот Жердеги бардык жашоону 130 гана репликацияда жалмап салат. Наноботтор океаны ("боз гуу") планетаны каптайт. Илимпоздор наноботтор 100 секундада көбөйө алат деп ойлошот, демек, жөнөкөй ката Жердеги бардык жашоону 3,5 саатта эле өлтүрөт.
Андан да жаман болушу мүмкүн - эгерде террористтер жана жагымсыз адистер нанотехнологиянын колуна тийсе. Алар бир нече триллион наноботторду түзүп, аларды бир нече жуманын ичинде дүйнө жүзү боюнча тынч жайылтууга программалай алмак. Андан кийин, бир баскычты басуу менен, 90 мүнөттүн ичинде алар эч нерсени эч нерсеге карабай жешет.
Бул коркунучтуу окуя көп жылдар бою талкууланып келсе да, жакшы кабар бул жөн эле коркунучтуу окуя. "Боз гуу" деген терминди ойлоп тапкан Эрик Дрекслер жакында мындай деген: "Адамдар коркунучтуу окуяларды жакшы көрүшөт жана бул зомби коркунучтуу окуялардын бири. Бул идея өзү эле мээни жеп жатат."
Нанотехнологиянын түбүнө жеткенден кийин, аны техникалык түзүлүштөрдү, кийимдерди, тамак -аштарды, биопродуктыларды - кан клеткаларын, вирус жана рак менен күрөшүүчүлөрдү, булчуң ткандарын ж.б. Жана нанотехнологияны колдонгон дүйнөдө материалдын наркы анын жетишсиздигине же өндүрүш процессинин татаалдыгына эмес, тескерисинче атомдук түзүлүшүнүн татаалдыгына байланыштуу болот. Нанотехнология дүйнөсүндө алмаз өчүргүчтөн арзаныраак болмок.
Биз али жакындай элекпиз. Жана бул жолдун татаалдыгын баалабай жатканыбыз же өтө эле жогору баалаганыбыз толук түшүнүксүз. Бирок, бардыгы нанотехнология алыс эмес экенине чейин барат. Курцвейл 2020 -жылдарга чейин бизде болот деп болжолдойт. Дүйнөлүк мамлекеттер нанотехнологиялар чоң келечекти убада кыла аларын билишет, демек, аларга көптөгөн миллиарддарды салып жатышат.
Элестетип көрүңүз, эгер супер интеллектуалдуу компьютер ишенимдүү нанокөлүштүрүүчүгө ээ болсо, кандай мүмкүнчүлүктөргө ээ болот. Бирок нанотехнология - бул биздин идея, жана биз аны минүүгө аракет кылып жатабыз, бул бизге кыйын. Эгер алар ISI тутуму үчүн жөн эле тамаша болсо, жана ISI өзү биз ойлогондон алда канча күчтүү технологияларды ойлоп тапса эмне болот? Биз макул болдук: эч ким жасалма супер интеллект эмнеге жөндөмдүү экенин элестете албайт? Биздин мээбиз эмне болорун минималдуу түрдө алдын ала айта албайт деп ишенишет.
AI бизге эмне кыла алат?
Супер чалгындоо жана супер чалгындоо түзө турган бардык технологиялар менен куралданган ISI, балким, адамзаттын бардык көйгөйлөрүн чече алат. Дүйнөлүк жылышы? ISI биринчи кезекте көмүртек чыгарууну токтотот, казылып алынган отунга байланышпаган энергияны өндүрүүнүн көптөгөн эффективдүү жолдорун ойлоп табуу менен. Андан кийин ал ашыкча СО2ди атмосферадан тазалоонун эффективдүү, инновациялык жолун ойлоп табат. Рак жана башка оорулар? Кыйынчылык эмес - саламаттыкты сактоо жана медицина элестете албагандай өзгөрөт. Дүйнөлүк ачкачылык? ISI нанотехнологияны колдонуп, этти нөлдөн баштап, чыныгы этке окшош кылып жаратат.
Нанотехнология үйүлгөн таштандыларды жаңы этке же башка тамак -аш идишине айландыра алат (ал тургай, кадимки формасында эмес - алптын чоң кубун элестетсеңиз) жана бул азыктардын бардыгын өнүккөн транспорттук системалардын жардамы менен дүйнө жүзүнө тарата аласыз. Албетте, бул тамак үчүн өлбөй турган жаныбарлар үчүн сонун болот. ISI ошондой эле жоголуп бара жаткан түрлөрдү сактоо, же жок болуп кеткендерди ДНКдан кайтаруу сыяктуу башка көптөгөн иштерди жасай алат. ISI биздин эң татаал макроэкономикалык көйгөйлөрүбүздү - биздин эң оор экономикалык талаш -тартыштарыбызды, этикалык жана философиялык маселелерибизди, глобалдык соодабызды чече алат - мунун баары ISIге оор болот.
Бирок ISI биз үчүн жасай ала турган өзгөчө бир нерсе бар. Баарын өзгөртө турган жагымдуу жана танталуу: ISI бизге өлүм менен күрөшүүгө жардам бере алат … Акырындык менен AIдин мүмкүнчүлүктөрүн түшүнүү менен, балким, өлүм тууралуу бардык ойлоруңузду кайра карап чыгасыз.
Эволюциянын биздин жашообузду азыркыга караганда узартууга эч кандай негизи жок болчу. Эгерде биз балдарды төрөп, бакканга чейин чоңойтуу үчүн узак жашасак, эволюция жетиштүү. Эволюциялык көз караш менен караганда, өнүгүү үчүн 30+ жыл жетиштүү жана мутациялардын өмүрдү узартууга жана табигый тандалуунун баалуулугун төмөндөтүүгө эч кандай негиз жок. Уильям Батлер Йейтс биздин түрдү "өлүп бара жаткан жаныбарга байланган жан" деп атады. Анча кызык эмес.
Жана баарыбыз бир күнү өлгөндүктөн, өлүм сөзсүз болот деген ой менен жашайбыз. Биз убакыттын өтүшү менен картаюу жөнүндө ойлонобуз - алдыга жылууну улантуу жана бул процессти токтото албоо. Ал эми өлүм жөнүндөгү ой чыккынчылык: аны басып алып, биз жашоону унутабыз. Ричард Фейнман мындай деп жазган:
«Биологияда бир сонун нерсе бар: бул илимде өлүмдүн зарылдыгы жөнүндө айта турган эч нерсе жок. Эгерде биз түбөлүк кыймылдаткыч түзгүбүз келсе, анда биз физикада мунун мүмкүн эместигин же мыйзамдардын туура эмес экенин көрсөткөн жетиштүү мыйзамдарды тапканыбызды түшүнөбүз. Бирок биологияда өлүмдүн сөзсүз болорун көрсөтө турган эч нерсе жок. Бул мени ушунчалык кутулгус нерсе эмес деп ишенүүгө түртөт жана биологдор бул көйгөйдүн, бул коркунучтуу универсалдуу оорунун себебин табууга чейин, ал айыгат », - деди.
Чындыгында, карылыктын убакытка эч кандай тиешеси жок. Карылык - бул дененин физикалык материалдары эскирген учур. Унаалардын тетиктери да начарлайт - бирок картаюу сөзсүз болобу? Эгер тетиктери эскирген сайын машинаңызды оңдосоңуз, ал түбөлүккө калат. Адамдын денеси башкача эмес - жөн гана татаалыраак.
Курцвейл кандагы акылдуу, Wi-Fi менен байланышкан наноботтор жөнүндө сүйлөйт, алар адамдын ден соолугу үчүн сан жеткис милдеттерди аткара алат, анын ичинде дененин каалаган жеринде эскирген клеткаларды дайыма оңдоо же алмаштыруу. Бул процессти өркүндөтүү (же акылдуураак ASI сунуштаган альтернативаны табуу) дененин ден соолугун чыңдап эле койбостон, картаюуну артка кайтара алат. 60 жаштагы жана 30 жаштагы адамдын денесиндеги айырмачылык-бул туура технология менен оңдоло турган бир нече физикалык маселелер. ISI адам 60 жашында кирип, 30 жашында кете турган унаа кура алат.
Жада калса бузулган мээ дагы жаңыртылышы мүмкүн. ISI, албетте, мээ маалыматтарына (инсандык, эс тутум ж. Б.) Таасир этпестен муну кантип жасоону билмек. Мээнин толук деградациясы менен жабыркаган 90 жаштагы карыя кайра даярдыктан өтүп, жаңыртылып, жашоосунун башталышына кайтып келиши мүмкүн. Бул акылга сыйбас көрүнүшү мүмкүн, бирок денеси бир ууч атомдор, жана ISI, албетте, аларды оңой эле башкара алат, бардык атомдук структуралар. Бул анчалык абсурд эмес.
Kurzweil ошондой эле жасалма материалдар убакыттын өтүшү менен денеге көбүрөөк интеграцияланат деп ишенет. Башында, органдар түбөлүккө созула турган жана эч качан иштебей турган эң алдыңкы машина версиялары менен алмаштырылышы мүмкүн. Ошондо биз дененин толук дизайнын жасай алмакпыз, кызыл кан клеткаларын өз алдынча кыймылдаган кемчиликсиз наноботторго алмаштырып, жүрөккө болгон муктаждыкты таптакыр жок кылдык. Биз ошондой эле таанып -билүү жөндөмүбүздү өркүндөтүп, миллиарддаган эсе ылдамыраак ойлонуп, булут аркылуу адамзатка жеткиликтүү болгон бардык маалыматтарга жете алмакпыз.
Жаңы горизонтторду түшүнүү мүмкүнчүлүктөрү чексиз болмок. Адамдар жыныстык катнашты жаңы максат менен камсыздоого жетишти, алар муну репродукция үчүн эмес, ырахат үчүн жасашат. Kurzweil биз тамак -аш менен да ошондой кыла алабыз деп эсептейт. Наноботтор денеге зыяндуу заттардын өтүшүнө жол берип, идеалдуу тамактанууну дененин клеткаларына жеткире алмак. Нанотехнология теоретиги Роберт Фрейтас кан клеткаларын алмаштырууну иштеп чыккан, ал адамдын денесине киргизилгенде, 15 мүнөткө дем албоого мүмкүндүк берет - жана муну бир адам ойлоп тапкан. ISI качан бийликке ээ болорун элестетип көрүңүз.
Анткени, Курцвейл адамдар толугу менен жасалма боло турган чекке жетет деп ишенет; биологиялык материалдарды карап, алар канчалык примитивдүү болгонун ойлонгон учур; Адамзат тарыхынын алгачкы стадиялары жөнүндө окуп, микробдордун, кырсыктардын, оорулардын же жөн эле карылыктын адамды каалоосуна каршы кантип өлтүрөрүнө таң калабыз. Акыр -аягы, адамдар өз биологиясын жеңип, түбөлүктүү болушат - бул биз башынан бери айтып келе жаткан тең салмактуулук нурунун бактылуу жагына карай жол. Жана буга ишенген адамдар ошондой келечек бизди абдан жакында күтүп турганына ишенишет.
Курцвейлдин идеялары катуу сынга алынганына таң калбасаңыз керек. Анын 2045 -жылдагы өзгөчөлүгү жана андан кийинки адамдар үчүн түбөлүк жашоосу "нерддердин көтөрүлүшү" же "интеллектуалдык деңгээли 140 болгон адамдардын акылдуу жаратылышы" деп аталган. Башкалары болсо оптимисттик убакыт алкагына, адамдын денеси менен мээсинин түшүнүгүнө шек келтирип, Мурдун мыйзамы али кете электигин эске салды. Курцвейлдин идеяларына ишенген ар бир эксперт үчүн, ал туура эмес деп эсептеген үчөө бар.
Бирок бул жерде эң кызыгы, аны менен макул болбогон эксперттердин көбү, бул мүмкүн эмес деп айтышпайт."Бокс, бул эч качан болбойт" дегендин ордуна, "биз ISIге жетсек, мунун баары болот, бирок бул маселе" деген сыяктуу сөздөрдү айтышат. Кооптуу AI эксперттеринин бири Bostrom, AI коркунучтары жөнүндө эскертет, ошондой эле мойнуна алат:
"Супер чалгын чече албаган, же чечүүгө жардам бере албаган эч кандай маселе калган жок. Оорулар, жакырчылык, айлана -чөйрөнүн бузулушу, ар кандай азап - нанотехнологиянын жардамы менен бул супер интеллект бир заматта чече алат. Супер интеллект бизге наномедицинаны же бизди булутка жүктөө жөндөмүн колдонуу менен картаюу процессин токтотуу жана артка кайтаруу аркылуу бизге чексиз өмүрдү бере алат. Superintelligence ошондой эле интеллектуалдык жана эмоционалдык мүмкүнчүлүктөрдүн чексиз жогорулашына мүмкүнчүлүктөрдү түзө алат; ал бизге идеалыбызга жакындаган жана кыялдарыбызды дайыма ишке ашыра турган, кубанычта жана түшүнүктүү жашай турган дүйнөнү түзүүгө жардам бере алат ".
Бул Курзвейлдин сынчыларынын биринин цитатасы, бирок мунун баары биз коопсуз АСИ түзө алсак болот деп моюнга алат. Курзвейл мүмкүн болушунча жасалма супер интеллект кандай болорун аныктады. А эгер ал жакшы кудай болсо.
Комфорт зонасынын жактоочуларынын эң ачык сыны, алар ISIдин келечегин баалаганда, жаңылып калышы мүмкүн. Курцвейл "Өзгөчөлүгү" аттуу китебинде ISIдин 700 потенциалдуу коркунучунун ичинен 20 баракты бөлгөн. Суроо биз ISIге качан жеткенибизде эмес, суроо анын мотивациясы кандай болот деген суроодо. Курцвейл бул суроого этияттык менен жооп берет: “ISI көптөгөн түрдүү аракеттерден келип чыккан жана биздин цивилизациянын инфраструктурасына терең интеграцияланат. Чынында, ал биздин денебизге жана мээбизге тыгыз сиңет. Ал биздин баалуулуктарыбызды чагылдырат, анткени ал биз менен бир болот ».
Бирок жооп болсо, эмне үчүн бул дүйнөдө көптөгөн акылдуу адамдар жасалма интеллектин келечеги үчүн тынчсызданышат? Эмне үчүн Стивен Хокинг ISIдин өнүгүшү "адамзаттын жок болушун билдириши мүмкүн" деп айтат? Билл Гейтс "тынчсызданбаган адамдарды түшүнбөй турганын" айтат. Илон Маск бизди "жин чакыртып жатабыз" деп коркот. Эмне үчүн көптөгөн эксперттер ISIди адамзат үчүн эң чоң коркунуч деп эсептешет?
Бул тууралуу кийинки жолу сүйлөшөбүз.
