Аскердик эксперттер автономдуу куралдарды же автономдуу курал тутумдарын (AWS) бардык нерсени өздөрү жасоочу куралдардын түрлөрү деп аташат: алар бута таап, адамдын кийлигишүүсүз тапшырманы аткарышат. Эң белгилүү, азырынча илимий фантастикалык фильмдерде жана AWS китептеринде "өлтүргүч роботтор" деп аталат.
Илон Маск жана жүздөн ашуун робототехника боюнча эксперттер БУУга ачык эскертүү катында киши өлтүргүч роботтордун коркунучтуу коркунучу жөнүндө жазышат. Маск, азыр Googleга таандык DeepMind Technologies AI компаниясынын түзүүчүсү Мустафа Сулейман жана 26 өлкөдөн келген 114 эксперт БУУга AWSтеги жарышуу Pandora кутусун ачышы мүмкүн экенин эскертишет. адамзатка чоң зыян. Алар автономдуу курал системаларын иштеп чыгууга жана киргизүүгө тыюу салууну талап кылышууда.
Бардык кол койгондор бул маселени жакшы билишет, анткени алар жасалма интеллект (AI) тармагында иштешет. Өнүккөн өлкөлөрдүн армияларынын курал -жарактарына киллер роботторду киргизүү аскердик иштер үчүн биринчи жана экинчи революция деп атаган дарыны жана ядролук куралды ойлоп тапкандай мааниге ээ болот деп ишенишет. AWS үчүнчү революция болот деп ишенишет.
"Автономдуу курал системалары жогорку деңгээлге көтөрүлгөндө, аскердик чыр -чатактарды адамзат мурда көрбөгөндөй деңгээлге жеткирет", - деп айтылат жамааттык катта. - Анын үстүнө, бул чоң ылдамдык менен болот. AWS террордун куралына айланышы мүмкүн, деспоттор жана террористтер жарандарга каршы колдоно турган курал …"
Каттын авторлору адамдардын кийлигишүүсүз эле адамдарды жок кыла турган дагы эле гипотетикалык курал тууралуу эскертишет. Ал фантастика категориясынан катаал реалдуулукка айлана турган күн жакындап калды жана бизди мындай системалардын коопсуз башкаруусунан тартып, "темир" таш боорлугунан жана күтүүсүздүгүнөн келип чыккан моралдык жана этикалык көйгөйлөргө чейин көптөгөн татаал суроолорго жооп издөөгө мажбур кылат. өлүмгө дуушар болгон машиналардын.
AWSтин адамзатка коркунучу боюнча өз позициясын бөлүшкөн тарапкерлери менен Маск, ой жүгүртүүгө жана талкууга убакыт жок экенин жана дароо иш -аракет кылуу зарыл экенин баса белгилейт. "Бизде убакыт өтө аз", - деп жазышат БУУда. "Пандоранын кутусу ачылгандан кийин аны жабуу өтө кыйын болот."
Ачык кат жазуу убактысы жөн жерден тандалган эмес. Эксперттер Мельбурн шаарында Эл аралык жасалма интеллект конференциясы (IJCAI) башталган учурга туш келген. Ал дүйшөмбү күнү 21 -августта ачылышы керек болчу, бирок БУУ аны ноябрга жылдырууну чечти.
Ачык каттын аягында Илон Маск жана анын кесиптештери БУУну планетаны киши өлтүргүч роботтордон коргоо стратегиясын ноябрь айына чейин эки эсе көбөйтүүгө чакырышат.
Буга чейин Маск өзү жасалма интеллекттин иштөө коркунучу жөнүндө эскерткен, анткени ага негизделген системалар адамдын көзөмөлүнөн чыга алат. Ошол эле учурда Tesla электр кыймылдаткычтары бар унаалар буга чейин АКШнын жолдорунда учкучсуз режимде айдап жүрүшөт, бул окуяларсыз болбойт.
