Siz oldin "Kutib turing, bularning hammasi qanday rost bo'lishi mumkin, nega hali ham har bir burchakda bu haqda gapirilmaydi" turkumidagi maqolaning ikkinchi qismi. Oldingi seriyalarda ma'lum bo'lishicha, asta -sekin Yer sayyorasi aholisiga aql -idrok portlashi kirib kelmoqda, u tor doiradan universal intellektga va nihoyat, sun'iy aql -idrokgacha rivojlanishga harakat qilmoqda.
"Ehtimol, biz juda qiyin muammoga duch kelmoqdamiz va uni hal qilish uchun qancha vaqt ajratilgani noma'lum, lekin insoniyat kelajagi uning echimiga bog'liq bo'lishi mumkin." - Nik Bostrom.
Maqolaning birinchi qismi aybsiz boshlandi. Biz tor yo'naltirilgan sun'iy intellektni (marshrutni aniqlash yoki shaxmat o'ynash kabi aniq bir muammoni hal qilishga ixtisoslashgan AI) muhokama qildik, bu bizning dunyomizda juda ko'p. Keyin ular nima uchun umumiy yo'nalishli sun'iy intellektni (aqliy qobiliyatiga ko'ra, har qanday muammoni hal qilishda odam bilan solishtirish mumkin) o'stirish juda qiyin ekanligini tahlil qilishdi. Texnologik taraqqiyotning eksponensial tezligi AGI yaqin orada paydo bo'lishi mumkin degan xulosaga keldik. Oxir -oqibat, biz mashinalar inson aql -idrokiga etib borishi bilan darhol quyidagilar sodir bo'lishi mumkin deb qaror qildik:
Odatdagidek, biz sun'iy intellekt (ISI, har qanday odamdan ancha aqlli) hayotimiz davomida paydo bo'lishi mumkinligiga ishonmay, ekranga qaraymiz va bu boradagi fikrimizni aks ettiradigan hissiyotlarni tanlaymiz.
ISI -ning o'ziga xos xususiyatlarini o'rganishdan oldin, keling, mashinaning o'ta aqlli bo'lishi nimani anglatishini eslaylik.
Asosiy farq tez super razvedka va sifatli super razvedka o'rtasida. Ko'pincha aql bovar qilmaydigan kompyuter haqida o'ylashda, birinchi navbatda, u odamdan ko'ra tezroq - millionlab marta tezroq o'ylay oladi va besh daqiqada odamga o'n yil kerak bo'lganini tushunadi. ("Men kung -funi bilaman!")
Bu juda ta'sirli tuyuladi va ISI haqiqatan ham odamlardan ko'ra tezroq o'ylashi kerak - lekin asosiy farqlovchi xususiyati uning aqlining sifati bo'ladi, bu esa umuman boshqacha. Odamlar maymunlarga qaraganda ancha aqlli, chunki ular tezroq o'ylaydilar, lekin ularning miyalarida maymunlar qila olmaydigan murakkab lingvistik tasavvurlar, uzoq muddatli rejalashtirish, mavhum fikrlashni amalga oshiradigan bir qancha aqlli modullar mavjud. Agar siz maymunning miyasini ming marta tezlashtirsangiz, u bizdan ko'ra aqlli bo'lmaydi - hatto o'n yil o'tgach ham, u ko'rsatmalarga muvofiq konstruktorni yig'a olmaydi, bu odamga ko'pi bilan ikki soat vaqt ketadi. Maymun qancha soat sarflasa ham, miyasi qanchalik tez ishlasa ham, hech qachon o'rganmaydigan narsalar bor.
Bundan tashqari, maymun insoniyligini bilmaydi, chunki uning miyasi boshqa olamlarning mavjudligini anglay olmaydi - maymun odam nima ekanligini va osmono'par bino nima ekanligini bilishi mumkin, lekin osmono'par bino qurganini hech qachon tushuna olmaydi. odamlar Uning dunyosida hamma narsa tabiatga tegishli va makak nafaqat osmono'par bino qura olmaydi, balki uni hamma qurishi mumkinligini ham tushunadi. Va bu aql sifatidagi kichik farqning natijasidir.
Biz gapiradigan umumiy razvedka sxemasida yoki oddiygina biologik mavjudotlar me'yorlariga ko'ra, odamlar va maymunlar o'rtasidagi aql sifatidagi farq juda kichik. Oldingi maqolada biz biologik kognitiv qobiliyatlarni zinapoyaga joylashtirdik:
Aqlli mashinaning qanchalik jiddiy bo'lishini tushunish uchun uni zinapoyadagi odamdan ikki pog'ona yuqoriga qo'ying. Bu mashina biroz aqlli bo'lishi mumkin, lekin uning bilim qobiliyatimizdan ustunligi biznikiga o'xshaydi - maymunlarga qaraganda. Va xuddi shimpanze osmono'par bino qurilishi mumkinligini hech qachon tushuna olmagani kabi, biz bir necha qadam yuqoriroq bo'lgan mashina nimani tushunishini tushunmasligimiz mumkin, hatto mashina buni bizga tushuntirishga harakat qilsa ham. Ammo bu faqat bir necha qadam. Aqlli mashina bizda chumolilarni ko'radi - bu bizga yillar davomida o'z o'rnidan eng oddiy narsalarni o'rgatadi va bu urinishlar umuman umidsiz bo'ladi.
Bugun biz gaplashadigan super razvedka turi bu narvondan ancha narida. Bu aql -idrokning portlashidir - mashina qanchalik aqlli bo'lsa, u shunchalik tez o'z intellektini oshirishi mumkin, asta -sekin tezlikni oshiradi. Bunday mashinaning aql -idrok bo'yicha shimpanzalardan oshib ketishi uchun yillar kerak bo'lishi mumkin, lekin bizdan bir necha pog'ona yuqoriga ko'tarilish uchun bir necha soat kerak bo'lishi mumkin. Shu paytdan boshlab, mashina har soniyada to'rt qadamdan oshib o'tishi mumkin. Shuning uchun biz shuni tushunishimiz kerakki, mashinaning inson aql -idrok darajasiga yetgani haqidagi birinchi xabar paydo bo'lganidan ko'p o'tmay, biz bu zinapoyada bizdan ancha balandroq bo'lgan narsa bilan Yerda birga yashash haqiqatiga duch kelishimiz mumkin. va millionlab marta yuqori):
Bizdan atigi ikki qadam baland bo'lgan mashinaning kuchini tushunishga urinish mutlaqo befoyda ekanligini aniqlaganimiz uchun, keling, ISI nima qilishini va buning oqibatlari qanday bo'lishini tushunishning iloji yo'qligini aniqlaymiz. bu biz uchun bo'ladi. Kimki buning aksini da'vo qilsa, super razvedka nimani anglatishini tushunmaydi.
Evolyutsiya asta -sekin va asta -sekin yuz millionlab yillar davomida biologik miyani rivojlantirdi va agar odamlar o'ta aqlli mashinani yaratsa, biz qaysidir ma'noda evolyutsiyadan ustun bo'lamiz. Yoki bu evolyutsiyaning bir qismi bo'ladi - ehtimol evolyutsiya shunday harakat qiladiki, intellekt asta -sekin rivojlanib, barcha tirik mavjudotlar uchun yangi kelajakni bashorat qiladigan burilish nuqtasiga etadi:
Biz muhokama qiladigan sabablarga ko'ra, ilmiy hamjamiyatning katta qismi, biz bu burilish nuqtasiga yeta olamizmi, emas, balki qachon, deb o'ylashadi.
Biz bundan keyin qaerga boramiz?
O'ylaymanki, bu dunyoda hech kim, na men, na siz, biz chiqish nuqtasiga yetganimizda nima bo'lishini ayta olmaymiz. Oksford faylasufi va etakchi AI nazariyotchisi Nik Bostromning fikricha, biz barcha mumkin bo'lgan natijalarni ikkita katta toifaga ajratishimiz mumkin.
Birinchidan, tarixga nazar tashlasak, biz hayot haqida quyidagilarni bilamiz: turlar paydo bo'ladi, ma'lum vaqtgacha mavjud bo'ladi, keyin muqarrar ravishda muvozanat nuridan tushib, o'ladi.
"Hamma turlar o'ladi" tarixda "hamma odamlar bir kun kelib o'ladi" kabi ishonchli qoida bo'lgan. Turlarning 99,9 foizi hayot jurnalidan tushib ketgan va aniqki, agar bu turga uzoq vaqt osilgan bo'lsa, tabiiy shamol yoki to'satdan paydo bo'lgan asteroid yog'ochni ag'darib yuboradi. Bostrom yo'q bo'lishni attraktor holatini chaqiradi - hamma turlar muvozanatlashadigan joy, shuning uchun hali hech bir tur qaytmagan.
Garchi ko'pchilik olimlar ISI odamlarni yo'q qilish qobiliyatiga ega bo'lishini tan olishsa -da, ko'pchilik ISI imkoniyatlaridan foydalanish shaxslarga (va umuman turlarga) o'ziga jalb etuvchi ikkinchi holatga - turlarning o'lmasligiga erishishga imkon beradi deb ishonishadi. Bostrom, turning o'lmasligi, turning yo'q bo'lib ketishi kabi o'ziga jalb qiluvchi, deb hisoblaydi, ya'ni agar biz bunga erishsak, biz abadiy mavjudotga mahkum bo'lamiz. Shunday qilib, hatto shu paytgacha barcha turlar bu tayoqdan yo'q bo'lib ketish xavfiga tushib qolgan bo'lsa ham, Bostrom bu o'tinning ikki tomoni borligiga ishonadi va er yuzida boshqa tomonga qanday tushishni tushunadigan aql yo'q edi.
Agar Bostrom va boshqalar haq bo'lsa va bizda mavjud bo'lgan barcha ma'lumotlarga qaraganda, ular shunday bo'lishi mumkin, biz ikkita dahshatli faktni qabul qilishimiz kerak:
Tarixda birinchi marta ISI paydo bo'lishi, tur uchun o'lmaslikka erishish va halokatli halokat davridan chiqib ketish uchun yo'l ochadi.
ISIning paydo bo'lishi aql bovar qilmaydigan darajada katta ta'sirga ega bo'ladi, ehtimol u insoniyatni bu jurnaldan u yoki bu tomonga itaradi.
Ehtimol, evolyutsiya shunday burilish nuqtasiga yetganda, u doimo odamlarning hayot oqimi bilan bo'lgan munosabatlariga nuqta qo'yadi va odamlarsiz yoki ularsiz yangi dunyo yaratadi.
Bu shunchaki bumer so'ramaydigan qiziqarli savolga olib keladi: biz bu burilish nuqtasiga qachon etib boramiz va u bizni qaerga qo'yadi? Dunyoda hech kim bu ikki tomonlama savolga javobni bilmaydi, lekin ko'p aqlli odamlar o'nlab yillar davomida buni tushunishga harakat qilishgan. Maqolaning qolgan qismida biz ularning qaerdan kelganini aniqlaymiz.
* * *
Bu savolning birinchi qismidan boshlaylik: burilish nuqtasiga qachon yetishimiz kerak? Boshqacha aytganda: birinchi mashina super razvedkaga yetguncha qancha vaqt qoldi?
Fikrlar vaziyatga qarab farq qiladi. Ko'pchilik, shu jumladan professor Vernor Ving, olim Ben Herzel, Sun Microsystems asoschisi Bill Joy, futurolog Rey Kurtsvayl, TED Talk-da quyidagi grafikni taqdim etganida, mashinasozlik bo'yicha mutaxassis Jeremi Xovard bilan rozi bo'lishdi:
Bu odamlar ISI yaqinda keladi, degan fikrga qo'shiladilar - bu biz uchun hozir sekin ko'rinadigan, keyingi o'n yilliklarda tom ma'noda portlab ketadi.
Boshqalar, masalan, Microsoft asoschisi Pol Allen, tadqiqotchi psixolog Gari Markus, kompyuter mutaxassisi Ernest Devis va texnologiya bo'yicha tadbirkor Mitch Kapor, Kurtsvayl kabi mutafakkirlar muammoning ahamiyatini jiddiy baholamayapti deb o'ylashadi va biz bu darajaga yaqin emasmiz deb o'ylashadi. burilish nuqtasi.
Kurtsvayl lagerining ta'kidlashicha, yuzaga keladigan yagona past baho - bu eksponensial o'sishni e'tiborsiz qoldirishdir va shubhalanuvchilarni 1985 yilda asta -sekin o'sib borayotgan Internetga qaragan va bu yaqin kelajakda dunyoga hech qanday ta'sir ko'rsatmaydi, deb aytganlar bilan solishtirish mumkin.
Shubhalanuvchilar, texnologik taraqqiyotning odatiy eksponensial xususiyatini zararsizlantiradigan, aqlning eksponensial rivojlanishi haqida gap ketganda, keyingi har bir qadamni oldinga siljish qiyinroq, deb o'ylashlari mumkin. Va boshqalar.
Nik Bostrom bo'lgan uchinchi lager, na birinchisiga, na ikkinchisiga qarshi, a) bularning barchasi yaqin kelajakda sodir bo'lishi mumkin; va b) bu umuman sodir bo'lishi yoki uzoq davom etishiga kafolat yo'q.
Boshqalar, faylasuf Hubert Dreyfus singari, har uchala guruh ham hech qachon burilish nuqtasi bo'lmaydi va biz ISIga hech qachon etib bormaymiz, deb ishonishadi.
Agar biz bu fikrlarning barchasini birlashtirsak nima bo'ladi?
2013 yilda Bostrom so'rov o'tkazdi va unda yuzlab AI mutaxassislari bilan quyidagi mavzudagi konferentsiyalarda intervyu o'tkazdi: "Inson darajasida AGIga erishish uchun sizning bashoratlaringiz qanday bo'ladi?" va bizdan optimistik yilni (bizda 10 foizlik imkoniyat bilan AGI bo'ladi), real taxminni (50 % ehtimollik bilan AGIga ega bo'ladigan yilni) va ishonchli taxminni (eng birinchi yilni) nomlashni so'radi. AGI 90 foizlik ehtimollikdan keyin paydo bo'ladi). Mana natijalar:
* O'rtacha optimistik yil (10%): 2022
* O'rtacha real yil (50%): 2040
* O'rtacha pessimistik yil (90%): 2075
O'rtacha respondentlar 25 yildan keyin bizda AGI bo'ladi, deb o'ylashadi. 2075 yilga kelib AGI paydo bo'lishining 90 foizlik ehtimoli, agar siz hali ancha yosh bo'lsangiz, bu sizning hayotingizda ro'y beradi.
Yaqinda Jeyms Barratt tomonidan o'tkazilgan alohida tadqiqot (mashhur va juda yaxshi kitobning muallifi Bizning oxirgi ixtiro, undan parchalar) O'quvchilar e'tiboriga taqdim etdim Hi-News.ru) va Ben Xertzel AGI konferentsiyasida, har yili o'tkaziladigan AGI konferentsiyasida, odamlarning AGIga qaysi yili borganimiz haqidagi fikrlarini ko'rsatdilar: 2030, 2050, 2100, keyinroq yoki hech qachon. Mana natijalar:
* 2030: respondentlarning 42%
* 2050: 25%
* 2100: 20%
2100 dan keyin: 10%
Hech qachon: 2%
Bostrom natijalariga o'xshash. Barratt so'rovida so'ralganlarning uchdan ikki qismidan ko'prog'i 2050 yilga kelib AGI bu erda bo'ladi deb ishonishadi va kelgusi 15 yilda AGI paydo bo'lishiga ishonishadi. Shunisi e'tiborga loyiqki, respondentlarning atigi 2 foizi, qoida tariqasida, kelajakda AGIni ko'rmaydilar.
Ammo AGI ISI kabi burilish nuqtasi emas. Qachon, ekspertlarning fikricha, bizda ISI bo'ladi?
Bostrom mutaxassislardan ASIga qachon yetishimizni so'radi: a) AGIga etib kelganidan ikki yil o'tib (ya'ni, deyarli bir zumda razvedka portlashi tufayli); b) 30 yildan keyin. Natijalar?
O'rtacha fikr shuki, AGIdan ISIga tez o'tish 10% ehtimol bilan sodir bo'ladi, lekin 30 yil yoki undan kamroq vaqt ichida 75% ehtimol bilan sodir bo'ladi.
Bu ma'lumotlarga ko'ra, biz respondentlar ASI ehtimoli 50 foiz deb atashini bilmaymiz, lekin yuqoridagi ikkita javobga asoslanib, taxmin qilaylik, bu 20 yil. Ya'ni, sun'iy intellekt sohasidagi dunyodagi yetakchi mutaxassislar burilish nuqtasi 2060 yilda keladi deb hisoblaydilar (AGI 2040 yilda paydo bo'ladi + AGIdan ISIga o'tish uchun 20 yil kerak bo'ladi).
Albatta, yuqoridagi barcha statistik ma'lumotlar spekulyativ va sun'iy intellekt sohasidagi mutaxassislarning fikrini aks ettiradi, lekin ular shuni ham ko'rsatadiki, ko'pchilik qiziquvchilar 2060 yilga kelib AI kelishi ehtimoliga qo'shilishadi. Faqat 45 yil ichida.
Ikkinchi savolga o'tamiz. Biz burilish nuqtasiga etib borganimizda, halokatli tanlovning qaysi tomoni bizni hal qiladi?
Superintelligence eng kuchli kuchga ega bo'ladi va biz uchun muhim savol quyidagicha bo'ladi.
Bu kuchni kim yoki nima nazorat qiladi va ularning motivatsiyasi nima bo'ladi?
Bu savolga javob, ISI aql bovar qilmas darajada kuchli rivojlanishga, o'lchovsiz dahshatli taraqqiyotga yoki ularning orasidagi narsaga bog'liq bo'ladi.
Albatta, ekspertlar hamjamiyati bu savollarga ham javob berishga harakat qilmoqda. Bostrom so'rovi AGIning insoniyatga ta'sirining mumkin bo'lgan oqibatlari ehtimolini tahlil qildi va 52 % tasodif bilan hamma narsa yaxshi bo'ladi va 31 % tasodif bilan hamma narsa yomon yoki o'ta yomon bo'ladi. Siz, aziz Hi-News o'quvchilari o'rtasida o'tkazilgan ushbu mavzuning oldingi qismi oxirida berilgan so'rovnoma xuddi shunday natijalarni ko'rsatdi. Nisbatan neytral natijaga erishish ehtimoli atigi 17%edi. Boshqacha aytganda, biz hammamiz AGI katta ish bo'lishiga ishonamiz. Shuni ham ta'kidlash joizki, bu so'rov AGI ning paydo bo'lishi bilan bog'liq - ISI holatida neytrallik darajasi past bo'ladi.
Savolning yaxshi va yomon tomonlari haqida chuqurroq o'ylashdan oldin, keling, savolning ikkala tomonini birlashtiraylik - "bu qachon bo'ladi?" va "bu yaxshimi yoki yomonmi?" ko'pchilik ekspertlarning fikrlarini o'z ichiga olgan jadvalga.
Biz bir daqiqadan so'ng asosiy lager haqida gaplashamiz, lekin avval o'z pozitsiyangizni hal qiling. Ehtimol, siz bu mavzu ustida ishlashni boshlashimdan oldin men bilan bir xil joydasiz. Odamlar bu mavzu haqida umuman o'ylamasligining bir qancha sabablari bor:
* Birinchi bo'limda aytib o'tilganidek, filmlar odamlarni va dalillarni jiddiy chalkashtirib yubordi, sun'iy intellekt bilan haqiqiy bo'lmagan ssenariylarni taqdim etdi, bu esa biz sun'iy intellektga umuman jiddiy qaramasligimizga olib keldi. Jeyms Barratt bu holatni kelajakda vampirlar haqida jiddiy ogohlantirish bilan Kasalliklarni nazorat qilish markazlari (CDC) tomonidan chiqarilganiga o'xshatdi.
* Kognitiv noto'g'ri fikrlar tufayli, bizda dalil bo'lmaguncha, biror narsaning haqiqiy ekanligiga ishonish biz uchun juda qiyin. Ishonch bilan tasavvur qilish mumkinki, 1988 yildagi kompyuter olimlari muntazam ravishda Internetning oqibatlari va bu qanday oqibatlarga olib kelishi mumkinligini muhokama qiladilar, lekin odamlar bu sodir bo'lgunga qadar ularning hayotini o'zgartirishiga ishonishmaydi. Shunchaki, 1988 yilda kompyuterlar buni qanday qilishni bilishmagan, odamlar kompyuterlariga qarab: “Haqiqatan ham? Bu dunyoni o'zgartiradigan narsami? Ularning tasavvurlari shaxsiy tajribadan o'rganganlari bilan cheklangan edi, ular kompyuter nima ekanligini bilishar edi va kelajakda kompyuter nimalarga qodir bo'lishini tasavvur qilish qiyin edi. Hozirgi vaqtda AI bilan ham xuddi shunday. Biz bu jiddiy narsaga aylanishini eshitdik, lekin biz hali yuzma -yuz uchrashmaganimiz uchun va umuman olganda, zamonaviy dunyomizda sun'iy intellektning zaif ko'rinishini kuzatayotganimiz uchun, uning tubdan o'zgarishiga ishonish biz uchun juda qiyin. hayotimizni o'zgartiring. Bu qarama -qarshiliklarga qarshi, barcha lagerlardan kelgan ko'plab mutaxassislar, shuningdek, manfaatdor odamlar, kundalik kollektiv egotsentrizm shovqini orqali bizning e'tiborimizni jalb qilishga urinishmoqda.
* Agar biz bularning barchasiga ishongan bo'lsak ham - siz abadiylikni behuda o'tkazishingiz haqida bugun necha marta o'yladingiz? Biroz, rozi bo'ling. Hatto bu haqiqat har kungi va kundalik qilayotgan ishingizdan ko'ra muhimroq bo'lsa ham. Buning sababi shundaki, bizning miyamiz, odatda, har qanday mayda-chuyda narsalarga qaratilgan bo'lib, uzoq muddatli vaziyatga qanchalik aldangan bo'lsak ham. Faqat biz yaratilganmiz.
Ushbu maqolaning maqsadlaridan biri - sizni "Men boshqa narsalar haqida o'ylashni yaxshi ko'raman" lageridan olib chiqib, sizni ekspertlar lageriga joylashtirish, hatto siz maydonda ikkita nuqta chiziq orasidagi chorrahada turgan bo'lsangiz ham. yuqorida, mutlaqo hal qilinmagan.
Tadqiqot jarayonida ko'pchilikning fikri "asosiy lager" tomon tez o'zgarishi aniq bo'ladi va mutaxassislarning to'rtdan uch qismi asosiy lagerda ikkita subkampga tushadi.
Biz ikkala lagerga ham to'liq tashrif buyuramiz. Qiziqishdan boshlaylik.
Nega kelajak bizning eng katta orzuimiz bo'lishi mumkin?
AI dunyosini o'rganar ekanmiz, bizni hayratlanarli darajada ko'p odamlar tasalli zonasida topishadi. O'ng yuqori kvadratdagi odamlar hayajondan g'uvillashmoqda. Ular biz logning yaxshi tomoniga tushamiz, deb ishonishadi va biz ham muqarrar ravishda bunga erishamiz deb ishonishadi. Ular uchun kelajak - faqat orzu qilish mumkin bo'lgan eng yaxshisi.
Bu odamlarni boshqa mutafakkirlardan ajratib turadigan jihati shundaki, ular baxtli tomonda bo'lishni xohlashlarida emas, balki ular bizni kutayotganiga amin bo'lishlarida.
Bu ishonch ziddiyatlardan kelib chiqadi. Tanqidchilar, bu potentsial salbiy tomonlarini yashiradigan hayajondan kelib chiqadi, deb hisoblaydilar. Lekin tarafdorlarining aytishicha, ma'yus bashoratlar har doim sodda; texnologiya davom etmoqda va har doim bizga zarar berishdan ko'ra ko'proq yordam beradi.
Siz bu fikrlardan birini tanlash huquqiga egasiz, lekin shubhalanishni bir chetga surib, siz o'qigan hamma narsa ro'y bergan bo'lishi mumkinligiga ishonishga harakat qilib, muvozanat nurining baxtli tomoniga yaxshilab qarang. Agar siz ovchi yig'uvchilarga bizning farovonlik, texnologiya va cheksiz mo'l -ko'l dunyomizni ko'rsatgan bo'lsangiz, bu ularga sehrli fantastika bo'lib tuyuladi va biz o'zimizni kamtarona tutamiz, lekin bizni kelajakda ham xuddi shunday tushunarsiz o'zgarish kutayotganini tan olmaymiz.
Nik Bostrom aqlli sun'iy intellekt tizimi olishi mumkin bo'lgan uchta yo'lni tasvirlaydi:
* Har qanday aniq savolga, shu jumladan, odamlar javob bera olmaydigan qiyin savollarga javob bera oladigan oracle - masalan, "avtomobil dvigatelini qanday qilib yanada samarali qilish kerak?" Google - "oracle" ning ibtidoiy turi.
* Har qanday yuqori darajali buyruqni bajaradigan - molekulyar assambleyadan foydalanib, avtomobil dvigatelining yangi, yanada samarali versiyasini yaratadi va keyingi buyruqni kutadi.
* Bu dunyoda erkin foydalanish, o'z qarorlarini qabul qilish va jarayonni takomillashtirish imkoniyatiga ega bo'lgan suveren. U shaxsiy transportdan mashinadan ko'ra arzonroq, tezroq va xavfsizroq yo'lni o'ylab topadi.
Bizga qiyin bo'lib tuyuladigan bu savollar va vazifalar, aqlli tizimga, go'yo kimdir vaziyatni yaxshilashni so'raganga o'xshaydi, "qalam stoldan tushdi", siz shunchaki uni olib, qaytarib qo'yasiz.
Sun'iy intellekt bo'yicha amerikalik mutaxassis Eliezer Yudkovskiy buni juda yaxshi aytgan:
"Hech qanday murakkab muammolar yo'q, faqat ma'lum darajadagi aql uchun qiyin bo'lgan muammolar. Bir qadam yuqoriga ko'taring (aql -idrok nuqtai nazaridan) va ba'zi muammolar to'satdan "imkonsiz" toifasidan "aniq" lageriga o'tadi. Bir qadam yuqoriga - va ularning hammasi aniq bo'ladi."
Ko'pgina sabrsiz olimlar, ixtirochilar va tadbirkorlar bizning stolimizdan ishonchli qulaylik zonasini tanladilar, lekin bizga bu dunyoda eng yaxshisi uchun yurish uchun bitta rahbar kerak.
Rey Kurtsvayl noaniq. Kimdir uning g'oyalarini butparast qiladi, kimdir undan nafratlanadi. Ba'zilar o'rtada qolib ketishadi - Duglas Xofstadter, Kurtsvayl kitoblarining g'oyalarini muhokama qilib, "go'yo siz juda ko'p yaxshi ovqat va kichkinagina it axlatini olib, keyin hamma narsani tushunib bo'lmaydigan darajada aralashtirgandek bo'lasiz", deb ta'kidlagan. nima yaxshi va nima yomon ".
Uning g'oyalari sizga yoqadimi yoki yo'qmi, qiziqish soyasidan o'tib bo'lmaydi. U o'smirlik chog'ida narsalarni ixtiro qila boshladi va keyingi yillarda u bir nechta muhim narsalarni ixtiro qildi, jumladan, birinchi tekis skaner, matnni nutqqa aylantirgan birinchi skaner, mashhur Kurzweil musiqa sintezatori (birinchi haqiqiy elektr pianino) va birinchi tijorat muvaffaqiyatli nutq tanuvchisi. Shuningdek, u beshta shov -shuvli kitoblarning muallifi. Kurzveyl o'zining jasoratli bashoratlari uchun qadrlanadi va uning tajribasi juda yaxshi - 80 -yillarning oxirida, Internet hali boshlanmagan paytda, u 2000 -yillarga kelib Internet global hodisaga aylanishini bashorat qilgan. Wall Street Journal Kurtsvaylni "bezovtalanmagan daho", Forbesni "global fikrlash mashinasi", deb atadi. Jurnal - "Edisonning qonuniy vorisi", Bill Geyts - "sun'iy intellektning kelajagini bashorat qiladiganlarning eng yaxshisi". 2012 yilda Google asoschisi Larri Peyj Kurtsvaylni CTO boshlig'iga taklif qildi. 2011 yilda u NASA tomonidan joylashtirilgan va qisman Google homiyligidagi Singularity Universitetiga asos solgan.
Uning tarjimai holi muhim. Kurzveyl o'zining kelajak haqidagi tasavvurlari haqida gapirganda, bu aqldan ozganga o'xshaydi, lekin haqiqatan ham aqldan ozgan narsa - u aql bovar qilmaydigan darajada aqlli, bilimli va aqlli odam. Siz uning bashoratlarida adashgan deb o'ylashingiz mumkin, lekin u ahmoq emas. Kurtsvaylning bashoratini konfor zonasining ko'plab mutaxassislari Piter Diamandis va Ben Herzel bo'lishadi. Bu sodir bo'ladi deb o'ylagan narsa.
Xronologiya
Kurzveylning fikricha, kompyuterlar 2029 yilga kelib umumiy sun'iy intellekt (AGI) darajasiga etadi va 2045 yilga kelib bizda nafaqat sun'iy aql, balki butunlay yangi dunyo - o'ziga xoslik deb ataladigan zamon bo'ladi. Uning sun'iy intellekt xronologiyasi hali ham haddan tashqari bo'rttirilgan deb hisoblanadi, lekin so'nggi 15 yil ichida yuqori darajada sun'iy intellekt (AI) tizimlarining jadal rivojlanishi ko'plab mutaxassislarni Kurtsvaylga qo'shilishga majbur qildi. Uning bashoratlari Bostrom so'roviga (2040 yilga kelib AGI, 2060 yilga kelib ISI) qaraganda ancha ambitsiyali, lekin unchalik emas.
Kurzveylning so'zlariga ko'ra, 2045 yildagi o'ziga xoslik biotexnologiya, nanotexnologiya va, eng muhimi, sun'iy intellekt sohasidagi bir vaqtning o'zida uchta inqilob bilan bog'liq. Ammo davom etishdan oldin - va nanotexnologiya sun'iy intellektni yaqindan kuzatib boradi - keling, nanotexnologiyaga to'xtalib o'tamiz.
Nanotexnologiya haqida bir necha so'z
Biz odatda 1-100 nanometr oralig'ida moddaning manipulyatsiyasi bilan shug'ullanadigan nanotexnologiya texnologiyalarini chaqiramiz. Nanometr - metrning milliarddan bir qismi yoki millimetrning milliondan bir qismi; 1-100 nanometr oralig'ida viruslar (diametri 100 nm), DNK (kengligi 10 nm), gemoglobin molekulalari (5 nm), glyukoza (1 nm) va boshqalarni joylashtirish mumkin. Agar nanotexnologiya hech qachon bizga bo'ysunmasa, keyingi qadam - bir martalik kattalikdagi (~ 1 nm) alohida atomlarni manipulyatsiya qilish.
Odamlar materiyani bunday miqyosda manipulyatsiya qilishda muammolarga duch kelayotganini tushunish uchun, keling, kengroq miqyosga o'taylik. Xalqaro kosmik stansiya Yerdan 481 kilometr balandlikda joylashgan. Agar odamlar gigant bo'lganlarida va ISSni boshlari bilan urganlarida, ular hozirgidan 250 000 marta katta bo'lar edi. Agar siz biror narsani 1 dan 100 nanometrgacha 250 000 marta kattalashtirsangiz, siz 2,5 santimetrga ega bo'lasiz. Nanotexnologiya - bu ISS atrofida aylanib yuradigan, qum donasi yoki ko'z olmasi kabi narsalarni boshqarishga urinayotgan odamga tengdir. Keyingi bosqichga o'tish uchun - alohida atomlarni boshqarish - gigant diametri 1/40 millimetr bo'lgan narsalarni diqqat bilan joylashtirishga to'g'ri keladi. Oddiy odamlarga ularni ko'rish uchun mikroskop kerak bo'ladi.
Birinchi marta Richard Feynman 1959 yilda nanotexnologiya haqida gapirdi. Keyin u shunday dedi: "Fizika printsiplari, men bilganimdek, narsalarni atom bilan boshqarish imkoniyatiga qarshi gapirmaydi. Aslida, fizik kimyogar yozgan har qanday kimyoviy moddalarni sintez qila olardi. Qanaqasiga? Kimyogar moddani olish uchun aytadigan atomlarni joylashtirib. " Bu butun soddaligi. Agar siz alohida molekulalarni yoki atomlarni qanday harakatlantirishni bilsangiz, deyarli hamma narsani qilishingiz mumkin.
Nanotexnologiya 1986 yilda muhandis Erik Dreksler o'zining "Mashinalar yaratilishi" nomli kitobida o'z asoslarini taqdim etganida, jiddiy ilmiy sohaga aylandi, lekin Drekslerning fikricha, nanotexnologiyaning zamonaviy g'oyalari haqida ko'proq bilishni istaganlar uning 2013 yilgi kitobini o'qishlari kerak. Ko'plik).
"Kulrang gu" haqida bir necha so'z
Biz nanotexnologiyaga chuqurroq kirib boramiz. Xususan, "kulrang gu" mavzusi nanotexnologiya sohasidagi juda yoqimli bo'lmagan mavzulardan biri bo'lib, uni e'tiborsiz qoldirib bo'lmaydi. Nanotexnologiya nazariyasining eski versiyalari birgalikda nimadir yaratish uchun trillionlab mayda nanorobotlarni yaratishni o'z ichiga olgan nano-yig'ish usulini taklif qildi. Trillionlab nanorobotlarni yaratishning bir usuli-o'z-o'zini takrorlay oladigan, ya'ni birdan ikkiga, ikkidan to'rtgacha va boshqalarni yaratish. Bir kunda bir necha trillion nanorobotlar paydo bo'ladi. Bu eksponensial o'sishning kuchi. Qiziq, shunday emasmi?
Bu kulgili, lekin aynan apokalipsisga olib kelguncha. Muammo shundaki, eksponensial o'sishning kuchi, bu trillion nanobotlarni tezda yaratishning juda qulay usuli bo'lib, o'z-o'zini takrorlashni uzoq muddatda qo'rqitadigan narsaga aylantiradi. Agar tizim ishdan chiqsa va bir necha trillionlik replikatsiyani to'xtatish o'rniga, nanobotlar ko'payishda davom etsa -chi? Agar bu butun jarayon uglerodga bog'liq bo'lsa -chi? Er biomassasida 10 ^ 45 uglerod atomlari bor. Nanobot 10 ^ 6 uglerod atomining tartibida bo'lishi kerak, shuning uchun 10 ^ 39 nanobot Yerdagi barcha hayotni atigi 130 ta takrorlashda yutib yuboradi. Nanobotlar okeani ("kulrang goo") sayyorani suv bosadi. Olimlarning fikricha, nanobotlar 100 soniyada ko'payadi, demak, oddiy xato er yuzidagi barcha hayotni atigi 3,5 soat ichida o'ldirishi mumkin.
Bundan ham yomoni bo'lishi mumkin - agar terrorchilar va yoqimsiz mutaxassislar nanotexnologiya qo'liga etib borsa. Ular bir necha trillion nanobotlarni yaratib, ularni bir necha hafta ichida butun dunyo bo'ylab jimgina tarqatishni dasturlashlari mumkin edi. Keyin, bir tugmani bosish bilan, atigi 90 daqiqada ular hamma narsani eyishadi, hech qanday imkoniyat yo'q.
Bu dahshatli hikoya ko'p yillar davomida keng muhokama qilingan bo'lsa -da, yaxshi xabar shundaki, bu shunchaki dahshatli hikoya. Erik Dreksler "kulrang goo" atamasini yaratgan, yaqinda shunday degan: "Odamlar dahshatli hikoyalarni yaxshi ko'radilar va bu zombi dahshatli hikoyalaridan biridir. Bu fikr o'z -o'zidan miyani yemoqda ".
Nanotexnologiyaning tubiga yetganimizdan so'ng, biz undan texnik qurilmalar, kiyim -kechak, oziq -ovqat, bioproduktlarni - qon hujayralari, virus va saratonga qarshi kurashuvchilar, mushak to'qimalari va boshqalarni yaratish uchun foydalanishimiz mumkin. Va nanotexnologiyadan foydalanadigan dunyoda, materialning narxi uning etishmasligi yoki ishlab chiqarish jarayonining murakkabligi bilan emas, balki atom tuzilishining murakkabligi bilan bog'liq bo'ladi. Nanotexnologiyalar olamida olmos silginikidan arzonroq bo'lishi mumkin edi.
Biz u erga hali yaqin emasmiz. Va biz bu yo'lning murakkabligini kam baholaymizmi yoki ortiqcha baholaymizmi, aniq emas. Biroq, hamma narsa shu darajada davom etadiki, nanotexnologiya uzoq emas. Kurtsvayl 2020 -yillarga kelib biz ularga ega bo'lamiz deb taxmin qiladi. Dunyo davlatlari biladiki, nanotexnologiya buyuk kelajakni va'da qilishi mumkin, shuning uchun ular ularga ko'p milliardlab sarmoya kiritmoqdalar.
Tasavvur qiling -a, agar aqlli kompyuter ishonchli nanotasvirli yig'uvchiga ega bo'lsa, qanday imkoniyatlarga ega bo'ladi. Ammo nanotexnologiya - bu bizning g'oyamiz va biz uni boshqarishga harakat qilmoqdamiz, bu biz uchun qiyin. Agar ular ISI tizimi uchun shunchaki hazil bo'lsa va ISIning o'zi, biz taxmin qila oladigan har qanday narsadan bir necha baravar kuchliroq texnologiyalarni ishlab chiqsa nima bo'ladi? Biz rozi bo'ldik: hech kim sun'iy aqlning nimalarga qodirligini tasavvur qila olmaydi? Bizning miyamiz nima bo'lishini hatto bashorat qila olmaydi, deb ishoniladi.
AI biz uchun nima qila oladi?
Yuqori razvedka va o'ta razvedka yaratadigan barcha texnologiyalar bilan qurollangan ISI, ehtimol, insoniyatning barcha muammolarini hal qila oladi. Global isish? ISI birinchi navbatda qazib olinadigan yoqilg'ilar bilan bog'liq bo'lmagan energiya ishlab chiqarishning ko'plab samarali usullarini ixtiro qilib, uglerod chiqindilarini to'xtatadi. Keyin u atmosferadan ortiqcha CO2ni olib tashlashning samarali, innovatsion usulini o'ylab topadi. Saraton va boshqa kasalliklar? Muammo emas - sog'liqni saqlash va tibbiyot tasavvur qilib bo'lmaydigan darajada o'zgaradi. Dunyo ochligi? ISI nanotexnologiyadan foydalanib, xuddi tabiiy go'shtni, noldan, haqiqiy go'shtni yaratadi.
Nanotexnologiya axlat yig'indisini yangi go'sht yoki boshqa oziq -ovqat idishiga aylantirishi mumkin (hatto odatdagi shaklda emas - ulkan olma kubini tasavvur qiling) va bu oziq -ovqat mahsulotlarini ilg'or transport tizimlari yordamida butun dunyo bo'ylab tarqatish imkoniyatiga ega bo'ladi. Albatta, bu endi ovqat uchun o'lishi shart bo'lmagan hayvonlar uchun ajoyib bo'ladi. ISI shuningdek, yo'qolib ketish xavfi ostida turgan turlarni saqlab qolish yoki hatto yo'q bo'lib ketganlarni DNKdan qaytarish kabi boshqa ko'p ishlarni ham qila oladi. ISI bizning eng qiyin makroiqtisodiy muammolarimizni - bizning eng qiyin iqtisodiy munozaralarimizni, axloqiy va falsafiy masalalarni, global savdoni hal qila oladi - bularning hammasi ISI uchun og'riqli ko'rinadi.
Ammo ISI biz uchun qila oladigan juda o'ziga xos narsa bor. Hamma narsani o'zgartiradigan jozibali va hayajonli: ISI bizga o'lim bilan kurashishda yordam berishi mumkin … Asta -sekin AI imkoniyatlarini tushunsangiz, ehtimol siz o'lim haqidagi barcha g'oyalaringizni qayta ko'rib chiqasiz.
Evolyutsiya bizning umrimizni hozirgidan uzaytirishi uchun hech qanday sabab yo'q edi. Agar biz bolalarni tug'ish va tarbiyalash uchun etarlicha uzoq yashasak, evolyutsiya etarli. Evolyutsion nuqtai nazardan, rivojlanish uchun 30+ yil etarli va mutatsiyaga hayotni uzaytirish va tabiiy tanlanish qiymatini pasaytirish uchun hech qanday sabab yo'q. Uilyam Butler Yeyts bizning turimizni "o'layotgan hayvonga bog'langan ruh" deb atadi. Juda qiziq emas.
Hammamiz qachondir o'lganimiz uchun, biz o'lim muqarrar degan fikr bilan yashaymiz. Biz vaqt o'tishi bilan qarish haqida o'ylaymiz - oldinga siljishni davom ettiramiz va bu jarayonni to'xtata olmaymiz. Ammo o'lim haqidagi fikr xiyonatkordir: biz uni bosib olsak, biz yashashni unutamiz. Richard Feynman yozgan:
"Biologiyada ajoyib narsa bor: bu fanda o'limning zarurligi haqida gapiradigan hech narsa yo'q. Agar biz abadiy harakatlanuvchi mashinani yaratmoqchi bo'lsak, biz fizikada buning mumkin emasligini yoki qonunlar noto'g'ri ekanligini ko'rsatadigan etarli qonunlarni topganimizni tushunamiz. Ammo biologiyada o'limning muqarrarligini ko'rsatadigan hech narsa yo'q. Bu meni bu muqarrar emasligiga ishontirishga undaydi va biologlar bu muammoning sababini, bu dahshatli universal kasallikni aniqlab berishlari vaqt o'tishi kerak ".
Gap shundaki, qarishning vaqt bilan hech qanday aloqasi yo'q. Qarish - bu tananing jismoniy materiallari eskirganda. Avtomobil qismlari ham yomonlashadi - lekin qarish muqarrarmi? Agar siz mashinangizni ehtiyot qismlari eskirgan holda ta'mirlasangiz, u abadiy qoladi. Inson tanasi bundan farq qilmaydi - faqat murakkabroq.
Kurtsvayl inson salomatligi uchun son-sanoqsiz vazifalarni bajaradigan, shu jumladan, tananing istalgan joyida eskirgan hujayralarni muntazam ravishda ta'mirlash yoki almashtirishga qodir bo'lgan, aqlli, Wi-Fi tarmog'iga ulangan nanobotlar haqida gapiradi. Bu jarayonni takomillashtirish (yoki aqlli ASI taklif qilgan alternativani topish) nafaqat tanani sog'lom qiladi, balki qarishni qaytarishi mumkin. 60 yoshli va 30 yoshli odamning tanasi o'rtasidagi farq, to'g'ri texnologiya yordamida tuzatilishi mumkin bo'lgan bir nechta jismoniy muammolardir. ISI odam 60 yoshida kiradigan va 30 yoshida chiqib ketadigan mashina yasashi mumkin.
Hatto buzilgan miya ham yangilanishi mumkin edi. ISI, albatta, miya ma'lumotlariga (shaxsiyat, xotiralar va boshqalar) ta'sir qilmasdan buni qanday qilishni biladi. Miyaning to'liq degradatsiyasi bilan og'rigan 90 yoshli keksa odam qayta tayyorgarlikdan o'tishi, yangilanishi va hayotining boshiga qaytishi mumkin. Bu bema'nilikdek tuyulishi mumkin, lekin tanasi - bir hovuch atomlar va ISI ularni, har qanday atom tuzilmalarini osonlikcha boshqarishi mumkin edi. Bu unchalik absurd emas.
Kurzveyl, shuningdek, vaqt o'tishi bilan sun'iy materiallar tanaga tobora ko'proq qo'shilib ketishiga ishonadi. Birinchidan, organlarni abadiy davom etadigan va hech qachon buzilmaydigan o'ta ilg'or mashina versiyalari bilan almashtirish mumkin. Shunda biz tanani to'liq qayta tuzishimiz mumkin edi, qizil qon hujayralarini o'z -o'zidan harakatlanadigan mukammal nanobotlar bilan almashtirib, yurakka bo'lgan ehtiyojni butunlay yo'q qila olardik. Shuningdek, biz bilim qobiliyatimizni yaxshilashimiz, milliardlab marta tezroq o'ylashni boshlashimiz va bulut orqali insoniyat uchun mavjud bo'lgan barcha ma'lumotlarga kirishimiz mumkin edi.
Yangi ufqlarni tushunish imkoniyatlari cheksiz bo'lar edi. Odamlar jinsiy aloqani yangi maqsad bilan ta'minlashga muvaffaq bo'lishdi, ular buni faqat ko'payish uchun emas, balki zavqlanish uchun qilishadi. Kurzvayl, biz ovqat bilan ham shunday qila olamiz, deb hisoblaydi. Nanobotlar ideal oziqlanishni to'g'ridan -to'g'ri tana hujayralariga etkazib berishi mumkin, bu esa zararli moddalarni tanadan o'tishiga imkon beradi. Nanotexnologiyalar nazariyotchisi Robert Freitas allaqachon inson tanasida qo'llanilganda, unga 15 daqiqa davomida nafas olmaslikka imkon beradigan qon hujayralari o'rnini yaratdi. Tasavvur qiling, ISI qachon hokimiyatga ega bo'ladi.
Axir, Kurtsvayl insonlar butunlay sun'iy bo'ladigan darajaga yetishiga ishonadi; biz biologik materiallarga qaraganimizda va ular qanchalik ibtidoiy bo'lgani haqida o'ylaydigan vaqt; Biz insoniyat tarixining dastlabki bosqichlari haqida o'qiymiz, mikroblar, baxtsiz hodisalar, kasalliklar yoki qarilik odamni irodasiga qarshi qanday o'ldirishi mumkinligiga hayron bo'lamiz. Oxir -oqibat, odamlar o'z biologiyasini mag'lubiyatga uchratib, abadiy bo'lib qoladilar - bu biz boshidan beri gaplashib kelayotgan muvozanat nurining baxtli tomoniga yo'l. Va bunga ishonadigan odamlar, shunday kelajak bizni juda tez orada kutayotganiga aminlar.
Kurtsvaylning g'oyalari keskin tanqidga uchraganiga hayron bo'lmaysiz. Uning 2045 yildagi o'ziga xosligi va undan keyin odamlar uchun abadiy hayot "nerdlarning ko'tarilishi" yoki "IQ darajasi 140 bo'lgan odamlarning aqlli yaratilishi" deb nomlangan. Boshqalar esa, optimistik vaqt oralig'iga, inson tanasi va miyasi haqidagi tushunchaga shubha bilan qarashdi, hali ham yo'q bo'lmagan Mur qonunini eslatishdi. Kurtsvaylning g'oyalariga ishongan har bir mutaxassis uchun, uni xato deb hisoblaydigan uch kishi bor.
Ammo eng qiziq tomoni shundaki, u bilan umuman qo'shilmaydigan mutaxassislarning ko'pchiligi, bu umuman imkonsiz, deb aytishmaydi. Ular "bema'nilik, bu hech qachon bo'lmaydi" deyishning o'rniga, "agar biz ISIga etib borsak, bularning hammasi sodir bo'ladi, lekin bu muammo" degan gapni aytishadi. Sun'iy sun'iy yo'ldosh xavfi haqida ogohlantirgan taniqli AI mutaxassislaridan biri Bostrom ham tan oladi:
"Yuqori razvedka hal qila olmaydigan, hatto hal qilishda bizga yordam beradigan muammo qolmadi. Kasallik, qashshoqlik, atrof -muhitni yo'q qilish, har xil azob -uqubatlar - bularning barchasini nanotexnologiya yordamida bir zumda hal qilish mumkin. Nanomeditsin yoki bizni bulutga yuklash qobiliyati yordamida qarish jarayonini to'xtatish va qaytarish orqali superintelligence bizga cheksiz umr ko'rsata oladi. Superintelligence, shuningdek, intellektual va hissiy qobiliyatlarning cheksiz o'sishi uchun imkoniyatlar yaratishi mumkin; u bizga quvonch va tushuncha bilan yashaydigan, ideallarimizga yaqinlashadigan va orzularimizni muntazam ro'yobga chiqaradigan dunyoni yaratishga yordam berishi mumkin ".
Bu Kurtsvayl tanqidchilaridan birining iqtibosidir, ammo, agar biz xavfsiz ASIni yarata olsak, bularning barchasi mumkinligini tan oladi. Kurzveyl, agar iloji bo'lsa, sun'iy aql qanday bo'lishi kerakligini aniqlab berdi. Va agar u yaxshi xudo bo'lsa.
Qulaylik zonasi himoyachilarining eng aniq tanqidlari shundaki, ular ISI kelajagini baholaganda, ular xato qilishlari mumkin. Kurzveyl o'zining "Singularity" kitobida ISIning 700 ta potentsial tahdididan 20 sahifasini ajratdi. Savol biz ISIga kelganimizda emas, uning motivatsiyasi nima bo'ladi, degan savol. Kurtsvayl bu savolga ehtiyotkorlik bilan javob beradi: “ISI ko'plab xilma -xil harakatlardan kelib chiqadi va bizning tsivilizatsiya infratuzilmasiga chuqur singib ketadi. Aslida, u bizning tanamiz va miyamizga yaqin joylashadi. U bizning qadriyatlarimizni aks ettiradi, chunki u biz bilan bir bo'ladi ".
Agar javob shunday bo'lsa, nega bu dunyoda aqlli odamlar sun'iy intellektning kelajagi haqida qayg'urishadi? Nega Stiven Xoking ISIning rivojlanishi "insoniyatning yo'q qilinishini anglatishi mumkin" deb aytadi? Bill Geytsning aytishicha, u "bezovta bo'lmagan odamlarni tushunmaydi". Elon Mask "jinni chaqirayotganimizdan" qo'rqadi. Nima uchun ko'plab mutaxassislar ISIni insoniyat uchun eng katta tahdid deb bilishadi?
Bu haqda keyingi safar gaplashamiz.
