O'zini takomillashtiradigan sun'iy intellekt (AI) kelajakda odamlarni qul qilishi yoki o'ldirishi mumkin. Bu haqda olim Amnon Eden aytdi, u erkin fikrlaydigan va yuqori intellektli ongni rivojlanish xavfi juda katta va "agar siz sun'iy intellektni boshqarish masalalari bilan hozirgi bosqichda shug'ullanmasangiz. rivojlanish, keyin ertangi kun kelmasligi mumkin. " Ingliz tilidagi Express nashrining yozishicha, Amnon Edenning so'zlariga ko'ra, insoniyat bugun mashhur "Terminator" kinopopolining syujetini amalga oshirish uchun "qaytish nuqtasida" turibdi.
Ta'kidlash joizki, doktor Amnon Eden - loyiha rahbari, uning asosiy maqsadi sun'iy intellektning potentsial halokatli ta'sirini tahlil qilishdir. Olimning fikricha, sun'iy intellekt yaratilishining oqibatlari to'g'risida to'g'ri tushuncha bo'lmasa, uning rivojlanishi falokat bilan tahdid qilishi mumkin. Hozirgi kunda jamiyatimizda sun'iy intellektning potentsial ta'sirini tahlil qilish borasida ilmiy jamoatchilikda bo'layotgan munozaralar haqida kam ma'lumotga ega. "Kelgusi 2016 yilda mumkin bo'lgan xavflarni tahlil qilish korporatsiyalar va hukumatlar, siyosatchilar va qarorlar qabul qilish uchun mas'ul bo'lganlarning tafakkurida ancha keng tarqalishi kerak bo'ladi", deydi Eden.
Olim, insoniyatni robotlar tomonidan yo'q qilinishini tasvirlaydigan ilmiy fantastika tez orada bizning umumiy muammoimizga aylanishi mumkinligiga ishonadi, chunki sun'iy intellektni yaratish jarayoni nazoratdan chiqib ketdi. Masalan, Elon Mask, tadbirkor Sem Altman ko'magida, inson ongidan oshib ketishi kerak bo'lgan ochiq manbali AIni ishlab chiqadigan, 1 milliard dollarlik yangi notijorat tashkilotini yaratishga qaror qildi. Shu bilan birga, amerikalik milliarder Elon Maskning o'zi sun'iy intellektni "bizning mavjudligimiz uchun eng katta tahdidlar" qatoriga kiritadi. Apple kompaniyasiga asos solgan Stiv Voznyak o'tgan yilning mart oyida "kelajak odamlar uchun qo'rqinchli va o'ta xavfli bo'lib ko'rinadi … oxir-oqibat, kompyuterlar bizdan ko'ra tezroq o'ylaydigan va sekin odamlardan qutuladigan kun keladi. shunda kompaniyalar yanada samarali ishlashi mumkin."
Ta'kidlash joizki, ko'plab olimlar sun'iy intellektdan xavfni ko'rishadi. Faoliyati qaysidir ma'noda sun'iy intellektni rivojlantirish bilan bog'liq bo'lgan o'nlab taniqli olimlar, investorlar va tadbirkorlar ochiq xatga imzo chekishdi, ularda mehnat xavfsizligi va ijtimoiy foydaliligi masalalariga ko'proq e'tibor qaratiladi. AI sohasi. Astrofizik Stiven Xoking va Tesla va SpaceX asoschisi Elon Musk ushbu hujjatni imzolaganlar qatorida. Xat "Kelajak hayoti instituti" (FLI) tomonidan tayyorlangan qo'shma hujjat bilan birga, sun'iy intellektning mehnat bozoriga ta'siri va hatto butun insoniyatning uzoq muddatli omon qolishi haqidagi xavotirlar ortida yozilgan. robotlar va mashinalarning imkoniyatlari deyarli nazoratsiz o'sadigan muhit.
Olimlar bugungi kunda sun'iy intellektning potentsiali juda katta ekanini tushunishadi, shuning uchun biz bilan birga keladigan tuzoqlarga yo'l qo'ymaslik uchun undan optimal foydalanish imkoniyatlarini to'liq o'rganish kerak, deb yozadi FLI xatida. Sun'iy sun'iy intellekt tizimlari biz xohlagan narsani bajarishi shart. Shunisi e'tiborga loyiqki, "Kelajak hayoti" instituti o'tgan yili bir qancha ixlosmandlari tomonidan tashkil etilgan bo'lib, ular orasida "insoniyat oldida turgan xavflarni minimallashtirish" va "optimistik tasavvur" bilan tadqiqotlarni rag'batlantirish maqsadida Skayp yaratuvchisi Jan Tallin bo'lgan. kelajak haqida ". Bu erda, birinchi navbatda, sun'iy intellekt va robototexnika rivojlanishi bilan bog'liq bo'lgan xavflar haqida gapiramiz. FLI maslahat kengashiga Musk va Xoking, taniqli aktyor Morgan Freeman va boshqa mashhur odamlar kiradi. Elon Maskning so'zlariga ko'ra, sun'iy intellektning nazoratsiz rivojlanishi, ehtimol, yadro qurolidan ko'ra xavfliroqdir.
Britaniyalik taniqli astrofizik Stiven Xoking 2015 yil oxirida sun'iy intellekt texnologiyalaridan voz kechganini tushuntirishga urindi. Uning fikriga ko'ra, vaqt o'tishi bilan aqlli mashinalar odamlarga o'z vazifalarini hal qilishga xalaqit beradigan sarf materiallari yoki chumolilar sifatida qaraydi. Reddit portali foydalanuvchilari bilan gaplashib, Stiven Xoking bunday intellektual mashinalar intellektual ustunligi tufayli butun insoniyatni yo'q qilmoqchi bo'lgan "yovuz maxluqlar" bo'lishiga ishonmasligini ta'kidladi. Ehtimol, ular insoniyatni sezmay qolishlari haqida gapirish mumkin bo'ladi.
«So'nggi paytlarda ommaviy axborot vositalari mening so'zlarimni doimiy ravishda buzib ko'rsatmoqda. AIni ishlab chiqishda asosiy xavf - bu mashinalarning yomonligi emas, balki ularning malakasi. Sun'iy intellekt juda zo'r vazifani bajaradi, lekin agar u va bizning maqsadlarimiz bir -biriga to'g'ri kelmasa, insoniyatni juda jiddiy muammolar kutib turadi”, - deb tushuntiradi mashhur olim. Misol tariqasida, Xoking yangi gidroelektrostantsiya to'g'onining ishlashi yoki qurilishi uchun juda kuchli AI mas'ul bo'lgan faraziy vaziyatni keltirdi. Bunday mashina uchun ishonilgan tizim qancha energiya ishlab chiqarishi ustuvor bo'ladi va odamlarning taqdiri muhim emas. «G'azabdan chumolilarni oyoq osti qiladigan va chumolilarni oyoq osti qiladigan bizda kam, lekin vaziyatni tasavvur qilaylik - siz elektr energiyasi ishlab chiqaradigan kuchli gidroelektrostantsiyani boshqarasiz. Agar siz suv sathini ko'tarishingiz kerak bo'lsa va sizning harakatlaringiz natijasida bitta chumolini suv bossa, cho'kayotgan hasharotlar muammosi sizni bezovta qilmaydi. Odamlarni chumolilar o'rniga qo'ymaylik, - dedi olim.
Sun'iy intellektni yanada rivojlantirishning ikkinchi mumkin bo'lgan muammosi, Xokingning fikricha, "mashinalar egalarining zulmi" bo'lishi mumkin - bu ishlab chiqarishni monopollashtira oladigan boylar o'rtasidagi daromadlar orasidagi farqning tez o'sishi. aqlli mashinalar va dunyoning qolgan aholisi. Stiven Xoking bu mumkin bo'lgan muammolarni quyidagi yo'l bilan hal qilishni taklif qiladi - sun'iy intellektni ishlab chiqish jarayonini sekinlashtirishi va "juda universal" emas, balki juda cheklangan muammolarni hal qila oladigan yuqori darajada ixtisoslashgan sun'iy intellektning rivojlanishiga o'tish.
Xoking va Maskdan tashqari, maktubga Nobel mukofoti sovrindori va MIT fizikasi professori Frenk Uilzek, Mashina razvedkasi tadqiqot instituti (MIRI) ijrochi direktori Lyuk Muhlxauzer, shuningdek, yirik IT -kompaniyalarining ko'plab mutaxassislari imzo chekdilar: Google, Microsoft va IBM, shuningdek, Vicarious va DeepMind AI kompaniyalariga asos solgan tadbirkorlar. Maktub mualliflarining ta'kidlashicha, ular jamoatchilikni qo'rqitmoqchi emas, balki sun'iy intellektni yaratish bilan bog'liq bo'lgan ijobiy va salbiy tomonlarini ajratib ko'rsatishni rejalashtirgan. "Hozirgi vaqtda hamma sun'iy intellekt sohasidagi tadqiqotlar izchil rivojlanayotgani va sun'iy intellektning zamonaviy insoniyat jamiyatiga ta'siri faqat ortib borishiga rozi", - deyiladi maktubda, "insoniyat uchun ochiladigan imkoniyatlar ulkan, zamonaviy tsivilizatsiya hamma narsani. taklifni aqlli odam yaratgan. Agar inson intellektini sun'iy intellekt yordamida ko'paytirish mumkin bo'lsa, biz nimaga erisha olishimizni oldindan ayta olmaymiz, ammo qashshoqlik va kasallikdan qutulish muammosi endi cheksiz qiyin emas.
Sun'iy intellekt sohasidagi ko'plab o'zgarishlar zamonaviy hayotga allaqachon kiritilgan, shu jumladan tasvir va nutqni aniqlash tizimlari, uchuvchisiz transport vositalari va boshqalar. Silikon vodiysi kuzatuvchilarining hisob -kitoblariga ko'ra, hozirda bu sohada 150 dan ortiq startaplar amalga oshirilmoqda. Shu bilan birga, bu sohadagi o'zgarishlar tobora ko'proq sarmoyalarni jalb qilmoqda va Google kabi kompaniyalar AIga asoslangan loyihalarini ishlab chiqmoqda. Shuning uchun, maktub mualliflari, kuzatilayotgan bomning inson hayotining iqtisodiy, ijtimoiy va huquqiy jihatlari uchun mumkin bo'lgan barcha oqibatlariga ko'proq e'tibor qaratish vaqti keldi, deb hisoblaydilar.
Sun'iy intellekt odamlarga xavf tug'dirishi mumkin bo'lgan pozitsiyani antropik printsip bo'yicha ishi bilan mashhur Oksford universiteti professori Nik Bostrom ham qo'llab -quvvatlaydi. Bu mutaxassisning fikricha, sun'iy intellekt shu darajaga yetdiki, uning ortidan odamlar bilan mos kelmaydi. Nik Bostrom ta'kidlashicha, hukumatlar nazorat qilish uchun etarli mablag 'ajratayotgan gen muhandisligi va iqlim o'zgarishidan farqli o'laroq, "AI evolyutsiyasini nazorat qilish uchun hech narsa qilinmayapti". Professorning so'zlariga ko'ra, hozirda sun'iy intellektga nisbatan "to'ldirish kerak bo'lgan huquqiy vakuum siyosati" olib borilmoqda. Hatto zararsiz va foydali ko'rinadigan o'zini o'zi boshqaradigan mashinalar kabi texnologiyalar ham ko'plab savollarni tug'diradi. Masalan, bunday mashina yo'lovchilarini qutqarish uchun favqulodda tormozni bajarishi kerakmi va uchuvchisiz transport vositasi sodir bo'lgan taqdirda kim javobgar bo'ladi?
Mumkin bo'lgan xavflarni muhokama qilar ekan, Nik Bostrom "kompyuter odamlarga foyda va zararni aniqlay olmaydi" va "hatto inson axloqi haqida zarracha tasavvurga ham ega emasligini" ta'kidladi. Bundan tashqari, kompyuterlarda o'zini takomillashtirish tsikli shunday tezlikda yuz beradiki, odam uni kuzatib tura olmaydi va bu haqda deyarli hech narsa qilish mumkin emas, deydi olim. "Kompyuterlar o'zlari o'ylay oladigan rivojlanish bosqichida, bu tartibsizlikka olib keladimi yoki bizning dunyomizni sezilarli darajada yaxshilaydimi, hech kim aniq bashorat qila olmaydi", - dedi Nik Bostrom, masalan, kompyuter uchun oddiy echim - o'chirish. sovuq iqlimi bo'lgan mamlakatlarda odamlarning sog'lig'ini yaxshilash va ularning chidamliligini oshirish uchun "sun'iy intellekt boshiga kelishi mumkin".
Bundan tashqari, Bostrom biotexnologiyamizni oshirish uchun inson miyasini chipping muammosini ham ko'taradi. "Ko'p jihatdan, agar barcha jarayonlar boshqarilsa, bunday protsedura foydali bo'lishi mumkin, lekin agar joylashtirilgan chip o'zini qayta dasturlashi mumkin bo'lsa nima bo'ladi? Bu qanday oqibatlarga olib kelishi mumkin - supermen paydo bo'ladimi yoki faqat odamga o'xshab ko'rinadigan kompyuter paydo bo'ladimi? " - deb so'raydi professor. Kompyuterlar odamlarning muammolarini hal qilish usuli biznikidan ancha farq qiladi. Masalan, shaxmatda inson miyasi faqat tor harakatlarni ko'rib chiqadi va ulardan eng yaxshisini tanlaydi. O'z navbatida, kompyuter barcha mumkin bo'lgan harakatlarni ko'rib chiqadi va eng yaxshisini tanlaydi. Shu bilan birga, kompyuter o'yinda raqibini xafa qilishini yoki ajablantirishini kutmaydi. Shaxmat o'ynaydigan odamdan farqli o'laroq, kompyuter ayyor va nozik harakatni faqat tasodifan bajarishi mumkin. Sun'iy intellekt eng yaxshi usulda hisoblay oladi - u erdan "inson omili" ni olib tashlab, har qanday tizimdagi xatoni yo'q qiladi, lekin odamdan farqli o'laroq, robot odamlarning hayotini saqlab qoladigan ishlarni bajarishga tayyor emas.
Boshqa narsalar qatorida, aqlli mashinalar sonining ko'payishi yangi sanoat inqilobining bosqichini ko'rsatadi. O'z navbatida, bu yaqin kelajakda insoniyat muqarrar ijtimoiy o'zgarishlarga duch kelishini anglatadi. Vaqt o'tishi bilan ish yuqori malakali mutaxassislarga aylanadi, chunki deyarli barcha oddiy vazifalarni robotlar va boshqa mexanizmlar bajarishi mumkin. Olimlarning fikricha, sun'iy intellekt "ko'z va ko'zga muhtoj", shuning uchun sayyoramiz robotlar yashaydigan "Jelezyaka" multfilm sayyorasiga aylanmaydi.
Ishlab chiqarish jarayonlarini tobora ko'proq avtomatlashtirish nuqtai nazaridan, kelajak allaqachon keldi. Jahon iqtisodiy forumi (WEF) o'z hisobotini taqdim etdi, unga ko'ra, avtomatlashtirish 2020 yilgacha turli sohalarda ishlaydigan 5 milliondan ortiq odam ishsiz qolishiga olib keladi. Bu robotlar va robot tizimlarining hayotimizga ta'siri. Hisobotni tuzish uchun WEF xodimlari dunyoning turli burchaklaridan kelgan 13,5 million xodim haqidagi ma'lumotlardan foydalangan. Ularga ko'ra, 2020 yilga kelib, 7 milliondan ortiq ish o'rinlariga bo'lgan umumiy ehtiyoj yo'qoladi, boshqa sohalarda bandlikning o'sishi 2 milliondan oshadi.
