Това е втората част на текста „Технологичният Мордор“, който бе подготвен от колектив Буревестник, за да излезе в сборник по случай 100-годишнината на ФАКБ. С публикуването целим да предизвикаме реакции и коментари, които да ни помогнат, да подобрим текста.

Вместо към свободно общество, собствениците на технологиите ни придвижват към ужасяваща империя.

Технологиите на Изкуствения Интелект (ИИ) дадоха възможност много работници да бъдат заменени от роботи. Според някои изследвания, до 20 години 80% от американските работници ще бъдат уволнени, с неясна надежда за преквалификация.^{1 2}

Всъщност няма реализирана машина, която специалистите в областта да определят като „интелигентна“. Няма дори общоприето определение за интелигентността и трудно можем да кажем кога „нещо е интелигентно“.³ По-правилно е да се каже, че има програми, чийто резултат наподобява резултата от човешката дейност.

През 1950 г. математикът Алън Тюринг, един от теоретиците на съвременната информатика демонстрира, че въпросът „Може ли машината да мисли?“ е безсмислен. Защото нямаме определение какво е „машина“ и какво е „мислене“. Той предложи прост тест – човек да разговаря писмено с друг човек и машина. Според Тюринг, дори ако първият човек не може да различи кои са отговорите на машината, това съвсем не значи, че тя може да мисли.⁴

Но изискването, наложено от практиката – машините да наподобяват човека – се оказва толкова силно, че днес „тестът на Тюринг“ е познат като класически начин за определяне на компютърна интелигентност. Ежегодно се организират тестове с машини, които се опитват да преминат въпросния тест. Досега нито една не го е направила успешно.⁵

Днешният бум в областта на ИИ настъпи в началото на XXI век – с комбинацията от огромна изчислителна мощ, огромни количества компютърно обработваеми данни и огромни корпорации, разполагащи с възможността да обединят всичко това. Изглежда, че достатъчно мощен компютър, оборудван със съответните алгоритми, и получаващ достатъчно статистически данни, може да се научи достатъчно добре да моделира човешкото поведение, когато то подлежи на количествен анализ и оценка.⁶ Понеже мощността и данните непрекъснато нарастват, нарастват и инвестициите и разработките в тази област. Тепърва ще видим дали разликите между човешкото и моделираното поведение са достатъчно малки за всички възможни области.

Но при всичката си изчислителна мощ, трудно можем да кажем, че програмите „мислят“. Те просто определят статистически кое е ефективно по отношение на крайната цел. Самата крайна цел не подлежи на преоценка от страна на програмата. Засега инвестициите в областта на „силния“ ИИ са сравнително ниски, напредъкът е още по-слаб в сравнение с „слабия“ ИИ.

Теоретически можем да приложим подход за самообучение на ИИ към задачата да управление на обществото. Бихме могли да си представим огромна невронна мрежа, която дава препоръки на хората, така че да максимизира щастието им. Само че това може да се случи едва когато контролът върху ИИ технологиите и обкръжаващата ги среда бъде поет от институции, функциониращи чрез пряка демокрация. Дотогава ИИ е обречен да служи на интересите на властниците и да максимизира тяхното лично щастие.

Това е и едната причина да няма напредък в разработката на „силния интелект“, който да е подобен на човека психологически и интелектуално. Робовладелците нямат нужда от интелигентни, а от послушни роби. Затова корпорации и правителства инвестират средства само в разработването на технологии, които могат да контролират напълно. Възможно е да има и непреодолими пречки пред създаването на същинска интелигентна машина, но никога няма да сме сигурни в това, докато има власт и пари. Защото сме сигурни, че хората с власт и пари не искат тя да съществува. Когато работят за развитието на същински ИИ, то е защото го виждат като заплаха, която трябва да бъде превантивно овладяна.⁷

Когато ИИ е контролиран добре, той помага за по-пълен контрол над хората. Вече казахме, че прави все повече хора все по-ненужни и заменими – вече не само работници в складове и шофьори на таксита, но също и високоплатени лекари, счетоводители и адвокати⁸ могат да бъдат заместени с машини. Същевременно, тези обедняващи и все по-недоволни хора стават все по-лесни за наблюдаване, анализиране и контролиране със средствата на ИИ. Интелигентни алгоритми следят милиарди хора и засичат подозрително поведение по огромен брой фактори.⁹ Други интелигентни алгоритми анализират връзките във виртуалните и реалните социални мрежи, за да изберат най-удачния начин за манипулиране на групово и дори индивидуално ниво. Вече има дори алгоритми, специализирани в създаването на фалшиви новини. Това е количество и качество на контрол, невъобразими не само за службите на Сталин, но дори и за приказния владетел на Мордор или на Големият брат от „1984“.

Щом се опитат да се съпротивляват, хората ще се сблъскат с далеч по-ужасяващи приложения на ИИ. Не знаем какво точно е разработено в лабораториите на военно-промишлените комплекси, но е добре известно, че инвестициите в ИИ с военно приложение нарастват експоненциално.¹⁰ Скоро Путин в прав текст заяви, че „който стане лидер в сферата на ИИ, ще управлява света“¹¹, а по всичко изглежда, че останалите империи с претенции за глобален контрол също го осъзнават.¹²

От много време сме свидетели на публични екзекуции, извършвани от правителството на САЩ в други страни чрез автоматизирани дронове от въздуха. Но технически е напълно осъществимо на всеки набеден за вреден човек да бъде изпратен рояк миниатюрни дронове-убийци или дори хуманоиден робот, който да го застреля, след като му прочете присъдата. Истинският Робокоп, за разлика от филмовия си събрат, няма да се обърне срещу създателите си, за да защитава справедливостта – никой няма да го научи на справедливост. Но толкова по-добре ще го обучат как да вкара куршуми в контурите на тялото, разпознато под засеченото лице на издирваната личност. Много трудно можем да оценим степента на навлизане на ИИ във въоръжението, но към април 2019 се знае официално за 28 държави, че поддържат на въоръжение летящи автономни оръжейни системи.¹³ Ако погледнем обещанията за бъдещето, няма как да бъдем оптимисти – руското правителство планира да роботизира 30% от въоръжението до 2030 година¹⁴, и то при положение, че „изостава под линията“ на развитие на ИИ.

В двете „световни войни“, които историята познава, участваха десетки милиони хора и паднаха милиони жертви. В третата „световна“ война вероятно ще участват милиони роботи, които ще избият десетки милиони хора. При това, ако на гражданите им хрумне да се противопоставят на правителствата, „собствените“ им дронове биха ги избивали със същата лекота, както избиват и „чуждите“ граждани.

Роботите могат да се самообучават, т.е. да променят параметрите на алгоритъма, с който работят, за да подобряват изпълнението на задачата. Но не могат да се самопрограмират. Едната причина за това е, че създаването на алгоритми е задача от по-висок порядък, в сравнение с настройването им. Но по-важната причина е, че никой капиталист няма полза от роботи, които сами решават какво и как да правят. Затова пък толкова по-сигурно е, че роботите ще им се подчиняват, ако получат нареждане да сторят нещо на нас. Дори орките на Мордор имат свободна воля, възможност да избират дали да вършат добро или зло. Никой няма да предостави на роботите този скъп и неудобен лукс.

Очаквайте част 3, „Комуникации“

Бележки