“…истинската и правилна цел на науките е само тази – да се обогати човешкият живот с нови открития и средства…“

Франсис Бейкън, „Нов органон“ *

КАРТОГРАФИЯ НА БЪДЕЩЕТО

Яна Илиева, март 2020 

„Изкуственият интелект. Кратка история на развитие и етични аспекти на темата“ от Мариана Тодорова

   Човек-машина интерфейс дизайнер, облачен биолог, супервайзър на изкуствен интелект, анализатор на човешкия геном, мениджър на личното пространство, мениджър на дигиталното умиране, психолог за роботи, проектант на роботска личност, съдебен психолог за изкуствен интелект, планетозащитник, ментор или анализатор за машини. Това биха били професионалните поприща от следващо поколение за новите две или три генерации хора в глобален мащаб. Логичен резултат от промените в индустрията и икономиката, доминирани от възхода на роботизацията, свръх автоматизацията и изкуствения интелект. Тези и други предстоящи процеси разглежда доктор Мариана Тодорова в книгата си „Изкуственият интелект. Кратка история на развитие и етични аспекти на темата“ (1), чиято поява през 2019 година предизвика медиен интерес и привлече вниманието на теоретичната общност. 

 

Фокусът е върху Artificial inteligence (AI) като технологичен и социален феномен, с постиженията му до момента и перспективите пред него. Изследването обобщава в стегнат вид основните аспекти на темата, разглеждайки я повече в дискурса на социалните науки, не толкова в инженерната терминология. Авторката  е философ по образование, доктор по футурология, изследовател в Института по философия и социология към Българската академия на науките, и e част от българското представителство на глобалния тинк танк „Милениум Проджект“.

 

Вероятно поради това, че изследването на Мариана Тодорова е оптимално изчерпателно, широкообхватно и достатъчно фактологично, „Изкуственият интелект“ бе представено като първото от този тип в теоретичния домейн на футурологията у нас. В някаква степен бих се съгласила, тъй като аналитичният интерес в българоезичното пространство клони към ниските нива. Не са много дори и  общопопулярните медийни публикации. Сферата на софтуерния development, където вече се прилагат технологиите за машинно обучение, е логично изключение, тъй като там вече има някакво първично натрупване на експертност за нуждите на бизнеса, но не с цел иновации.

 

* „Нов Органон“, Франсис Бейкън, Издателство "Наука и изкуство", Превод М. Ст. Марков, 1968;

[1]. „Изкуственият интелект. Кратка история на развитие и етични аспекти на темата“, гл. ас. д-р Мариана Тодорова, Издателство „Изток-Запад“, 2019;
[2]. „Аз, роботът“ - американски научнофантастичен филм от 2004 година с участието на Уил Смит, режисьор Алекс Пройас;

[3]. „Изкуственият интелект“, стр. 33;

[4]. „Новата Атлантида“, Франсис Бейкън,Издателство Сиела, 2012г.;

[5]. „Изкуственият интелект“, стр. 158;

[6]. „Как да създадем ум. Разкритата тайна на човешкото мислене", Рей Кърцуайл, Издателство „Изток-Запад“ , 2015;

[7]. „Бъдещето. Какво ни носи то и защо това зависи от нас”, Тим О'Райли, Издателство „Изток-Запад“ , 2018;

[8]. „Трансхуманитарната революция. Ка техномедицината и юберизацията на света ще промени коренно живота ни“, Люк Фери, Изд. Колибри, 2017;

[9]. „Изкуственият интелект“, стр. 161;

[10]. Пак там, стр. 51;

[11]. Пак там, стр. 53;

[12]. Пак там, стр. 164;

[13]. Тестът на Тюринг, разработен от Алън Тюринг през 1950 г., е тест за способността на машината да проявява интелигентно поведение, еквивалентно на или неразличимо от това на човек. Повече за теста на Тюринг. 

Some Alt Text

 

Темата „изкуствен интелект“ е предизвикателна, защото би могла да бъде ужасно сложна например в перцепцията на инженер по невронни мрежи, който би ни отвел в дълбокото с детайли за алгоритми, математическа теория и езици за програмиране. И обратно – би могла да е в entertainment сферата на популярната фантастика тип „Аз, Роботът“ (2).  Случаят с „Изкуственият интелект“ е друг. Това е научен текст, подчинен на характерната си структура и методология, но и достъпен, стегнат и информативен; неощетен от сериозността на формата си. Дължи го изцяло на подхода на авторката към темата и най-вече на изказа ѝ. Езикът е в нужната степен авторитетен и задълбочен за теоретичната цел и обхват на изследването, но и достатъчно понятен дори и за широка публика. 

 

Изложението следва логичен порядък първо с хронологичния поглед върху концепцията за разума с не-човешка природа и второ – със стремежа си да изяснява и дефинира основната терминология – какво е интелект, какво е съзнание и т.н. Проследява се до къде отвеждат първоначалата на идеята за изкуствения интелект назад в историята на идеите и става ясно, че импулсът за инженерстване на нови светове далеч не е феномен на 20-тото столетие, още по-малко на 21-вото. Началото е още от Древността с онзи „…изконен човешки стремеж към проекцията и сътворението на своята по-добра същност срез наподобяването на божествената дейност...“ (3). Припомнено е и времето на Средновековието, с неговите „говорещи глави“, бумът на механичните изобретения и изчислителни механизми (Блез Паскал) доста по-късно, изобретенията на 17-ти и 18-ти век, както и отражението на идеите на Лайбниц и Декарт.

 

И става ясно, че Homo creator винаги е имал потребност да вдъхва живот на нови създания, проектирайки в тях своята същност. Дори литературата от предмодерното време отразява тази част от нашата природа (романът “Франкенщайн или новият Прометей”). Същият иновативен ум, любопитен човешки дух, който днес тества границите на изкуствения интелект, е проектирал живот в машината  преди столетия. С други думи - съвършеното механизирано изобретение, което наподобява/подобрява самите нас е наша стара мечта (за прототипите на изчислителните машини виж още статията Artificial Logos).

 

Припомнянето, че съществува непрекъсната историческа линия на визионерска приемственост е от полза за всяко рефлексивно съзнание, което има нужда да види иновациите в културния им контекст, особено когато се изправя пред сложната природа на съвременната наука и концепта за AI. Изследването на Мариана Тодорова прави това важно връщане назад, за да ни покаже, че в стремежа на човека да инженерства, проектира и твори няма нищо ново под слънцето. Виждаме го и в долните редове, писани през 17-ти век от английския емпирик и основоположник на индуктивната логика - Франсис Бейкън в неговата утопична притча за имагинерен остров със съвършено социално устройство - „Новата Атлантида“. По времето на Бейкън еволюционна биология и генетика са много далеч на хоризонта, отделните научни дисциплини - също, а будните умове на своето време развиват естествознанието и точните дисциплини като обща Наука за природата, холистично интегрирана в науките за човека и обществото.

 

„…открихме множество необичайни факти като например как да удължаваме живота, когато определени органи, които смятате за жизненоважни са повредени и извадени от тялото, как да връщаме към живот тяло, което по видими признаци изглежда мъртво и т.н…“

 

„…Изкуствено увеличаваме и ръста им (на фауната – бел.моя), но можем и да ги намаляваме и да задържаме растежа и; можем да увеличим природната им плодовитост, но и да ги правим безплодни. Можем да променяме техния цвят, телесна форма, навици и много други неща…“ (4)

 

През 21-ви век в книгата „Изкуственият интелект“ (не само в нея, но и в цялостното говорене по темата) се натъкваме на хомологично сходство на разказите за бъдещето:

 

„...Още по-непредвидими биха били резултатите, когато изкуственият интелект участва в тази (пре)селекция (на човешки ембрион – бел. моя). В стремежа си да бъде творец, състезаващ се с божествената същност, човек сам ще се превърне в обект на лабораторни експерименти. Чрез технологията на CRISP-CAS9 и инвитро процедурата ще стане напълно възможно да се „поправя“, „добавя“, „премахва“ и изцяло презадава какво да бъде детето като биологични характеристики. Много малко остава до крачката на антиутопичното общество, което ще се състезава да „произвежда“ най-съвършените деца...“ (5)

 

Теоретичният контекст

За изкуствения интелект се мисли, говори и пише все повече, макар и не толкова на български език, колкото би ни се искало. В родното пространство доминира противоречиво нашумелия Ювал Харари, който Мариана Тодорова също цитира. Теоретичният контекст, който поставя изкуствения интелект в модел на социално осмисляне от гледна точка на трансхуманизма и футурологията включва и превода на работата на американеца Рей Кърцуайл - основна фигура в развойната дейност на Google, стоящ зад обосновката на т.нар. сингулярна теория, която допуска идеята за хибридизация между човек и машина (6). И разбира се – Тим О’Райли с превода на български на книгата му „Бъдещето. Какво ни носи то и защо това зависи от нас” (7),  където ще чуем предупреждението за възможни дисфункции на реалността, станала фатално зависима от алгоритмите. Преди три години излезе и сходен като дух и звучене текст под авторството на Люк Фери (8), с философско-социален анализ на идеята за трансхуманизма като стремеж към безграничен update на човешката същност на всички нива, който допира неизбежно до точка на синергия между естествен и изкуствен интелект.

 

Глобално, в Мрежата расте обемът достъпна информация в различни нива на задълбоченост по темата на изследването, което разглеждам. От публицистичното, предназначено за широките аудитории, през специализираните анализи на наблюдатели, до научните доклади наизследователски екипи към университетите, които развиват иновативни технологии и публикуват онлайн своите резултати. Има и растящо количество интердисциплинарни трудове на учени (като Фери или Жилбер Отоа), които опитват да интегрират иновациите в полето на социалните и хуманитарни науки, разсъждавайки за ефектите им върху съзнанието ни, икономическите отношения, комуникацията, взаимотношенията, себеусещането ни, съществуването ни, измеренията на човешкото изобщо, т.е. - да ги осмислят в рамките на общата хуманност. Нещо, в чиято необходимост изглежда е убедена и Мариана Тодорова.

 

Диалозите

Топикът изкуствен интелект не е само инженерен и все повече ангажира мисленето на широк кръг хора извън софтуерните лаборатории и развойните центрове към университетите. Приносът на работата на Мариана Тодорова е, че обединява и представя голяма част от експертните диалози, в концентриран вид; обобщава теоретичните разговори, които се водят в момента. Как се мисли изкуствения интелект почти в реалното време на неговото създаване и усъвършенстване. Това я прави ценна като замисъл в родната ни средата на относителен теоретичен вакуум, където дори и толкова сбита картография на близкото бъдеще звучи интригуващо. Звучи като едно добро начало, защото, струва ми се, все повече изследовататели ще насочват погледи натам.

 

Цялостната картина, очертана стегнато и фокусирано в тази книга, може да остави някого с усещането за изпреварващ Hi-Tech творчески процес, който бърза да материализира човешките фантазии и стремеж да бъдем демиурзи, преди осмислянето на философски въпроси и основните категории на съществуването ни. „Темпото, с което навлизат този тип технологии /в сферата на медицината – бел.моя/, за съжаление, не допуска възможността за дискусия и изработване на консенсус докъде са допустимите граници. Човечеството е на път да взриви ключови концепции като раждане, смърт, болест, професия, брак, смърт...“ (9)

 

Какво казват различните гласове за следващите десетилетия? Тук са технологичните оптимисти, които безусловно вярват в доброто бъдеще на изкуствения интелект и нямат съмнения, че неговото революционно влияние ще е само и единствено в прогресивна посока. И разбира се, техните протагонисти, които калкулират многото неизвестни за всяка сфера от живота ни и са предпазливи заради свръхбързите коловози, в които се движат технологиите, без нужната компенсация на метафизично равнище.

 

Изследването маркира с нужното позоваване основните посоки, в които се работи и се мисли за изкуствения интелект в правото, медицината, медиите, социалните дейности, образованието, от гледна точка на традиционна религия и политическа дейност и дори във военната сфера. Обхваната е широката рамка на света, такъв какъвто го познаваме. Коментират се иновациите, които особено много засягат нашето съществуване, продължителността на живота ни и нарасналите ни възможности да влияем върху генетичния код на природата, както и вярата ни, че интелектът може да бъде възпроизведен по изчислителен път.

 

В тъканта на този обзор са вмъкнати доста от въпросите, върху които изследователската общност мисли. Как ще функционираме или чувстваме, когато машините станат част от живота ни, в сингуларна перспектива на сливане между изкуствен и естествен разум? Успокояващо е, че имаме още път преди да я достигнем. Още сме на етап на не толкова комплексни алгоритми като разработките на Facebook и Google. Все още говорим високопарно за автономни автомобили, езикови преводачи, Интернет на нещата и т.н.

 

В голяма степен тези сложно звучащи иновации са част от „тесния“ AI, в определението на доктор Тодорова, който само изпълнява предефинирани задачи, самообучава се и се самоусъвършенства, но не е носител на самосъзнание, свободна воля и автономия за вземане на решения. „...Позитивното при него е, че той към момента е напълно контролируем, но притежава достатъчно капацитет да извършва безброй различни задачи. Именно тази формула на изкуствен интелект е най-подходяща за сътрудничество, чрез която човешките способности се подсилват, но отпада тревогата за превъзходството над човека и възможните последици от това...“ (10) Типизацията на изкуствения интелект следва с по-напредналите разработки на т.нар. „генерален“ и в крайна фаза - „суперизкуствен“ интелект, при който говорим вече за хибридизация човек-машина. “...типът изкуствен интелект от второ поколение ще има сетивна чувствителност, съзнателност и способност да (се) усеща и придобива опит чрез тази чувствителност на базата на емоции и самосъзнание...“ (11) Там някъде е по-далечният хоризонт на технологичните визионери, които мечтаят в тази равнина, докато конструрират автономния автомобил за утрешния ден.

 

„Пътят се павира, докато крачим по него. Буквално!“

Тези думи са на Джеф Бекер, юрист в щатската Swanson, Martin & Bell, който коментира казусите с авторските права върху музикалните произведения, създадени от алгоритми на изкуствен интелект. Чия интелектуална собственост са те - на човека, създал алгоритъма, на самия алгоритъм /Хм?/ или пък на дифузен субект като „публичното пространство”. Дебатът се води в САЩ от последните 50 години, без особен успех поради тромавата, детерминирана, аналогова правна дефиниция за субекта на авторско право, която изведнъж се изправя лице в лице с новопоявила се реалност, в която субектът може да е друг. Ще припомня и още един красноречив пример за задънената улица в сферата на интелектуалните права. Казусът с маймунското селфи, който е азбучен пример за технологично-схоластичен спор. Ако маймуна си направи селфи, дали правата върху снимката са нейни, само защото пръстът и е натиснал бутона на камерата или са на фотографът, който е задал настройките на кадъра? 

 

Тези примери не са споменати в книгата на Мариана Тодорова, но илюстрират една от ключовите ѝ тези – нуждата от парадигма на ползване, правила и регулации на бъдещите технологии, и несъразмерно бавното темпо, с което те се изковават. Степента на неподготвеност и нуждата от общочовешки консенсус за „технологичната революция“. „...Вижда се, че самите технологични открития безвъзвратно изпреварват етичните и правни дискусии. Така те се ситуират отвъд морала, етиката и правото и няма кога да се запълват и овладяват тези празноти...“ (12)

 

Eдва ли е учудващо, че точно креативната човешка дейност е полето, което първо изостри не само въпроса за собствеността върху интелектуалния продукт, който сме наподобили/възпроизвели/създали, но и въпроса за прозрачността, също коментиран накратко в изследването, което разглеждам. Доколко достъпът и анализът на невронна мрежа са тривиална задача за всеки, който пожелае да надникне с каква информация е била захранена тя /например музикални парчета/? Първо, заради сложността на технологията и второ - защото самата невронна мрежа би могла да бъде търговска тайна. Говорим за едно от притесненията на технологичните песимисти, които смятат алгоритмите за феномен с критична важност за живота ни, но и със статут на black box за обикновения потребител. Прекалено сложни и недостъпни за огромна част от хората, а от там непрозрачни и потенциално безконтролни.

 

Етичните аспекти

Говорейки за етична рамка, за това как философски интегрираме новия „одухотворен“ машинен субект в битието си, си припомням излезлия в далечната 2001-ва година филм на Стивън Спилбърг със същото заглавие като изследването, което е пред нас - „Изкуствен интелект“. В тази лента има въздействаща сцена, в която възбудената тълпа приветства унищожаването на роботи. Истинско зрелище от античен тип. Амфитеатрално струпана публика жадна за саморазправа, арена и обречени жертви /андрогенни машини от различни поколения/. На позорния стълб е прикован и главният персонаж - малкият Дейвид (в ролята Хейли Джоел Осмент), хуманоиден робот-дете от най-ново поколение. Дейвид е технологичен шедьовър и външно е неразличим от истинско 9-годишно момче. Преди да бъде залят с течен метал, той се обръща към тълпата с вълнуващи думи и успява да привлече на своя страна емоциите ѝ. Спасява се, защото хората го чуват и решават, че е истинско дете. Между другото, този момент от филма на Спилбърг е великолепна демонстрация на езика на киното за успешно преминат тест на Тюринг (13). Машината заблуди хората, че е човек!

 

Епизодът е интересен от футурологична гледна точка, защото коментира възможния бъдещ гняв на човека, срещу собственото му творение, желанието за възвръщане на територии, кой заслужава живот и кой не и много други етични аспекти на новите същности, които сме създали. Човекът би бил изправен пред нова гранична ситуация на все по-всеобхватен контрол, благодарение на технологиите, тласнали света в посока на крайна рационализация, до пълното върховенство на инструменталния Разум. В книгата си Мариана Тодорова говори и за „взривяване“ на основни категории в човешкото съществуване. Цялата втора част на текста е посветена на етичните аспекти на съжителството ни с иновациите. Защо изобщо споменавам лентата на Спилбърг? Защото тя припомня, че моралните въпроси са зададени от преди 19 години, когато е сниман филмът, но книгата, която е пред нас на български език, показва с аргументите на теоретичния анализ, че не сме напреднали много с отговорите. Ние действителност павираме пътя под краката си докато вървим.

 

И така - как би се променил живота ни икономически и етически в ерата на изкуствения интелект? Ще припомня думите на Бейкън, които послужиха за мото на този метатекст – за „целта на науката да обогатява човешкия живот с нови открития“. Красивата версия за промяната на живота ни вследствие на новите открития предполага минимум усилия за човека, замяна на много от трудоемките дейности с автоматизирани технологии, облегчаване от досадни дейности и т.н. Не толкова красивата чертае мрачни траектории на отказ от човешки суверинитет, социална и гражданска апатия, суспендиране на права и privacy в една глобално контролирана инфосфера, загуба на работни места и право на труд за нискоквалифицираните маси. Тези бъдещи трендове са напълно в домейна на наука като футурология и се коментират и в изследването на Мариана Тодорова.

 

Допълвам фактологията, на която тя се позовава с още една отметка. Замяната на човешките усилия с машинни алгоритми вече е в проект и при висококвалифицираните дейности като научния анализ и интерпретация на комплексни цифрови данни /data science/. Въпреки, че научните проекти в тази сфера все още изискват доста ръчни процеси, има тренд платформите за машинно обучение като например Google AutoML да заменят учените в доскоро аналогови процеси като подбор на данни, функции, инженеринга, избора или валидирането на модели и прочие. Тенденцията още е неустойчива, но текат сравнителни тестове за ефективност – кой, ученият или машината, ще се окаже по-добър в обработката на големи масиви данни. Последствията от това прехвърляне на задачите пред човешкия разум към машината и то не само по оста сини и бели якички тепърва ще стават ясни. Ще стане ясно и дали нашето любопитство и склонност да надскачаме себе си ще ни помогне да изградим един много по-съвършен свят, пълен с богатствата на Соломоновия дом /по Бейкън/ в или точно обратното – върховното постижение суперизкуствен интелект ще е последното ни откритие, което ще доведе до изчезване на човешката раса /по Илън Мъск и Стивън Хокинг/.