Какво заплашва човечеството с компютъризацията на целия ни живот

2024 Автор: Seth Attwood | [email protected]. Последно модифициран: 2023-12-16 15:58

Смартфоните, роботите и компютрите улесняват живота ни, но може би губим нещо в това? Репортерът разговаря с американския писател Никълъс Кар за опасностите и дори заплахите от свръхавтоматизацията.

Широко разпространено е мнението, че автоматизацията на всичко и всеки подобрява качеството на нашия живот. Компютрите ни помагат да постигнем максимална производителност. Софтуерните приложения правят задачите по-бързи и лесни. Роботите поемат досадната и тежка работа. Постоянният поток от иновации от Силиконовата долина само засилва вярата на хората, че новите технологии правят живота по-добър.

Има обаче и друго мнение. Писателят Никълъс Кар подлага постулатите на съвременния дигитален свят на безпристрастен анализ. Есето му „Прави ли ни Google глупави?“, публикувано в Atlantic през 2008 г., все още е противоречиво, както и бестселърът му от 2010 г. The Shallows.

Привържениците на теорията, че технологията ще спаси нашия свят, виждат Кар като един от най-мощните си противници. А тези, които са предпазливи от последиците от технологичния прогрес за човечеството, го уважават заради балансираната му аргументация.

Сега Кар се интересува от нов въпрос: трябва ли да се страхуваме, че постепенно в света няма да има трудни задачи за нас? Ще стане ли животът ни твърде ефективен благодарение на новите технологии?

Срещнах се с писателя преди известно време, за да поговорим за новата му книга „Стъклената клетка: Автоматизация и ние“и какво го накара да я напише.

1. Развенчаване на основния мит за новите технологии

Том Чатфийлд: Ако разбирам правилно, в книгата „Стъклената клетка“се опитвате да развенчаете мита, че опростяването на живота ни благодарение на технологичния прогрес непременно е положително явление.

Никълъс Кар: И на лично, и на институционално ниво сме свикнали да мислим, че ефективността и комфортът са добри по подразбиране и максимизирането им със сигурност е достойна цел. Струва ми се, че този подход към технологиите във всичките й форми, особено под формата на компютърна автоматизация, е доста наивен. Това важи и за нашите собствени желания и реалния живот в съвременния свят.

Ще заменят ли някога компютрите хората?

Т. Ч.: И все пак повечето привърженици на технологичния прогрес се придържат към утилитарната гледна точка, според която най-големите грешки, които допускаме, се дължат на пренебрегването на ефективността и логиката, а всъщност ние самите не знаем какво е добро за нас. Следователно, от тяхна гледна точка, задачата на технологичния прогрес е да идентифицира недостатъците на човешкото мислене и след това да създаде системи, които да компенсират тези недостатъци. Погрешно ли е това мнение?

Н. К.: От една страна, много иновации в развитието на компютърните технологии и развитието на автоматизирани системи нямат нищо общо с широкото твърдение, че хората са много несъвършени в сравнение с компютрите. Да, компютърът може да бъде програмиран да изпълнява определени операции за неопределено време с постоянно качество. И е вярно, че човек не е способен на такова нещо.

Но някои отиват още по-далеч и твърдят, че хората са твърде несъвършени, че ролята им трябва да бъде максимално ограничена, а компютрите трябва да отговарят за всички основни задачи. Тук не става дума само за опити за компенсиране на човешките недостатъци – идеята е да премахнем изцяло човешкия фактор, в резултат на което, твърди се, животът ни ще стане много по-добър.

Т. Ч.: Изглежда, че това не е най-добрата идея. Има ли оптимално ниво на автоматизация?

Н. К.: Според мен въпросът не е дали трябва да автоматизираме тази или онази сложна задача. Въпросът е как да използваме автоматизацията, как точно да използваме компютрите, за да допълним човешките знания и умения, да компенсираме недостатъците в човешкото мислене и поведение, а също и да стимулираме хората да се възползват максимално от собствения си опит, за да достигнат нови висоти.

Превръщаме се в наблюдатели на компютърни монитори

Прекаленото разчитане на софтуер може да ни превърне в наблюдатели на компютърни монитори и оператори на процесния поток. Компютрите могат да играят много важна роля, защото ние сме само хора – можем да станем жертва на предразсъдъци или да пропуснем важна информация. Но опасността е, че е твърде лесно да възложим всички наши функции на компютри, което според мен би било погрешно решение.

2. Трябва ли да доближите реалния живот до сценария на видео игра?

Т. Ч.: С удоволствие отбелязах, че в книгата си цитирате видеоигрите като пример за взаимодействие човек-машина, при което целта е да се преодоляват трудностите, а не да се избягват. Най-популярните игри са вид работа, която дава на играча чувство на удовлетворение. Можем само да се оплачем, че работата, която много от нас трябва да вършат всеки ден, изисква много по-малко умения и ни носи много по-малко удоволствие.

Видео игрите стимулират геймъра да положи допълнителни усилия и да използва мозъка колкото е възможно повече

Н. К.: Видеоигрите са интересни с това, че тяхната концепция противоречи на общоприетите принципи за създаване на софтуер. Целта на компютърните игри изобщо не е да облекчат потребителя от неудобството. Напротив, те стимулират играча да полага допълнителни усилия и да използва мозъка колкото е възможно повече. Ние се наслаждаваме на видеоигрите именно защото те ни предизвикват с непрекъснато нарастващи предизвикателства. Постоянно попадаме в трудни ситуации – но не и в ситуации, които предизвикват отчаяние. Преодоляването на всяко ново ниво само усъвършенства нашите умения.

Този процес е много подобен на начина, по който човек придобива житейски опит в реалния живот. Както знаем, за развитието на способностите човек трябва отново и отново да се сблъсква със сериозни препятствия и да ги преодолява отново и отново, използвайки всичките си знания и умения. Постепенно човек достига ново ниво, след което сложността на препятствията се увеличава.

Мисля, че хората обичат видеоигрите по същата причина, поради която получават удовлетворение от придобиването на нови преживявания и преодоляването на препятствията. Решаването на трудна задача, в процеса на която се придобиват нови знания, необходими за преодоляване на нови, още по-сложни трудности, доставя на човека голямо удоволствие.

Пълното подчинение на компютъра ще ни доведе до живот, в който ще има малко място за самореализация

Едно от основните притеснения, които изразявам в книгата, е, че отношението ни към прогреса е свързано с желанието да избягваме максимално трудните проблеми. Струва ми се, че тази гледна точка противоречи на самата концепция за удовлетвореност от живота и самореализация.

3. Ще премахнат ли компютрите нуждата от хора?

Т. Ч.: За разлика от видеоигрите, в реалния свят упоритата работа не е непременно възнаградена. Реалният свят е несправедлив и небалансиран. Може би най-тревожната тенденция тук е, че интересите на индивида (психологически, лични и дори по отношение на оцеляването) все повече излизат в съответствие с корпоративните и правителствените представи за целесъобразност. Страхувате ли се, че компютрите най-накрая ще заменят хората?

Много игри са трудни за преминаване и изискват необичайни умения и изобретателност от геймърите. Така че защо останалата част от технологията трябва само да улеснява живота ни?

Н. К.: Когато събирах материал за книгата, бях много уплашен от една статия (цитати, от които цитирам в текста), написана от специалист по военна стратегия. Според него, предвид нарастващия мащаб на използването на компютърни технологии на бойното поле, много скоро може просто да няма място за човек във военното дело. Скоростта на вземане на решения е нараснала толкова много, че хората просто не могат да се справят с компютрите. Неизбежно се движим към напълно автоматизирана война: безпилотните летателни апарати сами ще решават кога да изстрелват ракети по цели, а роботизираните войници на земята ще решат сами кога да стрелят.

Според мен тази ситуация се наблюдава не само във военното дело, но и в много други области – например в света на финансите. Хората просто не са в крак с компютрите, когато търгуват с финансови инструменти, например.

Какво ни очаква? Може не само да загубим способността, която ни отличава от компютрите, за критична оценка на собствените ни действия - може би ще внедрим такива системи безмислено, вярвайки, че основното е скоростта на вземане на решения. И тогава, ако сме убедени, че сме сгрешили, ще открием, че няма връщане назад. Много често се оказва невъзможно да се интегрира човек в система, първоначално изградена върху компютърни технологии.

Т. Ч.: Аз също се ужасих, когато прочетох пасаж от вашата книга за автоматизираната война. Имах чувството, че процесът, който ще ни доведе до напълно автономни бойни системи, не може да бъде спрян. Част от ужаса ми идва от спомените за финансовата криза от 2008 г., която на практика унищожи трилиони долари. Поне сега хората са по-отговорни към финансите си. Но ако това се случи във военната сфера, ще бъдат унищожени не долари, а човешки животи.

Бъдеще без хора?

Н. К.: Не само, че новите технологии, особено софтуерните, днес могат да бъдат възпроизвеждани и разпространявани много бързо. Въпросът е, че всички тези процеси протичат в конкурентна среда. Независимо дали говорим за надпревара във въоръжаването или бизнес конкуренция, веднага щом някой от съперниците спечели краткосрочно предимство за сметка на една или друга технология, тази технология се въвежда незабавно, когато е възможно - защото никой не иска да бъде в недостатък.

Мисля, че в тази ситуация е твърде лесно да загубим от поглед факта, че по същество сме животни. Хората са преминали през еволюционен път в продължение на хилядолетия, за да могат да живеят и да оцелеят. Ролята на човечеството, както и нашето чувство на удовлетвореност и самореализация са тясно свързани с нашия опит да живеем в свят, който определя обичайното ни темпо.

Ето защо, когато противопоставим човек, с всичките му физически предимства и недостатъци, на бърз и точен компютър, възниква желанието да отдадем целия си живот на компютрите. Въпреки това забравяме, че пълното подчинение на компютъра ще ни доведе до живот, в който ще има малко място за самореализация.

4. Как автоматизираме света?

Т. Ч.: Вярвам, че трябва да бъдем критични към новите технологии, но съм загрижен за това, че хората превръщат ненужните трудности и антитехнологичната „автентичност“във фетиш. Има такова модерно училище на мислене, което възхвалява тежкия физически труд и твърди, че всичко, което правим, трябва да бъде занаятчийско и автентично. Според мен подобна позиция намирисва на снобизъм и не отчита огромния брой положителни постижения, които демократизацията на технологичния прогрес донесе със себе си.

Н. К.: напълно съм съгласен с теб. В едно интервю ме попитаха как предпазливото ми отношение към напредъка би помогнало например на хората, работещи в тежки условия в месопреработвателните предприятия. Отговорих, че, разбира се, винаги ще има място за автоматизация на производството, където трябва да се подобрят условията на труд на хората. Просто можете да правите иновации интелигентно, или можете да го направите безмислено; можем да намерим начин да вземем предвид стойността на човешкия опит и важността на самореализацията или просто да възхвалим възможностите на компютрите. Правенето на правилния избор не е лесно. Ако възприемаме тази задача изключително черно на бяло - или сляпо се застъпваме за тежък, изтощителен физически труд във всякакви ситуации, или, обратно, виждаме смисъла на живота в сибаризма - това няма да помогне на каузата.

Най-трудната и изискваща изключителна прецизност работа е най-добре да се остави на машините

Хората непрекъснато създават и използват инструменти. От незапомнени времена трябва да вземаме решения, свързани с разделението на труда, с разпределението на количеството работа между човек и инструментите, с които разполага. И ми се струва, че невероятната ефективност на компютрите при изпълнение на широк спектър от задачи само усложнява процеса на вземане на такива решения.

5. Какво ни очаква?

Т. Ч.: Така че човечеството върви ли към успех?

Н. К.: Историкът по естествена история Томас Хюз, който почина миналата година, предложи концепцията за „технологичен импулс“. Той вярваше, че технологиите, вградени в социалните структури и процеси, започват да се развиват сами, влачейки обществото със себе си. Напълно възможно е нашата траектория вече да е зададена и да продължим по сегашния си път, без да задаваме въпроси дали се движим в правилната посока. Наистина не знам какво ще се случи. Най-много, което мога да направя, е да се опитам да разсъждавам по тези наистина трудни въпроси доколкото мога.

Надявам се, че ние, като индивиди и като членове на обществото, ще можем да поддържаме определено ниво на разбиране за това, което ни се случва, както и определено ниво на любопитство и ще вземаме решения въз основа на нашите дългосрочни интереси, а не на базата на обичайните ни концепции за удобство, скорост, точност и ефективност.

Ще дойде ден и роботите ще ни освободят от всички трудности. Имаме ли нужда от него?

Струва ми се, че трябва да се стремим компютрите да обогатяват житейския ни опит и да ни отварят нови възможности, а не да ни превръщат в пасивни наблюдатели на екраните на мониторите. Все още мисля, че ако извлечем повече от новите технологии, те ще могат да направят това, което технологиите и инструментите са правили през цялата човешка история – да създадат по-интересен свят около нас и да ни помогнат да станем по-добри самите. В крайна сметка всичко зависи от нас самите.