Proč jsem proti umělé inteligenci

Pokrok je skvělý. Tedy pokud lidem přináší zlepšení života. Může ale přinést i výrazné zhoršení a to  celému lidstvu a ve velmi krátké době. Domnívám se, že v této fázi nyní jsme. A pokud s tím něco neuděláme, dopadneme špatně.

Posledních 250 000 let se to opakovalo stále stejným způsobem, generace za generací: člověk se narodil, prožil celý svůj život, a když umíral, svět a společnost kolem něj byly stejné jako při jeho narození. Občas nastala nepatrná změna a jednou za mnoho generací nějaká větší. Tomuto stylu života se homo sapiens přizpůsobil – fyzicky i společensky.

Pokrok probíhal, ale nebyl v průběhu dějin rovnoměrný – ještě před tisícem let byl za jeden lidský život nepatrný. Postupně ale začal zrychlovat. Období renesance od 14. století v Evropě odbrzdilo lidskou kreativitu. Vynález knihtisku v 15. století a s ním spojené masové šíření vědomostí proces velmi urychlil. Průmyslová revoluce v 18. století jej opět akcelerovala. Všeobecné používání elektroniky v 20. století vývoj zrychlilo na dříve zcela nepředstavitelnou úroveň. Posledním střípkem do této mozaiky je náhlé objevení se umělé inteligence, která všechny svou dokonalostí ohromuje a má potenciál změnit lidstvo nevídaným způsobem.

Koncem 20. století se již kompletní znalosti lidstva zdvojnásobovaly každých 10 let. Nyní je to ještě rychlejší. Jak dlouho to zrychlování může ještě trvat?

Znalosti lidstva ale vždy jen nerostly. Byla i období, kdy naopak klesaly. Gigantické a nesmírně složité Římské koloseum postavené za pouhých 10 let v roce 80 n.l. bylo vrcholem stavitelství. Evropa však poté upadla a nebyla schopna nic podobného postavit následujících skoro 2 000 let! Angkor Vat, tehdy největší město světa s milionem obyvatel (Londýn jich měl 20 000), vyspělou kulturou a obřími stavbami zaniklo a bylo pohlceno džunglí kolem roku 1 200 a dalších 500 let o něm nikdo nevěděl. Také písmo bylo vynalezeno několikrát a následně opět zapomenuto.

Po celou dobu lidstva byl pokrok brán jako něco pozitivního. Člověk se učil účinněji odolávat silám přírody, uživit se efektivněji, přežít déle, vytvářet větší společenství, zkrátka mít se lépe.

Po celou dobu také platilo, že znalosti lidí jsou důležité a že starší, tedy zkušenější lidé jsou vždy za své vědomosti váženi a oceňováni. Tento tisíce let prověřený princip během posledních 30 let zmizel. Nyní jsou to často mladí, kteří mají větší znalosti než staří nebo jsou schopni je rychleji získat. Čím je však člověk starší, tím je fyzicky i duševně méně flexibilní. Pokud tedy budeme mít všichni perspektivu, že ve stáří nebudeme světu rozumět a nebudeme ani pro společnost důležití, k čemu to povede?

Mám za to, že nyní jsme se dostali příliš rychle na vrchol. Pokrok je zkrátka příliš rychlý na to, abychom se mu jako jednotlivci i jako celá společnost dokázali přizpůsobit. Nevýhody a rizika již začínají převažovat nad výhodami.

Auto, které zrychlí z nuly na 100 km/h za 10 sekund, je dobré pro svého majitele i pro okolí. Pokud to však dokáže za 1 sekundu, je pro svého majitele i pro okolí nebezpečné.

Pokrok není špatný. Špatná je jen jeho rychlost v posledních desetiletích. Pokrok nelze zastavit. Můžeme se však pokusit jej trochu zpomalit a dát tak šanci společnosti se mu přizpůsobit.

Co nyní můžeme dělat, jaké máme možnosti a perspektivy?

1) Budeme dělat totéž co dosud Pokrok bude stále zrychlovat. Nebude síla, která by ho zkrotila. Společnost se začne dělit na ty, kteří s touto rychlostí dokáží držet krok a na ty ostatní. Postupně, ale mnohem rychleji, než si většina lidí myslí, se mezi ostatní dostanou skoro všichni. Ostatní budou zbyteční. Jejich kvalifikace bude k ničemu, budou jen spotřebovávat zdroje. Nakonec někdo nebo něco usoudí, že nejsou potřeba, a zbaví se jich. Tato možnost je nejpravděpodobnější a povede ke katastrofálním důsledkům.

Možná při tom zničíme planetu… možná vzniknou geneticky modifikovaní lidé s nepředpokládanými vlastnostmi… možná zkolabuje celá společnost, protože změny budou tak rychlé, že se jim nedokáže přizpůsobit. Možná budeme mít většinu lidí nezaměstnaných a nezaměstnatelných, kteří se budou životem bezcílně potulovat, než si najdou nějakou jinou aktivitu. Třeba se vzájemně zabíjet, což v minulosti často dělali.

2) Zpomalíme pokrok ve vybraných oblastech Nejprve proběhne široká diskuse na toto téma. Až se rozhodující část lidstva shodne, že to je správný postup, začne aplikovat omezení, ale pouze na definované oblasti výzkumu (umělá inteligence, genetické změny atd.) Vzhledem k tomu, že výzkum stejně probíhá nejvíc ve vyspělých zemích, nebude zavedení těchto opatření tak složité.

Definují se oblasti, ve kterých bude výzkum nelegální, zruší se jeho financování. Ve všech ostatních oblastech výzkum probíhat může. Nastaví se kontrolní opatření a zavedou se sankce proti těm, kteří tato omezení nebudou respektovat.

Může takový proces ale skutečně nastat? Analogií je boj proti změnám globálního klimatu. Toto téma bylo před 30 lety pro většinu společnosti nedůležité a zdálo se zcela nemožné dosáhnout celosvětové shody. Během několika let ale došlo k tomu, že se zcela změnila společenská atmosféra a státy přijaly účinná opatření na ochranu klimatu. Dříve negativní proces dokázaly zpomalit či zvrátit.

Realizace této varianty by byla obtížná, ale možná. I kdyby se nepodařilo dosáhnout všech předem deklarovaných cílů, jakékoli zpomalení v definovaných oblastech by bylo přínosem a dalo by lidstvu čas na to, aby se pokroku dokázalo přizpůsobit.

Není revolta proti pokroku směšná a předem odsouzená k neúspěchu? I v minulosti takové protesty byly, známé je např. hnutí ludditů v Anglii z počátků průmyslové revoluce.

Všechny předchozí snahy se však týkaly nepatrného množství obyvatel planety země. Pokud přišlo o práci několik tisíc lidí v určité oblasti, mělo to na celé lidstvo nepatrný vliv. Dnes se ale dramatické změny týkají miliard lidí! Navíc tyto změny zasahují celou společnost v extrémně krátké době. Tyto celoplanetární změny s vysokou pravděpodobností vyvolají chaos, který si dnes neumíme představit a se kterým nemáme z minulosti žádnou zkušenost.

Za 20 nebo 30 let nebudeme potřebovat téměř žádné ze znalostí, které máme dneska. Všechno, co budeme potřebovat, se budeme muset teprve naučit. To odporuje tisíciletým zvykům i fyziologii homo sapiens, že v mládí se člověk hodně učí, ve středním věku už méně a ve stáří vůbec a naopak předává znalosti mladým.

O tom, že se právě nyní něco zásadně důležitého děje, svědčí bezprecedentní výzva předních světových osobností za zpomalení vývoje umělé inteligence. Fakt, že tuto výzvu podepsali mimo jiné Elon Musk či Steve Wozniak, kteří technickému pokroku věnovali s nadšením celý svůj život, svědčí o tom, že se nacházíme na zásadní křižovatce, která rozhoduje o osudu lidstva.

Co znamená obrácené L v tomto grafu? Nabízí druhý pohled na to, jestli současný vývoj je, či není udržitelný. Představme si křivku vývoje celkových znalostí lidstva, viz obrázek v záhlaví článku. Na vodorovné ose je čas, začíná vlevo před 250 000 lety, vpravo je dnešek. Na svislé ose je suma celkových znalostí lidstva. Jak vypadá ona křivka? Prvních cca 240 000 let je téměř vodorovná, nepatrně roste. Posledních 10 000 let stoupá víc a víc až v posledních letech roste téměř kolmo. Dnes jsme tedy na vrcholku kolmice. Křivka vypadá jako obrácené L.

Představme si nyní jiné křivky, které vypadají podobně. Jak zpravidla pokračují? Rostou směrem nahoru do nekonečna? Ne! Pokračuji vodorovně doprava? Ne! V naprosté většině případů po velmi rychlém dosažení vrcholu nastává prudký pád. Pád až na úroveň běžného vývoje, jaký by byl bez tohoto jednorázového nárůstu. Co to znamená pro lidstvo? To ať si každý domyslí sám…