Pod čarou: Musk a spol. filozofují o štěstí lidstva. Může to špatně dopadnout

Nemine měsíc, aby se neobjevila další zpráva o miliardáři, který má nový plán na záchranu světa. Občas jde o vyřešení klimatické krize pomocí nějakého nového technologického udělátka, jindy o spásu před nebezpečím divokých umělých inteligencí a často o plán na kolonizaci Marsu i zbytku vesmíru v zájmu celého lidstva.

Někdy se jedná o náhodné aktivity, ale v celé řadě případů stojí v jejich pozadí myšlenkové směry, které začaly v posledních dekádách sílit v prostředí elitních angloamerických univerzit a jejichž společným jmenovatelem je snaha o dosažení co nejšťastnější budoucnosti lidstva. Samy o sobě by se mohly jevit jako nevinné akademické debaty, jenže když se je (nejen) mocní digitální baroni pokouší zavádět do praxe, může to přinést značné problémy.

Většinou jsou tyto směry označovány pojmy efektivní altruismus a longtermismus. V poslední době k nim přitáhl velkou pozornost britský filozof William MacAskill, jehož kniha What We Owe the Future se dočkala řady vzrušených ohlasů a sám MacAskill své myšlenky úspěšně protlačil do předních světových médií i do tweetů Elona Muska.

Filozofii longtermismu a s ní související koncepty ale už před lety začal kromě jiných rozvíjet filozof Nick Bostrom, který v roce 2005 s tímto účelem založil v Oxfordu odvážně nazvaný Institut pro budoucnost lidstva, na který se postupem času nabalila řada dalších organizací a myslitelů včetně zmiňovaného MacAskilla.

Ti se pak začali úspěšně ucházet o přízeň technologických miliardářů (kromě Muska jsou velkými fanoušky longtermistických myšlenek třeba Jeff Bezos nebo Peter Thiel), nashromáždili značné finanční prostředky a infiltrovali se do nejvyšších pater americké a britské politiky či OSN (celý propletenec vztahů dobře mapuje tato esej v magazínu Aeon), a jejich představy tak stojí za bližší rozbor.

Newsletter si můžete poslechnout také v audioverzi.

Základním kamenem efektivního altruismu je představa, že bychom měli konat dobro, řídit se při tom co možná nejracionálnější logickou úvahou a dostupné prostředky účelně vynakládat tam, kde to vede k největšímu prospěchu, bez ohledu na naše případné předsudky a emoce. Tedy že je například za danou sumu vhodnější zachránit životy deseti afrických dětí než jednoho amerického, protože to v úhrnu dává větší množství dobra.

Na obecné úrovni je to zdánlivě smysluplná představa, která proto také získala silný ohlas mezi rozvojovými neziskovými organizacemi, jejichž dárci rádi vidí tvrdá čísla dokazující účinnost jejich pomoci. Když je ale dovedena do důsledků, může dojít ke zjevně krutým a necitlivým závěrům, a kromě jiného také ignoruje vedlejší účinky daných aktivit, které není tak jednoduché měřit.

V praxi to může vypadat třeba tak, že v dané africké vesnici vyléčíme spoustu dětí, jejichž matky pak ovšem budou mít víc času k otročení v blízkém kobaltovém dole. V hodnoticích tabulkách to sice bude vypadat jako efektivní dobro, ale realita v terénu už tak růžová nebude.

Debaty efektivních altruistů také často docházejí až do absurdních konců. William MacAskill například bez uzardění sdílel (na papíře jistě velmi logickou) úvahu, že by se mladí aktivisté měli nechat zaměstnat na dobře placených pozicích ve fosilních korporacích a získané peníze pak využít k prosazování svých cílů, protože to přece jasně dává smysl v poměru cena/výkon.

Efektivnímu altruismu lze i přes jeho odtrženost od reality přiznat alespoň to, že se pokouší o nápravu aktuálních problémů. Filozofie longtermismu ovšem tuto logiku dále rozvádí až k opravdu netušeným koncům.

Její základní principy popisuje právě zmíněná MacAskillova kniha. Vychází z předpokladu, že počet lidí, kteří už od úsvitu našeho druhu žili, je výrazně menší než stovky miliard těch, kteří přijdou po nás. Pokud zajistíme úspěšné přežití a rozrůstání lidstva, musíme myslet na to, že kumulované dobro (ve smyslu dobře prožitých životů) budoucích generací je nesrovnatelně větší než dobro, které můžeme zajistit sami sobě v současnosti, a naše veškeré snažení by tak mělo směřovat právě k budování lepší budoucnosti pro naše potomky.

Na této představě také zdánlivě není nic kontroverzního, protože na dobro potomků myslí většina lidí přirozeně. Na mysl se také vkrádá téma klimatické krize, která je přece jasným příkladem toho, jak je důležité myslet na budoucnost. Háček je ovšem v tom, že klimatická krize je palčivě akutním problémem, jehož dopady už teď závažně trpíme a který vnímáme a řešíme v překvapivě krátkodobém kontextu životů našich dětí či vnoučat, tedy lidí, se kterými budeme moci pravděpodobně hovořit tváří v tvář.

MacAskillův radikální longtermismus se ovšem věnuje budoucnosti v horizontu stovek, tisíců, či dokonce milionů let a události příštích dekád jsou pro něj jen nepodstatnými detaily v širším schématu věcí. Pokud totiž pracujeme s těmito časovými úseky, počet budoucích lidí začne narůstat do astronomických čísel, a longtermisté se tak vyžívají ve výpočtech abstraktních stovek miliard či bilionů životů, pro jejichž neméně gigantické dobro tak musíme pracovat.

Dalším z pilířů longtermismu je proto důraz na kolonizaci vesmíru, protože s každou další osídlenou planetou se počet možných budoucích lidí dále násobí, a když se nám podaří kolonizovat větší část galaxie, počet našich následovníků je téměř neomezený. Ani tady ovšem maximalizace budoucích dobrých životů nekončí, protože longtermisté (zcela v logice své filozofie) usilují i o vývoj umělých inteligencí s vlastním vědomím, které také mohou zažívat ony šťastné životy a v digitálním prostředí se množit donekonečna.

A aby množství onoho budoucího dobra ještě dále rostlo, lze vylepšovat i samotné jednotlivce a jejich potenciál ke šťastnému životu. Longtermismus se proto úzce prolíná s filozofií transhumanismu (mezi jejíž hlavní proponenty patří zmiňovaný Nick Bostrom), která usiluje o navýšení lidských mentálních kapacit prostřednictvím symbiózy s novými technologiemi a umělými inteligencemi.

Posedlost longtermistů technologiemi se odráží i v tom, co považují za nejzávažnější hrozby pro budoucnost lidstva. MacAskill i další sice zmiňují také klimatickou změnu či kolaps biodiverzity, ale mnohem větší váhu přikládají věcem, které ve veřejné debatě zase tak výrazně nefigurují. Je to především hrozba zdivočelé umělé inteligence, která by podle nich mohla zahubit civilizaci, a vedle ní nejrůznější katastrofy, které by mohly zničit lidstvo jako celek – typicky třeba pád velkého asteroidu.

Hrozby, které by mohly lidstvo zasáhnout a vyhubit jen částečně (třeba právě klimatická krize), jsou totiž v horizontu desítek tisíc let jen nepodstatné zádrhele, které budou časem překonány, a vážně je potřeba v logice longtermismu brát jen ony totální katastrofy.

Pokud vám tento typ úvah přijde mírně řečeno nemorální, nejste sami. Longtermismus je často a oprávněně napadán právě z morálních a etických pozic, ale je tu i řada racionálních argumentů, proč úvahy MacAskilla a jeho kolegů zkrátka nemohou fungovat.

Na morální rovině je tu především skutečnost, že celý longtermismus se točí kolem principu účel světí prostředky. Jakékoliv krutosti a příkoří na různých skupinách lidí v současnosti či blízké budoucnosti lze snadno zdůvodnit tím, že k nim dochází ve prospěch nezměrného dobra budoucích generací.

Longtermisté také rádi operují s nejrůznějšími statistikami a pravděpodobnostmi, které jsou ovšem z podstaty věci postavené na vodě a normálně uvažující lidé své rozhodování nikdy neřídí podle toho, jestli to za tisíc let údajně povede ke zkáze lidstva s pravděpodobností 0,2 %.

Na abstraktní čísla pak převádějí i samotné lidské bytosti, které v této perspektivě nemají žádnou vlastní agendu či subjektivní prožívání, ale jsou jen nádobami či nosiči pro určité množství dobra. A jakkoliv se tomu MacAskill vyhýbá pomocí různých rétorických kliček, logickým závěrem jeho myšlenek je představa, že někteří lidé jsou zkrátka více hodnotní než jiní – trpící současník není tak podstatný jako miliony jeho šťastných potomků.

Ještě zrůdnější je skutečnost, že pravidlo účel světí prostředky se tu neaplikuje ve prospěch nějakého konkrétního národa či současné politické ideologie (jak už jsme toho byli v historii mnohokrát svědky), ale pro dobro lidí, kteří vůbec neexistují a jsou jen zcela abstraktní představou vypočtenou na papíře. A zájem tak obrovského počtu jedinců nám logicky dává bianko šek na jakkoliv nemorální a zavrženíhodné jednání, protože nekonečné množství budoucího dobra překryje cokoliv.

Longtermisté zároveň zcela nepokrytě prosazují pokračující vytěžování přírodních zdrojů a expanzi civilizace, protože jinak se množství budoucího dobra nenavýší (proto také trochu nečekaně podporují co největší porodnost a bojí se populačního úbytku), a zcela zjevnou neudržitelnost takového vývoje obcházejí s poukazem na rozvoj technologií, které nám mohou zničenou planetu nahradit.

Mezi morální protiargumenty vůči longtermismu patří v neposlední řadě i fakt, že filozofie transhumanismu a technologického vylepšování lidského vědomí velmi silně zavání eugenikou, která je občas i zcela nepokrytě prosazována – Bostrom se neštítí diskutovat o třídění lidských embryí podle žádaných vlastností a jako jedno z rizik pro budoucí civilizaci uvádí možnost přemnožení méně inteligentních lidí na úkor těch chytřejších. Snad není potřeba dodávat, kam tento typ úvah zjevně směřuje.

Kromě morálních selhání mají myšlenky longtermismu a dalších souvisejících filozofií i zcela zjevné praktické nedostatky. Longtermisté zjevně příliš nevycházejí mezi lidi (například MacAskillovi je pětatřicet a většinu života prožil v prostředí elitních britských škol) a mají překvapivě mizerné povědomí o tom, jak probíhá skutečné politické rozhodování a vytváření společenských hodnot.

Začíná to již u toho, že aby longtermismus (potažmo efektivní altruismus) fungoval, musí vytvořit objektivní a přesnou definici šťastného života a „dobra“, které lze vyčíslit a pak o něj usilovat. MacAskill ve své knize připouští, že je těžké někoho přesvědčit ke shodě na univerzální definici dobra, ale pak s tímto konceptem stejně dál pracuje. Stačí se ovšem podívat na neuvěřitelně širokou paletu lidských kultur, náboženství a politických ideologií, které dobro definují naprosto rozdílnými způsoby, a je jasné, že představa globální shody na univerzálních a vědecky podložených hodnotách je naivní a v mnohém nebezpečný nesmysl.

Longtermisté ignorují přirozený lidský sklon k upřednostňování péče o ty, kteří jsou nám nejblíž, a jejich sounáležitost se zcela hypotetickými budoucími lidskými generacemi na cizích planetách zakrývá naprostý nedostatek empatie k lidem zcela skutečným. A protože jsou pro ně skuteční lidé nepříjemnou a nečitelnou záhadou, radši se obracejí k debatám o umělých inteligencích – představa života v počítačové simulaci, kde spolu šťastně obcují myslící řádky kódu, je pro ně zjevně stravitelnější než složité a nejisté soužití ve skutečné společnosti.

Většina odborníků se sice shoduje na tom, že skutečně samostatná a vědomá univerzální umělá inteligence je nejspíš naprosto nedosažitelný, nebo minimálně velmi vzdálený objev, ale longtermistům to nebrání v rozvíjení úvah o tom, jak nás jednou právě umělé inteligence zničí. Ze všeho nejvíc je to možná psychologická projekce, protože nelidské matematické mysli operující s lidmi jako s čísly mohou být docela dobrým popisem nejen zlých budoucích počítačů, ale i samotných longtermistů.

Na argumentaci ad hominem se sice ve filozofických debatách hledí s úkosem, ale zrovna v případě longtermismu je namístě přihlédnout i k osobnímu pozadí jeho stoupenců. Z valné většiny jde o mladé bílé muže ze západních zemí, tedy skupinu lidí, které globální krize a problémy zasahují jako poslední a nejméně a kteří mají už teď největší šanci na ony šťastné životy. Podezřele mezi nimi ovšem scházejí ženy, senioři, lidé z rozvojových zemí, nejrůznější menšiny a hendikepovaní, tedy přesně ti, jejichž štěstí by bylo záhodno zvýšit už tady a teď.

Mnozí kritici také trefně podotýkají, že jde (s jistou mírou zobecnění) o stejné typy lidí, kteří dříve prosazovali ty historicky nejničivější nápady a myšlenkové proudy (kolonialismus, vytěžování přírodních zdrojů, povýšení člověka nad jiné druhy, neřízený technologický rozvoj, eugeniku, řízení společnosti na základě racionálních vědeckých teorií) a teď se je snaží protlačit znovu, jen obalené do slovníku futurologie a morální filozofie.

Teď už to přeci vyjít musí, a MacAskill tak například zcela vážně navrhuje, že bychom měli přestat těžit fosilní paliva nikoliv kvůli zastavení klimatických změn, ale proto, abychom si nějaká ušetřili pro případ kolapsu a následovného opětovného budování průmyslové civilizace. Když už jsme planetu zničili jednou, proč to v zájmu budoucího dobra neudělat podruhé.

Nebezpečí longtermismu a souvisejících myšlenkových směrů ale nespočívá ani tak v samotné ideologii a jejích zastáncích z řad lehce asociálních oxfordských akademiků. Většina lidí na základě vlastních životních zkušeností a sociální inteligence rychle pochopí, že se z valné části jedná o amorální nesmysl, a na čistě teoretické úrovni jde někdy o jistě zajímavé myšlenky, kterým se lze občas věnovat.

Stejně jako u řady dalších ideologií, i u longtermismu je hlavním rizikem to, že se jich ujmou politici a další vlivní aktéři, kteří je začnou zavádět do praxe, většinou kvůli vlastním zištným zájmům a většinou s tragickými následky.

Není náhodou, že některé části longtermismu rezonují v řadách radikální pravice (třeba zmiňovaná eugenika, zvyšování porodnosti a ignorování demokratické diskuze a hodnotové plurality) a že si získal takovou popularitu zrovna mezi kapitány Silicon Valley. Když budujete rakety na Mars, zatímco vedle sídla vaší společnosti táboří tisíce bezdomovců, nevypadá to z morálního hlediska nejlépe, a tak se vám velmi hodí vznešeně znějící filozofie, která vašim pokleskům dodá racionální a bohulibé pozadí.

Hodí se i důraz na co nejrychlejší technologický rozvoj a expanzi a myšlenka dlouhodobého rozvoje lidstva skvěle popírá a zakrývá potřebu radikálních změn tady a teď – v duchu longtermismu je totiž snadné pokrčit rameny a říci, že z perspektivy příštích staletí je celkem jedno, jestli palčivý aktuální problém vyřešíme dnes, nebo až za padesát let.

O morální pochybnosti a argumentačních faulech longtermismu už toho bylo napsáno mnoho, ale nejjednodušší obranou před abstraktními proroky dobra může být jednoduché pravidlo – když někdo tvrdí, že bychom neměli být sobci a myslet i na dobro budoucích generací, je dobré místo potlesku nejprve prověřit, jestli to pro něj není jen záminka, jak v současnosti nedělat vůbec nic a nerušeně pokračovat v pochybném podnikání a neudržitelném životním stylu.

V plné verzi tohoto vydání Pod čarou najdete mimo jiné i spoustu tipů na další zajímavé čtení z českých i zahraničních médií. Přihlaste se k odběru a v sobotu ráno ho najdete ve své e-mailové schránce.