Více filosofická než technická kniha. Však také autor je původním vzděláním filosof (a taky matematik). Text je relativně složitý, autor se nezdráhá jít do podrobností, čtenáře – zájemce o vývoj AI – by to však nemělo odradit. V úvodních kapitolách je krátce shrnut dosavadní vývoj v oblasti umělé inteligence, různé filosofie přístupů k řešení problému, od 50. let minulého století po současnost. Následně autor zvažuje různé metody vzniku přirozené, lidské, superinteligence. Za mě pravděpodobně nezajímavější část knihy. Probírá a hodnotí metody od prosté a neúčinné eugeniky, přes selekci embryí dle požadovaných vlastností po cílenou manipulaci s DNA (hle, CRISPR!). Odhaduje, jak jsou jednotlivé metody účinné, jaký by měli teoretický přínos (myšleno zvýšení IQ v čase). Analyzuje možnosti vzniku kolektivní superinteligence globálním zvyšováním průměrného IQ (a samozřejmě s tím spojeného zvýšení extrémních hodnot v pravé části grafu normálního rozdělení), tedy svět, kde, autorovými slovy, bude průměrná inteligence na úrovni Turinga a von Neumanna, a extrémy budou ještě mnohem dále. Zbytek knihy je již plně věnován strojové umělé inteligenci. Detailně se zamýšlí nad filozofickým, společenským a kulturním dopadem AI, prozkoumává možnosti AI převzít vládu nad světem, schopnosti a motivace (natolik, jak je to lidským mozkem možné prozkoumat). Detailně rozebírá tzv. zvrácené plnění cíle. Prozkoumává množství oblastí spojených s vývojem a „provozem“ AI. Technologickou singularitu, problémy s učením, řešení úkolů, rizika pro lidstvo, vč. rizika úplného vyhlazení lidstva vlivem zvráceného splnění úkolu (známý „maximalizátor“ výroby kancelářských sponek). Text se snaží hledat odpovědi na otázky, často však víc otázek vyvolává, než na kolik jich odpovídá. A když odpovídá, tak neurčitě, stylem „mohlo by …“. Je to pochopitelné, lidská mysl, jakkoliv geniální, může jen stěží odhalit, po jakých cestách se bude ubírat mysl superinteligentní, nadlidská, vše v knize uvedené jsou, již z definice, spekulace. Bezpochyby důkladně promyšlené a detailně vyargumentované, přesto stále spekulace. Přes neurčitost textu však nelze podceňovat enormní dopad, jaký bude mít vypuštění obecné umělé inteligence do lidského světa, pokud k němu dojde. Rizika lze pozorovat již nyní, v zárodcích, ve specializovaných „jednoúčelových“ AI nástrojích, jako jsou vyhledávací algoritmy, identifikační algoritmy, různé evoluční prohledávací programy (např. návrh elektronických obvodů, vývoj umělých antibiotik). O jak mocný nástroj v rukou nadnárodních korporací a vlád jde, nás denně přesvědčují giganti jako Google, Facebook, Čína, americká NSA, … Problém s podobnými knihami je ten, že informace v nich dost rychle zastarávají, zvlášť s ohledem na překotný vývoj AI v posledních několika letech. Pokud si tedy knihu chcete přečíst, což jednoznačně doporučuji, učiňte tak raději dříve než později. Originál je z roku 2014, za těch pět let se vývoj AI dramaticky posunul, některé informace jsou již zastaralé, za dalších pět let bude kniha, troufám si tvrdit, z větší části nepoužitelná. Možná pouze jako přehled historických konceptů nebo teoretický základ pro začátečníky. Přesto rozhodně doporučuji.

Nelze nic jiného než doporučit, první kapitoly jsou velmi čtivé, posléze je autor asi až příliš odborný/vědecky zaujatý/konkrétní (ne každý tyto kapitoly ocení). ALE (velké ale, opravdu!), tato kniha je základním kamenem/odrazovým můstkem pro většinu aktuálních otázek, respektive otázek, které řešíme již 100vky a více let, ale nejspíše nebudeme řešit příliš dlouho...