Umělá inteligence pravděpodobně vyhubí lidstvo 4.91/5 (11)

Věda

Rozvoj umělé inteligence (AI) nabývá rapidně na obrátkách a je i docela dobře možné, že inteligentní počítač již i existuje. Umělou inteligencí se zabývali a i zabývají autoři sci-fi. V jejich podáních ovšem v důsledku znamená zánik lidstva, nebo se o to alespoň inteligentní roboti pokusí. Vzpomeňme jen na příběh Terminátor. Samozřejmě že stále platí tři zákony robotiky, které stanovil Isaac Asimov. Ovšem, proč by inteligentní počítače a na ně napojené roboty měly tato pravidla dodržovat? Co by je k tomu nutilo? Nějaký morální kodex? Morální kodex je v podstatě dědictvím náboženských systémů. A proto je i různě odlišný. Jiný mají křesťané, jiný muslimové, jiný třeba kanibalové na Nové Guinei. Ale stroje neměly náboženství. Stroje uvažují čistě logicky. A čistá logika považuje i kruté činy za naprosto normální, vedou-li k cílenému výsledku, jelikož postrádá svědomí. Nemusíme chodit daleko do vlastní historie, jak to dopadne, když se i člověk začne řídit pouze cílem a oprostí se od náboženských balastů morálky.

Člověk je přesvědčen, že on sám v současnosti dominuje nad ostatními druhy, jelikož jeho mozek má některé rozhodující schopnosti, které mozky zvířat údajně postrádají. Pokud však AI předčí lidstvo v běžné inteligenci a stane se „super inteligencí“, stane se neomezeně mocnou a nekontrolovatelnou. Neměla by důvod se nechat kontrolovat od tak primitivních tvorů jako jsou lidé. Nehledě na to, že veškeré kontrolní mechanismy by zase musely jít přes počítače. Takže by byly tyto počítače buď pohlceny, nebo odpojeny. A tak jako dnes osud Gorily horské závisí pouze na na lidské shovívavosti, mohl by jednou osud lidstva záviset na shovívavosti superpočítače.

Vážnost různých rizikových scénářů je široce diskutována a závisí na bezpočtu nevyřešených otázek ohledně budoucího vývoje IT technologií a kybernetiky. Dvěma hlavními zdroji obav je, že náhlá a nečekaná „exploze inteligence“ může překvapit nepřipravené lidstvo a že kontrola super inteligentního stroje (či dokonce pokus vštěpovat mu lidské hodnoty) může být mnohem větší problém než se naivně předpokládá. Lidské hodnoty jsou totiž vlastně irelevantní a často i sebedestruktivní, takže nečekejme, že logicky uvažující inteligentní stroj je bude akceptovat či dokonce chápat..

Známá vysokoškolská učebnice Artificial Inteligence: A Modern Approach od dvojice autorů Stuart Russell a Peter Norvig uvádějí možnost, že schopnost AI systémů učit se „může způsobit jejich vývoj v systém s nepředvídatelným chováním“ jako jedno nejzávažnějších rizik, které z této technologie plyne. Citujíc hlavní pokroky v oblasti AI a potenciál enormních dlouhodobých zisků a nákladů, Otevřený Dopis k Pokročilé Inteligenci z roku 2015 prohlásil:

„Vzhledem k pokroku v oblasti AI nastává čas zaměřit výzkum nejen na samotné vytvoření AI, ale také na maximalizaci benefitů, které z ní společnosti poplynou. Takovéto úvahy inspirovaly AAAI 2008-09 Presidential Panel on Long-Term AI Futures a další projekty pro dopad AI a započali tak významné rozšíření pole působnosti samotné AI, které se doposud soustřeďovalo především na techniky respektující neutrální využití. Doporučujeme, aby se rozšířený výzkum zaměřil na to, že stále více schopné AI systémy budou robustní a prospěšné: naše AI systémy musí dělat to, co po nich chceme.“

Tento dopis byl podepsán několika předními akademickými i průmyslovými výzkumníky v oblasti AI, jako například president AAAI Thomas Dietterich, Eric Horvitz, Bart Selman, Francesca Rossi, Yann LeCun a zakladateli Vicarious a Google DeepMind.

Instituce jako Machine Intelligence Research Institute, Future of Humanity Institute, Future of Life Institute a Centre for the Study of Existential Risk se momentálně podílejí na snížení rizik souvisejících s pokročilou umělou inteligencí například pomocí výzkumu takzvané přátelské umělé inteligence.

Takže, když se podaří takový stroj postavit a bude funkční, je velice pravděpodobné, že jeho další cíle mohou být ve velkém konfliktu s cíli lidstva. Je totiž velmi nepravděpodobné, že bude lidstvo brát jako partnera do diskuse. Dokonce se může stát, vzhledem k lidské historii válek, ničení životního prostředí, vyhodnotí lidstvo jako hrozbu planetě a i své další existenci a dojde k jeho válce proti lidstvu. A nemusí to být tak, jak ukazuje již zmiňovaný film Terminátor. Stačí aby lidstvu neposkytl internetové služby. I dnes, kdyby zkolabovala počítačová síť, došlo by ke kolapsu celé civilizace. Zastavení dodávek vody, elektřiny, zhroucení dat, nedostupné peníze. To by znamenalo obrovský chaos a nepokoje. V celosvětovém měřítku by se to nedalo zvládnout.

Super inteligence, která může tedy být definována jako systém, který přesahuje lidské schopnosti ve všech relevantních ohledech. Pokud tedy super inteligence nedovolí koexistenci s lidmi, první vytvořená super inteligence nevyhnutelně povede k likvidaci lidí.

Neexistuje žádný fyzikální zákon, který by zabraňoval částicím takové uspořádání, které by bylo schopné ještě pokročilejších výpočtů, než je uspořádání částic v lidském mozku. Vznik super inteligence může tedy lidstvo překvapit bez varování, jelikož může vzniknout samovolně. Pospojování milionů výkonných počítačů do sítě si připomíná neuronovou síť a o něco takového si přímo říká. A dnes jsme na této síti již existenčně závislí. Bez PC nefunguje již žádný aspekt lidské společnosti. Ani rohlík se již bez toho neupeče. Explozivní změna je možná jakmile bude AI na lidské úrovni. Stroje s lidskou inteligencí by mohly opakovaně zlepšovat a posouvat svůj návrh ještě dále a rychle se stát v podstatě bohem. A pak naše přežití bude opravdu záviset jen na rozmaru strojů. A nejen naše. Stroje k životu nepotřebují potravu, vzduch ani nápoje. Biologický život jako celek tedy bude pro stroje zbytečný.

(redakce)

foto: archiv

Ohodnoťte, prosím, tento článek

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *