Vyrobíme vám génia na míru
Státy pokulhávají za vědou a technikou ve snaze regulovat umělou inteligenci. Stroje přitom mají potenciál porazit biologické lidi na celé čáře. Genovým inženýrstvím by bylo možné proti nim postavit kolektivní superinteligenci.
Zákonodárci a regulátoři v Bruselu, ve Washingtonu i Pekingu vedou bitvu o regulaci umělé inteligence. Předhánějí se, aby technologie dohnali, protože sílí obavy, že mocná technologie zautomatizuje pracovní místa, posílí šíření dezinformací a nakonec vyvine svůj vlastní druh inteligence. Evropské úředníky vývoj technologie zaskočil, zatímco američtí zákonodárci otevřeně připouštějí, že sotva chápou, jak funguje.
Výsledkem je změť hysterických reakcí. Prezident Joe Biden vydal loni v říjnu exekutivní příkaz o dopadech umělé inteligence na národní bezpečnost, zatímco zákonodárci debatují o tom, jaká, pokud vůbec nějaká opatření mají schválit. Evropská unie v prosinci dosáhla předběžné dohody na regulaci umělé inteligence. EU se chce stát prvním z významných světových hráčů, který bude mít normy pro regulaci systémů, jako je ChatGPT.
Systémy umělé inteligence postupují tak rychle a nepředvídatelně, že zákonodárci a regulátoři nedokážou držet krok. K této propasti se přidal deficit znalostí umělé inteligence ve vládách, byrokratickém aparátu a obavy, že příliš mnoho pravidel může nechtěně omezit přínosy této technologie. I v Evropě – snad nejagresivnějším technologickém regulátorovi na světě – umělá inteligence zmátla politiky. Zákonodárci se nemohou shodnout na způsobech, jak omezit nebezpečí, aniž by omezili inovace.
Superinteligence je tu
Dosud nahromaděné znalosti umožnily vznik raketoplánů, genetického inženýrství, počítačů, velkochovů a všech ostatních výdobytků moderní civilizace. Jakýkoli typ entity s mnohem vyšší než lidskou inteligencí by mohl být neobyčejně mocný. Takové entity by mohly hromadit znalosti a vynalézat nové technologie mnohem rychleji než my. Mohly by své inteligence využívat k mnohem efektivnějšímu strategickému plánování.
Švédský filozof a matematik Nick Bostrom v knize „Superinteligence: až budou stroje chytřejší než lidé“(2017) definuje superinteligenci jako jakýkoli intelekt, který lidské kognitivní výkony daleko překonává prakticky ve všech relevantních oblastech. Fakt, že máme k dispozici mozek coby vzor inteligentního systému, představuje silnou podporu pro tezi, že strojovou inteligenci nakonec sestrojit půjde. Nejde však snadno předpovědět, kdy se tak stane, neboť lze obtížně odhadnout tempo budoucích objevů ve vědě o mozku.
Ani mnozí experti na umělou inteligenci nebyli příliš úspěšní v předpovídání, jak rychle budou pokroky v jejich oboru probíhat a jakou budou mít přesnou podobu. Na jedné straně se některé úlohy – např. hraní šachů – ukázaly být řešitelné pomocí překvapivě jednoduchých programů. Na druhé straně názory pochybovačů, podle nichž stroje „nikdy“nedokážou to či ono, byly mnohokrát vyvráceny.
I pokud bychom citelného zvýšení inteligence dosáhli jinak než prostřednictvím strojové inteligence, nepřipravilo by to cestu strojové inteligence o její význam. Právě naopak: lepší biologická nebo kolektivní inteligence by mohla urychlit vědecký i technologický pokrok, a uspíšit tak příchod radikálnějších forem zvyšování inteligence, kupříkladu úplné emulace, tedy napodobení mozku nebo umělé inteligence.
Stroje mají podle Bostroma oproti mozkům řadu výhod, díky nimž získávají drtivou převahu. Biologičtí lidé, i pokud budou vylepšeni, budou poraženi na celé čáře. Emulace mozku, jež by byla desettisíckrát rychlejší než biologický mozek, by dokázala přečíst knihu během několika vteřin a napsat disertaci za jedno odpoledne. Pokud by byla oproti mozku zrychlená milionkrát, dokázala by celé desetiletí intelektuální práce vykonat během jednoho pracovního dne.
I naše dítě bude výjimečné
Na základě genového inženýrství je možné přiblížit se inteligenci nejchytřejšího člověka v dosavadních dějinách, nebo ji dokonce překonat. Pokud by na světě existovalo velké množství takových jednotlivců (a pokud by zároveň měla odpovídající úroveň světová kultura, vzdělávání, komunikační infrastruktura apod.), mohla by vzniknout kolektivní superinteligence.
Genetické inženýrství zní moderně, ale ve skutečnosti je to jedna z nejstarších technologií lidstva. Velká část civilizace by nebyla možná bez selektivního šlechtění – procesu zušlechťování plodin a zvířat, která by si vybírala pro žádanější vlastnosti. Po staletí a tisíciletí lidé vytrvale šlechtili vlastnosti, které by byly nejužitečnější, produkovali přátelské psy, skot, domácí kuřata, pšenici, kukuřici apod.
I když tato technologie bude k dispozici, bude zpočátku podle Bostroma používána málo. Některé země ji možná z morálních nebo náboženských důvodů zcela zakážou. A i tam, kde bude povolena, bude zřejmě mnoho párů upřednostňovat přirozený způsob početí. Ochota k použití genového inženýrství by se však zvýšila, pokud by s ní byly spojeny jednoznačnější přínosy, například kdyby bylo prakticky jisté, že počaté dítě bude velice talentované, anebo nebude geneticky predisponováno k nemocem.
Ve prospěch genetické selekce by hovořily nižší náklady na zdravotní péči nebo vyšší očekávané celoživotní výdělky. Budeme moci sestrojit embrya tak, aby od svých rodičů obdržela žádoucí kombinaci genů. Zároveň budeme moci do genomu embrya vložit geny, které u žádného z obou rodičů přítomné nejsou, včetně alel, jež se v populaci vyskytují s malou frekvencí, ale které mohou mít výrazný pozitivní vliv na poznávací schopnosti.
Až se tato procedura rozšíří (zvláště mezi společenskou elitou), dojde možná ke kulturnímu obratu směrem k rodičovským normám, podle nichž bude užití genové selekce známkou osvíceného a zodpovědného páru. Mnozí z těch, jejichž postoj bude zpočátku váhavý, nakonec půjdou s proudem, aby jejich děti nebyly znevýhodněny ve srovnání s dětmi přátel a kolegů.
Budou-li konkurenti moci snadno okopírovat myšlenky a inovace, bude pro vedoucí projekt typu superinteligence obtížné získat a udržet si výrazné vedení. Napodobování vyvolává protivítr, jenž znevýhodňuje ty nejrychlejší a napomáhá opozdilcům, zvláště existuje-li jenom slabá ochrana duševního vlastnictví. Superinteligence by také mohla čelit nemalému riziku, že dojde k jejímu vyvlastnění, že na ni budou uvaleny daně nebo že bude v důsledku antimonopolních regulací rozdělena na menší projekty.
Umělá inteligence ohromně zvýší náš potenciální produkt. Tempo inovací se co do velikosti zrychluje a co do času pozoruhodným způsobem zkracuje. Pokud se tempo inovací znásobí, přinese to působivé výsledky. Poroste-li světová ekonomika i nadále podobnou rychlostí jako v posledních padesáti letech, bude svět v roce 2050 pětkrát bohatší a do roku 2100 asi třicetkrát bohatší než dnes.
Vyzrát na asteroid
Někteří varují, že příchod superinteligence by přinesl nemalé existenční riziko. Mnohá existenční rizika by však snížil. Přírodní existenční rizika – jako jsou nárazy asteroidů, supervulkány a přirozeně vzniklé pandemie – by pravděpodobně zanikla, protože superinteligence proti většině z nich dokáže vyvinout protiopatření nebo je alespoň vyřadit z kategorie existenčních hrozeb (např. pomocí vesmírné kolonizace).
Superinteligence by podle Bostroma vymýtila nebo snížila i mnohá antropogenní rizika. Zvláště by snížila riziko náhodného zničení včetně rizika nehod spojených s novými technologiemi. Protože by byla schopnější než lidé, superinteligence by se omylů dopouštěla s menší pravděpodobností než oni a s vyšší pravděpodobností by poznala, jaká preventivní opatření jsou zapotřebí. A uvedla by je do praxe kompetentnějším způsobem.
Existují dobré důvody věřit, že riskantnost inteligenční exploze se bude v horizontu několika desetiletí snižovat. Pozdější datum nám ponechává více času, abychom nalezli řešení problému kontroly. V příštích několika desetiletích se stav bádání natolik posune, že se najdou nová řešení problémů. I když problémy jsou někdy velmi obtížné, bude k významným pokrokům docházet po celé století a déle.
Evropské zaostávání
Malé nebo středně velké katastrofy fungují jako očkování: testují civilizaci tím, že ji konfrontují s relativně méně nebezpečnou formou hrozby, a vyvolávají imunitní odpověď, která svět uschopňuje, aby se vypořádal s tou odrůdou dané hrozby, která by představovala existenční riziko. Protože mnohá další existenční rizika by superinteligence odstranila nebo zmírnila, měli bychom spíše upřednostňovat dřívější příchod superinteligence.
Protože technologie dokážou prodloužit naše životy, je inteligentní exploze blahodárná. Dopadne-li inteligenční exploze úspěšně, výsledná superinteligence skoro určitě dokáže vymyslet způsob, jak prodloužit životy lidí, kteří v té době budou na světě – a tak nás nejen udržet naživu, ale rovněž nám vrátit zdraví a mladistvou sílu a zlepšit jejich schopnosti na úroveň, kterou považujeme za nadlidskou.
John Thornhill ve Financial Times 15. prosince 2023 argumentuje, že nástup moderních technologií probíhá podle následujícího vzorce: USA inovují, Čína napodobuje a Evropa reguluje. To je rozhodně případ umělé inteligence. EU má nyní více předpisů o umělé inteligenci než technologické společnosti zabývající se umělou inteligencí. Technologický rozvoj proto bude probíhat rychleji mimo Evropu.
Evropská unie je jediným světovým seskupením, které navrhlo ucelenou regulaci umělé inteligence a ve svém snažení jde dále než ostatní státy. USA mají v technologickém rozvoji výhodu, protože americké technologické společnosti jako Microsoft, Google či Nvidia jsou na špici tohoto odvětví. USA nejspíše nebudou umělou inteligenci tolik regulovat, aby neztratily konkurenční výhodu.