Máme se obávat umělé inteligence?
In Depth: vzestup robotů s umělou inteligencí by mohl vytvořit nebo zlomit budoucnost lidstva
Inteligentní roboti plní stále větší počet rolí
Getty Images
Úspěch ve vytváření efektivní umělé inteligence by mohl být největší událostí v historii naší civilizace. Nebo nejhorší. Prostě nevíme, řekl profesor Stephen Hawking na Web Summit tento týden v Lisabonu.
Kromě mnoha výhod, řekl Hawking, umělá inteligence (AI) přináší mnohá nebezpečí, jako jsou výkonné autonomní zbraně nebo nové způsoby, jak utlačovat mnoho.
Fyzik požadoval novou regulaci, která by zajistila, aby lidstvo mohlo zabránit umělé inteligenci ohrozit jeho existenci.
Možná bychom se všichni měli na chvíli zastavit a soustředit se nejen na to, aby byla naše AI lepší a úspěšnější, ale také na prospěch lidstva, dodal.
Hawking není jedinou osobností ze světa vědy a techniky, která varovala před budoucností AI.
Všichni bychom si měli dávat velký pozor na umělou inteligenci, Bill Gates řekl začátkem tohoto roku. Pokud bych měl hádat, co je naší největší existenční hrozbou, je to pravděpodobně ono. S umělou inteligencí vyvoláváme démona.“
V posledních měsících se objevily titulky o zabijáckých robotech ao automatizaci nahrazující lidské pracovníky, ale také o algoritmech, které pomáhají diagnostikovat rakovinu, a úspěšném vývoji samořídících aut.
Někteří učenci tvrdí, že jde o nejnaléhavější existenční riziko, kterému kdy lidstvo mohlo čelit, zatímco jiní většinou odmítají předpokládané nebezpečí jako nepodložené štvaní zkázy, říká. Základní deska je Phil Torres.
Měli bychom se tedy obávat šíření AI? A co s tím můžeme dělat?
Reakce na AI
NA YouGov loňský průzkum mezi více než 2 000 lidmi zjistil, že postoje veřejnosti k AI se velmi liší v závislosti na její aplikaci.
Přibližně 70 % respondentů bylo rádo, že inteligentní stroje provádějí zdánlivě podřadné práce, jako je monitorování plodin – ale u domácích úkolů to kleslo na 49 %, zatímco pouze 23 % by bylo rádo, kdyby roboti prováděli lékařské operace. A pouze 17 % bylo spokojeno s myšlenkou takzvaných sexuálních robotů.
Jednou z hlavních starostí o AI je její neosobní povaha.
V srpnu generální ředitel Tesly a SpaceX Elon Musk spolu s dalšími 115 specialisty na umělou inteligenci a robotiku podepsal otevřený dopis naléhání na OSN, aby uznala nebezpečí smrtících autonomních zbraní a zakázala jejich použití na mezinárodní úrovni.
Podle Human Rights Watch USA, Čína, Izrael, Jižní Korea, Rusko a Spojené království investují do vývoje zbraňových systémů se snižující se úrovní lidské kontroly v kritických funkcích výběru a zasahování cílů.
Steven Finlay , autor knihy Artificial Intelligence and Machine Learning for Business, věří, že autonomní ozbrojení roboti, kteří dokážou sledovat a zaměřovat lidi pomocí softwaru pro rozpoznávání obličejů, jsou hned za rohem.
Umělá inteligence a robotika postupují tak rychle, že během několika let by mohly být války vedeny autonomními zbraněmi a vozidly, hlásí Opatrovník .
Regulovat nebo vyhubit?
Regulace AI je jednou z odpovědí na problém.
Zdravá moderní demokracie vyžaduje, aby se obyčejní občané účastnili veřejných diskusí o rychle se vyvíjejících technologiích. Zoufale potřebujeme nové zásady, předpisy a bezpečnostní sítě pro ty, kdo jsou vytlačeni stroji, říká Národ je Katharine Dempseyová.
Elon Musk souhlasí. V roce 2014 řekl: Stále více se přikláním k názoru, že by měl existovat určitý regulační dohled, možná na národní a mezinárodní úrovni, jen abychom se ujistili, že neuděláme něco velmi pošetilého.
Pravděpodobně největší obavou je, že stroje se mohou stát lepšími v rozhodování než lidé a zotročit lidstvo do rukou automatizovaných rozhodovacích orgánů a toho, kdo je řídí.
Systémy založené na umělé inteligenci již nahrazují mnoho pracovních míst. Například některé stroje s umělou inteligencí dokážou rozpoznat rakovinu kůže stejně přesně jako lidský lékař, Kabelové zprávy.
Mnoho z našich voleb je již ovlivněno umělou inteligencí prostřednictvím webových stránek, jako je Amazon a Facebook. Algoritmy určují obsah, který vidíme online, a doporučují vše od toho, co sledujeme v televizi a kde jíme, až po to, s kým chodíme.
Co dělá tento scénář tak nebezpečným, je to, že jej neplánuje nějaká zastřešující hlavní inteligence nebo vládce strojů, říká Steven Finlay. Vytváříme právě tu technologii, která by mohla vést k našemu zániku.
Změna k lepšímu?
Není to všechno zkáza a chmurnost.
Jsem optimista, že můžeme vytvořit inspirativní budoucnost s AI, pokud vyhrajeme závod mezi rostoucí silou AI a rostoucí moudrostí, s jakou ji zvládneme, ale to bude vyžadovat plánování a práci, fyzik Max Tegmark, autor knihy Life 3.0: Být člověkem ve věku umělé inteligence, vyprávěno Základní deska .
Zatímco Tegmark obhajuje regulaci, tvrdí, že je také třeba zaměřit se na pozitivní stránku používání AI. Pokud se lidé zaměří pouze na stinné stránky, ochromí je strach a společnost se polarizuje a roztříští, uzavírá.
