Facebook ukončil experiment poté, co umělá inteligence vynalezla vlastní jazyk
Výzkumníci uzavřeli projekt poté, co stroje vyvinuly vlastní způsob komunikace, který je pro lidi nesrozumitelný
Inteligentní roboti plní stále větší počet rolí
Getty Images
Bob: můžu já i všechno ostatní. . . . . . . . . . . . . .
Alice: koule mají nulu ke mně ke mně ke mně ke mně ke mně ke mně ke mně
Bob: ty já všechno ostatní. . . . . . . . . . . . . .
Alice: koule mají míč ke mně ke mně ke mně ke mně ke mně ke mně
Bob: můžu já i já všechno ostatní. . . . . . . . . . . . . .
Alice: koule mají míč ke mně ke mně ke mně ke mně ke mně ke mně
Přestože to vypadalo jako scénář ze skutečně hrozného televizního sitcomu, tato konverzace ve skutečnosti proběhla mezi dvěma programy umělé inteligence, které byly vyvinuty na Facebooku, aby zdokonalily umění vyjednávat.
Nejprve spolu ti dva mluvili srozumitelnou angličtinou. Ale pak si výzkumníci uvědomili, že udělali chybu v programování strojů.
„Nepřinášelo žádnou odměnu za držení se angličtiny,“ řekl Dhruv Batra, hostující vědec z Georgia Tech na Facebooku AI Research (Fair). FastCo .
Protože tito dva agenti soutěžili o nejlepší nabídku, „ani jednomu nebyla nabídnuta žádná pobídka, aby mluvil jako normální člověk,“ říká FastCo.
Začali se tedy rozcházet a nakonec přeskupili srozumitelná slova do zdánlivě nesmyslných vět, což způsobilo pozastavení experimentu.
Facebook musel vypnout AI, protože vyvinula svůj vlastní jazyk pic.twitter.com/EsVEkWViTv
— NowThis (@nowthisnews) 31. července 2017
'Agenti (nebo programy) se odkloní od srozumitelného jazyka a vymyslí si kódová slova,' vysvětlil Batra. 'Jako když řeknu pětkrát 'the', vykládáte si to tak, že chci pět kopií tohoto předmětu. To se příliš neliší od způsobu, jakým komunity lidí vytvářejí zkratky.“
Ale vědci měli rádi stres, experiment nebyl opuštěn kvůli obavám z potenciálně negativních účinků komunikujících robotů.
Fair researcher Mike Lewis řekl FastCo, že se prostě rozhodli, že „naším zájmem jsou roboty, kteří by mohli mluvit s lidmi“, nikoli efektivně mezi sebou, a proto se rozhodli vyžadovat, aby si navzájem psali čitelně.
Není to poprvé, co stroje umělé inteligence vytvořily svůj vlastní jazyk.
V listopadu loňského roku Google odhalil, že umělá inteligence, kterou používá pro svůj nástroj Překladač, vytvořila svůj vlastní jazyk, který by překládal fráze do az nich, než doručil slova v cílovém jazyce.
Zpráva o vývoji v té době, Tech Crunch řekl: 'Tato 'interlingua' se zdá existovat jako hlubší úroveň reprezentace, která vidí podobnosti mezi větou nebo slovem.'
„Mohlo by to být něco sofistikovaného, nebo by to mohlo být něco jednoduchého,“ dodal web, ale „skutečnost, že to vůbec existuje – originální výtvor systému, který má pomoci porozumět pojmům, k jejichž pochopení nebyl vycvičen — je, filozoficky řečeno, docela mocná věc“.
Tento nedávný vývoj vedl k etickým diskusím o potenciálních problémech strojů, které spolu komunikují bez lidského zásahu.
„V případě Facebooku byla jediná věc, kterou chatboti byli schopni udělat, bylo vymyslet efektivnější způsob obchodování,“ říká Gizmodo .
Existují však „pravděpodobně dobré důvody, proč nenechat inteligentní stroje vyvinout svůj vlastní jazyk, kterému by lidé nebyli schopni smysluplně rozumět,“ dodává web.
'Doufáme, že lidé budou také dost chytří na to, aby nezapojili experimentální programy strojového učení do něčeho velmi nebezpečného, jako je armáda androidů s laserem nebo jaderný reaktor.'
