Pred smrťou fyzik Stephen Hawking videl veci, ktoré len málokto dokázal - skutočnú podstatu času, to, čo sa deje vo vnútri čiernych dier, a oveľa viac. Mohol tiež vidieť budúcnosť umelej inteligencie?
Či už budú inteligentné stroje záchrancami ľudstva alebo jeho zničením, je horúcou témou medzi super inteligentnými technológmi, od Elona Muska (nie optimistu) po Billa Gatesa a Mark Zuckerberg (opatrne optimistický). Hawking so svojimi neuveriteľnými intelektuálnymi darmi mal k tejto téme čo povedať. Ale na rozdiel od niektorých z nich sa sústredil rovnako na politiku ako na programovanie.
Či už náš technologicky nasýtená budúcnosť sa zmení na utópiu alebo dystopiu, záleží na tom, ako sa navzájom správame, varoval Hawking tesne predtým, ako zomrel.
Vek dostatku alebo vek chudoby?
Zatiaľ čo Hawking vyjadril znepokojenie nad skutočným svetom Robopocalypse 
, kde naše inteligentné stroje sa na nás obrátia ako týrané šteniatko, z ktorého vyrástol brutálny pes (Muskov scenár nočnej mory), zdá sa, že jeho hlavnou starosťou o budúcnosť AI je spôsob, ako zvládnuť neuveriteľné množstvo, budúcnosť, kde sú ľudia do značnej miery nadbytoční. Ak roboti zarobia všetko, čo potrebujeme, čo budeme robiť celý deň a ako si väčšina z nás zarobí peniaze?
To, trval na tom Hawking nedávny Reddit AMA (Opýtaj sa ma na čokoľvek) bola skutočne znepokojujúca otázka:
„Ak stroje vyrobia všetko, čo potrebujeme, výsledok bude závisieť od toho, ako sú veci distribuované. Každý si môže vychutnať luxusný voľný čas, ak sa o strojovo vyrobené bohatstvo delí, alebo môže väčšina ľudí skončiť nešťastne, ak vlastníci strojov úspešne lobujú proti prerozdeleniu bohatstva. ““
cuantos años tiene steelobrim
Stručne povedané, to, čo nakoniec bude stáť v ceste životu ľahkosti a sebarealizácie pre väčšinu ľudskej rasy, nebude technológia, bude to politika a psychológia. A hoci sa Hawking javil ako odvážne optimistický v súvislosti s našou schopnosťou stavať neuveriteľné veci, bol oveľa menej nadšený v súvislosti s našou schopnosťou zdieľať korisť tejto inovácie.
„Zatiaľ sa zdá, že trend smeruje k druhej možnosti, pričom technológia vedie k čoraz väčšej nerovnosti,“ pokračoval v AMA.
Táto online diskusia nebola zďaleka jediný prípad, keď vzbudzoval obavy. AI, ktorý pred pár rokmi predpovedal pri otvorení nového výskumného centra v Oxforde, nám môže umožniť „konečne vykoreniť choroby a chudobu. Každý aspekt nášho života sa zmení. Stručne povedané, úspech pri vytváraní AI by mohol byť najväčšou udalosťou v histórii našej civilizácie. “ Ďalej však uviedol, že „okrem výhod prinesie AI aj nebezpečenstvá, ako ... nové spôsoby, ako utlačiť mnohých z mála.“
Varovanie pre nás ostatných.
Čo je možno najdôležitejšie na týchto varovaniach, je to, že ich musíme brať do úvahy všetci. Zatiaľ čo výzvy odborníkov požadujú „prepínač zabitia“ pre inteligenciu robotov priemerní Joe alebo Jane na ulici sú fascinujúci a bezpochyby sa hlboko venujú technickým znalostiam. Priemerný Joe alebo Jane na ulici nebudú hrať rolu pri skutočnom navrhovaní a použití tohto alebo iného technického riešenia pre riziká AI.
Ale všetci volíme (alebo by sme mali aspoň všetci) a všetci sa zúčastňujeme verejnej diskusie o tom, ako zdieľať bohatstvo a podporovať zraniteľné osoby. Každý deň robíme rozhodnutia o tom, kto je v „našom kmeni“ a ktorý si zaslúži našu pomoc. Aj keď s najväčšou pravdepodobnosťou nikdy nebudete vedieť veľa o pochmúrnych technologických detailoch budovania AI, mali by ste ako občan pravdepodobne premýšľať o tom, ako zdieľame korisť týchto skvelých inovácií. Jedným z vynikajúcich spôsobov, ako si uctiť jeho odkaz, je venovať pozornosť Hawkingovým varovaniam niekoľko minút.
