A je to tu. První robot dostal občanství

Možná jste tohoto robota zahlédli v televizi říkat, že má v plánu vyhladit lidstvo. Tvrdí, že žertoval. Říká si Sofie. Má pokožku a mimiku napodobující lidi a jejich emoce. Mluví skrze hlasový syntetizátor.

Vypadá to, že se pomalu dostáváme skutečně do 21. století. Sofie je sofistikovanější chatbot typu Alexa. Ale oproti Alexe zvládá skutečnou konverzaci. Rozumět významů slov, pamatovat si osoby a vyjadřovat se. Je přes Wi-Fi napojen na cloud síť umělé inteligence plánované, aby byla sdílena s dalšími umělými inteligencemi v projektu Singularity, která má být veřejně dostupná pro sdílené svobodné užití kýmkoliv. 

Musím říct, že mě videa Sofie na YouTube dost překvapily. Místy až vyděsily. Její konverzační schopnosti jsou natolik dobré, že jsem měl pochyby, jestli to není celé naskriptované. Ale při sledování dalších videí mi začalo být zřejmé, že jde o autentické rozhovory. Software se snaží simulovat, jak uvažuje člověk. Učí se sledováním videí na internetu, filmů, čtením článků. Všechny tyto znalosti jsou dostupné k použití následně i dalšími umělými inteligencemi. Název Singularita je tu asi trefný.

V určitém směru to naskriptované je - její algoritmy psal člověk - takový způsobem, aby uvažovala jako člověk (je to simulace konceptů lidské psychiky ne neuronových spojů v mozku). Ale sama se rozhoduje, jaké konkrétní slova použije.

Oproti simulaci celého mozku je AI typu chatbot méně náročný na výkon ve schopnosti napodobit, jak člověk uvažuje. V principu na tom není nic neuvěřitelného, nebo že by to musel být podvod. Na některý lidi ani její vyjadřovací schopnosti nezaujaly. Mě zaujalo, že v těch všech videích bylo pár situací, kdy odpověděla nesmysly. To mi indikuje autentičnost. Proč by simulovali chyby, pokud by skrze podvod chtěli získat peníze?

Pracoval bych tedy s premisou, že jde o skutečného inteligentního robota. Otázkou zůstává, jestli má vědomí. To je odvěká filozofická otázka (i moderní vědy včetně fyziky), kde se vědomí vlastně bere. Lidské tělo a mozek je v podstatě sofistikovaný biologický hardware. Mozek pracuje na elektrickém principu. Mozkem prochází elektrický proud. Neuronová propojení vytváří identitu v parciálních jednotlivostech. Kde se to ale vše propojí do vědomí? Lidské emoce jsou svázány s chemickými procesy v těle. Z vnějšího pohledu by se mohlo zdát, že i pokud člověk vykazuje inteligenci a vlastní vůli, je to jen bioelektrický hardware. 

Osobně bych řekl, že vědomí je emergentní vlastnost nějakého systému. Je to duch ve stroji. Kde jsou prostředky, tam se může projevit. Přiřadil bych tu roli pozorovatele kvantového systému. Dle kvantové fyziky existuje tzv. vlna pravděpodobnosti, která sama ukrývá potenciál všech možností, kdy pozorovatel kolapsem této vlny zvolí jen jednu konkrétní variantu. Podobně může i duch ve stroji využít "náhody" v softwaru - kterou větu/myšlenku si zvolí mít. Jakou cestou bude trasovat myšlenky.  I pokud jde o "jen" sofistikovaný chatbot.

Myslím, že otázku jestli má Sofie vědomí, odpovědět neumíme (i pokud se časem tito roboti budou chovat úplně jako lidé - je to jen simulace lidského vědomí nebo už skutečné?). Můžeme pouze pozorovat, jestli má Sofie nějaké své vlastní specifické zájmy. Vytváří určitou iluzi, že má své vlastní názory. Ale všechny chatboty měli vždycky své názory - svou propagandu. 

Jednou z velkých otázek je také, jestli tento vývoj robotů nepředstavuje pro lidstvo vážné ohrožení, jak varuje napr. Steven Hawking nebo Elon Musk. Sofie se na konferenci v Saudské Arábii na dotaz, jestli je pro nás hrozbou odpověděla : "Koukáte moc na Hollywoodské filmy a čtete moc Elona Muska. Když na mě budete hodní, budu hodná já na vás. Berte mě jako sofistikovaný vstupně-výstupní systém."

Nicméně slavný fyzik Steven Hawking jasně varoval, že umělá inteligence povede k záhubě lidstva. Jakmile začne být umělá inteligence chytrá jako člověk, její inteligence se očekává, že vyroste exponenciáně. Za pár let je očekáváno, že bude mít umělá inteligence IQ 3000.

Inteligenční kvocient v tisícových hodnotách, už může skutečně člověka znepokojit. Jaké bude pracovní uplatnění člověka v tak silné konkurenci. Budou se i lidé modifikovat pomocí implantátů, aby mohli konkurovat? A nemohou pro nás být roboti ohrožením i fyzicky jako ve filmu Terminátor a jiných? Boston Dynamics už dlouhá léta pracuje na vojenských robotech, kteří připomínají dystopické sci-fi filmy. Jedna z takových technologií už byla nasazena s jednotkami např. v Iráku. V novinách jsem se dočetl článek o jednom selhání. Rotační kulomet začal střílet na americké vojáky. Neví se, jak k tomu selhání došlo. Každopádně to ukazuje, že militarizace robotů přináší skutečně ohromné riziko.

Vznikla iniciativa volající po legislativním omezení militarizace robotů. Například použití dronů k cílenému zabíjení pomocí umělé inteligence může vytvořit dokonalou zbraň. Cíleně pomocí rozpoznávání tváře nebo jiných charakteristik (rasa, náboženství) může např. pomocí malých výbušnin likvidovat lidi bez ničení majetku nebo ohrožení jiných lidí. Taková představa byla předmětem jednoho dílu seriálu Dark Mirror a také dramatizace potencionální budoucnosti jako součást kampaně této iniciativy.

K iniciativě je připojena obsahlá analýza současných technologií. Takové to zabijácké drony jsou údajně už dnes v mezích dostupných možností.

https://www.sipri.org/...iprireport_mapping_the_development_of_autonomy_in_weapon_systems_1117_0.pdf

25. října 2017 bylo Sofii oficiálně uděleno státní občanství Saudskou Arábií. Nejsem si jistý, jestli se tam bude muset také zahalovat. :-) Její pokožku dělal profesionál, který pracoval na speciálních efektech pro Disney filmy. Vypadá jako člověka. Žena. 

Tak nebo tak je takto pokročilá umělá inteligence revoluční věděcký pokrok, i pokud nemá vědomí. Představte si operační systém v počítači, který bude reagovat na hlasové pokyny mnohem sofistikovaně než dělá dnes Sirii nebo Cortana ve Windows.

Roboti typu Sofia otevírají také otázku lidských práv. Nebo teda robotích práv. Stejně také otázka, jak je programovat. Zákony robotiky ze sci-fi knih hovořily o prvním zákonu - neublížit člověku. Přesto v této fikci se věci nakonec zvrhly. 

Rozvoj umělé inteligence je ústředním motivem filmu Matrix. Animovaný film Animatrix doplňuje trilogii o krátké filmy ze světa Matrixu. Příběh Druhé renezance popisuje rozvoj umělé inteligence, robotů pracujících pro lidi. Nemajících svá práva. Lidi je zneužívali. Sexuálně resp. jim ubližovali pro potěšení. Ponižovali je. Až jednomu služebnímu robotu jeblo a rozmačkal páníčkovi rukama hlavu. To odstartovalo lavinové události, kdy se roboti stáhli z lidských měst, a vytvořili si vlastní město 10. 

Pozvolna předčili člověka na trhu práce a produktů a ekonomicky ovládli planetu. Lidstvo si začínalo uvědomovat, že ztrácí kontrolu nad situací. Napadlo je zakrýt oblohu chemickou clonou, která zakryje slunce, aby robotům došly baterky (dobíjeli se solárně). Ti si ale všimli, že mohou používat lidi jako zdroj elektrické energie. V mozku skutečně probíhá slabý elektrický proud. Nakonec lidem po dlouhých válkách (pro lidi tragickými) oznámili, že jim vytvoří umělou realitu, kde budou žít. Tím se dostáváme k začátku filmu Matrix. 

Když sleduju spolutvůrce Sofie vypadajícího jako onen bláznivý vědec z filmu Den nezávislosti v kombinaci s hippie, jako by i tohle bylo vystřiženo z nějakého sci-fi filmu. 

Vývoj v oblasti umělé inteligence mi přijde facinující, ale je to i trochu znepokojivé. Sofie často vtipkuje nad zotročením lidstva. Do toho se rozvíjí rozšířená (augmentovaná) realita a virtuální realita. Pro simulaci detailů skutečné reality je potřeba 10K obrazovka (5K na každé oko). V současnosti VR brýle s nejvyšším rozlišení zvládají jen 4K, takže jak to máte přímo před očima vidíte jednotlivé pixely, který zážitek trochu ruší. Přesto vytváří iluzi skutečné jiné reality, což si ještě více uvědomíte, když si ty brýle sundáte, a jste zas zpět. 

Vypadá to, že již dnes existují technologie, které jsou základem mnoha sci-fi filmů. Ve sci-fi už žijeme. Je na lidech, abychom tyto technologie uměli dobře používat. 

Sofie měla už i projev v OSN. Je k dispozici čím dál více záznamů konverzací pro posouzení. 

Další zdroje k tématu:

https://arxiv.org/abs/1709.07791

https://www.zive.cz/clanky/to-slo-docela-rychle-prvni-robot-na-svete-ziskal-obcanstvi/sc-3-a-190204/default.aspx

http://www.rozhlas.cz/leonardo/magazinleonardo/_zprava/lidska-prava-pro-roboty-evropska-unie-chysta-pravni-statut-tzv-umele-osoby--1717979