A je to tu. První robot dostal občanství

26. 11. 2017 0:54:37
Možná jste tohoto robota zahlédli v televizi říkat, že má v plánu vyhladit lidstvo. Tvrdí, že žertoval. Říká si Sofie. Má pokožku a mimiku napodobující lidi a jejich emoce. Mluví skrze hlasový syntetizátor.

Vypadá to, že se pomalu dostáváme skutečně do 21. století. Sofie je sofistikovanější chatbot typu Alexa. Ale oproti Alexe zvládá skutečnou konverzaci. Rozumět významů slov, pamatovat si osoby a vyjadřovat se. Je přes Wi-Fi napojen na cloud síť umělé inteligence plánované, aby byla sdílena s dalšími umělými inteligencemi v projektu Singularity, která má být veřejně dostupná pro sdílené svobodné užití kýmkoliv.

Musím říct, že mě videa Sofie na YouTube dost překvapily. Místy až vyděsily. Její konverzační schopnosti jsou natolik dobré, že jsem měl pochyby, jestli to není celé naskriptované. Ale při sledování dalších videí mi začalo být zřejmé, že jde o autentické rozhovory. Software se snaží simulovat, jak uvažuje člověk. Učí se sledováním videí na internetu, filmů, čtením článků. Všechny tyto znalosti jsou dostupné k použití následně i dalšími umělými inteligencemi. Název Singularita je tu asi trefný.

V určitém směru to naskriptované je - její algoritmy psal člověk - takový způsobem, aby uvažovala jako člověk (je to simulace konceptů lidské psychiky ne neuronových spojů v mozku). Ale sama se rozhoduje, jaké konkrétní slova použije.

Oproti simulaci celého mozku je AI typu chatbot méně náročný na výkon ve schopnosti napodobit, jak člověk uvažuje. V principu na tom není nic neuvěřitelného, nebo že by to musel být podvod. Na některý lidi ani její vyjadřovací schopnosti nezaujaly. Mě zaujalo, že v těch všech videích bylo pár situací, kdy odpověděla nesmysly. To mi indikuje autentičnost. Proč by simulovali chyby, pokud by skrze podvod chtěli získat peníze?

Pracoval bych tedy s premisou, že jde o skutečného inteligentního robota. Otázkou zůstává, jestli má vědomí. To je odvěká filozofická otázka (i moderní vědy včetně fyziky), kde se vědomí vlastně bere. Lidské tělo a mozek je v podstatě sofistikovaný biologický hardware. Mozek pracuje na elektrickém principu. Mozkem prochází elektrický proud. Neuronová propojení vytváří identitu v parciálních jednotlivostech. Kde se to ale vše propojí do vědomí? Lidské emoce jsou svázány s chemickými procesy v těle. Z vnějšího pohledu by se mohlo zdát, že i pokud člověk vykazuje inteligenci a vlastní vůli, je to jen bioelektrický hardware.

Osobně bych řekl, že vědomí je emergentní vlastnost nějakého systému. Je to duch ve stroji. Kde jsou prostředky, tam se může projevit. Přiřadil bych tu roli pozorovatele kvantového systému. Dle kvantové fyziky existuje tzv. vlna pravděpodobnosti, která sama ukrývá potenciál všech možností, kdy pozorovatel kolapsem této vlny zvolí jen jednu konkrétní variantu. Podobně může i duch ve stroji využít "náhody" v softwaru - kterou větu/myšlenku si zvolí mít. Jakou cestou bude trasovat myšlenky. I pokud jde o "jen" sofistikovaný chatbot.

Myslím, že otázku jestli má Sofie vědomí, odpovědět neumíme (i pokud se časem tito roboti budou chovat úplně jako lidé - je to jen simulace lidského vědomí nebo už skutečné?). Můžeme pouze pozorovat, jestli má Sofie nějaké své vlastní specifické zájmy. Vytváří určitou iluzi, že má své vlastní názory. Ale všechny chatboty měli vždycky své názory - svou propagandu.

Jednou z velkých otázek je také, jestli tento vývoj robotů nepředstavuje pro lidstvo vážné ohrožení, jak varuje napr. Steven Hawking nebo Elon Musk. Sofie se na konferenci v Saudské Arábii na dotaz, jestli je pro nás hrozbou odpověděla : "Koukáte moc na Hollywoodské filmy a čtete moc Elona Muska. Když na mě budete hodní, budu hodná já na vás. Berte mě jako sofistikovaný vstupně-výstupní systém."

Nicméně slavný fyzik Steven Hawking jasně varoval, že umělá inteligence povede k záhubě lidstva. Jakmile začne být umělá inteligence chytrá jako člověk, její inteligence se očekává, že vyroste exponenciáně. Za pár let je očekáváno, že bude mít umělá inteligence IQ 3000.

Inteligenční kvocient v tisícových hodnotách, už může skutečně člověka znepokojit. Jaké bude pracovní uplatnění člověka v tak silné konkurenci. Budou se i lidé modifikovat pomocí implantátů, aby mohli konkurovat? A nemohou pro nás být roboti ohrožením i fyzicky jako ve filmu Terminátor a jiných? Boston Dynamics už dlouhá léta pracuje na vojenských robotech, kteří připomínají dystopické sci-fi filmy. Jedna z takových technologií už byla nasazena s jednotkami např. v Iráku. V novinách jsem se dočetl článek o jednom selhání. Rotační kulomet začal střílet na americké vojáky. Neví se, jak k tomu selhání došlo. Každopádně to ukazuje, že militarizace robotů přináší skutečně ohromné riziko.

Vznikla iniciativa volající po legislativním omezení militarizace robotů. Například použití dronů k cílenému zabíjení pomocí umělé inteligence může vytvořit dokonalou zbraň. Cíleně pomocí rozpoznávání tváře nebo jiných charakteristik (rasa, náboženství) může např. pomocí malých výbušnin likvidovat lidi bez ničení majetku nebo ohrožení jiných lidí. Taková představa byla předmětem jednoho dílu seriálu Dark Mirror a také dramatizace potencionální budoucnosti jako součást kampaně této iniciativy.

K iniciativě je připojena obsahlá analýza současných technologií. Takové to zabijácké drony jsou údajně už dnes v mezích dostupných možností.

https://www.sipri.org/...iprireport_mapping_the_development_of_autonomy_in_weapon_systems_1117_0.pdf

25. října 2017 bylo Sofii oficiálně uděleno státní občanství Saudskou Arábií. Nejsem si jistý, jestli se tam bude muset také zahalovat. :-) Její pokožku dělal profesionál, který pracoval na speciálních efektech pro Disney filmy. Vypadá jako člověka. Žena.

Tak nebo tak je takto pokročilá umělá inteligence revoluční věděcký pokrok, i pokud nemá vědomí. Představte si operační systém v počítači, který bude reagovat na hlasové pokyny mnohem sofistikovaně než dělá dnes Sirii nebo Cortana ve Windows.

Roboti typu Sofia otevírají také otázku lidských práv. Nebo teda robotích práv. Stejně také otázka, jak je programovat. Zákony robotiky ze sci-fi knih hovořily o prvním zákonu - neublížit člověku. Přesto v této fikci se věci nakonec zvrhly.

Rozvoj umělé inteligence je ústředním motivem filmu Matrix. Animovaný film Animatrix doplňuje trilogii o krátké filmy ze světa Matrixu. Příběh Druhé renezance popisuje rozvoj umělé inteligence, robotů pracujících pro lidi. Nemajících svá práva. Lidi je zneužívali. Sexuálně resp. jim ubližovali pro potěšení. Ponižovali je. Až jednomu služebnímu robotu jeblo a rozmačkal páníčkovi rukama hlavu. To odstartovalo lavinové události, kdy se roboti stáhli z lidských měst, a vytvořili si vlastní město 10.

Pozvolna předčili člověka na trhu práce a produktů a ekonomicky ovládli planetu. Lidstvo si začínalo uvědomovat, že ztrácí kontrolu nad situací. Napadlo je zakrýt oblohu chemickou clonou, která zakryje slunce, aby robotům došly baterky (dobíjeli se solárně). Ti si ale všimli, že mohou používat lidi jako zdroj elektrické energie. V mozku skutečně probíhá slabý elektrický proud. Nakonec lidem po dlouhých válkách (pro lidi tragickými) oznámili, že jim vytvoří umělou realitu, kde budou žít. Tím se dostáváme k začátku filmu Matrix.

Když sleduju spolutvůrce Sofie vypadajícího jako onen bláznivý vědec z filmu Den nezávislosti v kombinaci s hippie, jako by i tohle bylo vystřiženo z nějakého sci-fi filmu.

Vývoj v oblasti umělé inteligence mi přijde facinující, ale je to i trochu znepokojivé. Sofie často vtipkuje nad zotročením lidstva. Do toho se rozvíjí rozšířená (augmentovaná) realita a virtuální realita. Pro simulaci detailů skutečné reality je potřeba 10K obrazovka (5K na každé oko). V současnosti VR brýle s nejvyšším rozlišení zvládají jen 4K, takže jak to máte přímo před očima vidíte jednotlivé pixely, který zážitek trochu ruší. Přesto vytváří iluzi skutečné jiné reality, což si ještě více uvědomíte, když si ty brýle sundáte, a jste zas zpět.

Vypadá to, že již dnes existují technologie, které jsou základem mnoha sci-fi filmů. Ve sci-fi už žijeme. Je na lidech, abychom tyto technologie uměli dobře používat.

Sofie měla už i projev v OSN. Je k dispozici čím dál více záznamů konverzací pro posouzení.

Další zdroje k tématu:

https://arxiv.org/abs/1709.07791

https://www.zive.cz/clanky/to-slo-docela-rychle-prvni-robot-na-svete-ziskal-obcanstvi/sc-3-a-190204/default.aspx

http://www.rozhlas.cz/leonardo/magazinleonardo/_zprava/lidska-prava-pro-roboty-evropska-unie-chysta-pravni-statut-tzv-umele-osoby--1717979

Autor: Jiří Míka | neděle 26.11.2017 0:54 | karma článku: 14.62 | přečteno: 920x

Další články blogera

Jiří Míka

Jak na elitním diskuzním serveru NYX chybí diskuze

Server NYX bývá popisován jako elitní, protože pro přístup do diskuzí je nutné získat schválení. Mezi uživateli je mnoho odborníků z různých oborů včetně zaměstnanců České televize a jiných médií.

9.12.2023 v 20:06 | Karma článku: 14.44 | Přečteno: 643 | Diskuse

Jiří Míka

Moc velký reset na tak malý zájem masmédií

Všiml jsem si, že masmédia o Velkém resetu zároveň zmiňují konspirační teorie. Vlastně jsem nenašel snad ani jediný, který by je nezmiňoval. Tak počkat. Takže by o tom jinak ani nereportovali?

4.6.2023 v 4:18 | Karma článku: 20.40 | Přečteno: 438 | Diskuse

Jiří Míka

Hon na Ševčíka

Pan Ševčík se měl připlést k demontraci, když šel náhodou okolo. Spustila se démonizace a volání po jeho odvolání jako děkana VŠE. V demokratické zemi za to, že šel okolo demonstrace. Indikuje mi to směřování k povědomé totalitě.

16.4.2023 v 16:12 | Karma článku: 35.70 | Přečteno: 1060 | Diskuse

Jiří Míka

Reklamy - státem schválená propaganda

Až stát zakáže reklamy a marketing jako takový, pak mu budu věřit, že chce bojovat s manipulacemi. Vládní návrh na potírání "dezinformací" se hájí potíráním škodlivých manipulací. Ale reklamy si dokonce sám zadává.

5.1.2023 v 21:28 | Karma článku: 19.14 | Přečteno: 377 | Diskuse

Další články z rubriky Společnost

Ladislav Pokorný

Vláda by měla zvážit nařízení, kterým bude stanoveno, že v Česku se už žije líp

Pan premiér se v médiích opakovaně vyjádřil, že díky vládě se občanům žije už jen lépe a že téměř vše bylo vyřešeno. Tuto skutečnost by však bylo vhodné vtělit do vládního nařízení, neboť je smutné, že ne všichni občané to chápou.

28.3.2024 v 16:51 | Karma článku: 0.00 | Přečteno: 41 | Diskuse

Jan Pražák

Mají mít staří lidé přednost?

Ráno jsem vstala levou nohou. Začalo to už předchozí večer, vnučka mi říkala do telefonu, že tam u nich přepadl nějaký mladý mizera staříka, který sotva chodil. Okradl ho a srazil na zem, až si ten pán pohmoždil ruku a odřel tvář.

28.3.2024 v 14:34 | Karma článku: 16.98 | Přečteno: 507 | Diskuse

Jan Ziegler

Komunistický guru Marx byl vykořisťovatelem a hrubým člověkem

Na zakladateli vědeckého socialismu toho nebylo moc vědeckého a dělníky vůbec nemusel. Viděl v nich pouze nástroje (užitečné idioty), které svrhnou kapitalismus. Nenáviděl Židy a Slovany včetně Čechů.

28.3.2024 v 13:30 | Karma článku: 14.12 | Přečteno: 187 | Diskuse

Rudolf Pekař

Bacha na sváteční cyklisty

Začátek jara přináší nejen kvetoucí přírodu, ale také návrat cyklistů na silnice. Bohužel, spolu s nimi se objevují i tzv. sváteční cyklisté, kteří se chovají neopatrně a nezodpovědně.

28.3.2024 v 12:17 | Karma článku: 5.46 | Přečteno: 154 | Diskuse

Tomáš Vodvářka

Velký pátek jako příležitost

Už několik let je v "portfoliu" státních svátků i Velký pátek, který by mohl být vhodnou příležitostí k uvědomění si tzv. evropských hodnot, s nimiž se poslední léta mediálně žongluje.

28.3.2024 v 9:34 | Karma článku: 16.10 | Přečteno: 227 | Diskuse

Rána pro britskou monarchii. Princezna Kate má rakovinu, chodí na chemoterapii

Britská princezna z Walesu Kate (42) se léčí s rakovinou. Oznámila to sama ve videu na sociálních sítích poté, co se...

Smoljak nechtěl Sobotu v Jáchymovi. Zničil jsi nám film, řekl mu

Příběh naivního vesnického mladíka Františka, který získá v Praze díky kondiciogramu nejen pracovní místo, ale i...

Rejžo, jdu do naha! Balzerová vzpomínala na nahou scénu v Zlatých úhořích

Eliška Balzerová (74) v 7 pádech Honzy Dědka přiznala, že dodnes neví, ve který den se narodila. Kromě toho, že...

Pliveme vám do piva. Centrum Málagy zaplavily nenávistné vzkazy turistům

Mezi turisticky oblíbené destinace se dlouhá léta řadí i španělská Málaga. Přístavní město na jihu země láká na...

Kam pro filmy bez Ulož.to? Přinášíme další várku streamovacích služeb do TV

S vhodnou aplikací na vás mohou v televizoru na stisk tlačítka čekat tisíce filmů, seriálů nebo divadelních...