Klávesové zkratky na tomto webu - základní
Přeskočit hlavičku portálu

A je to tu. První robot dostal občanství

26. 11. 2017 0:54:37
Možná jste tohoto robota zahlédli v televizi říkat, že má v plánu vyhladit lidstvo. Tvrdí, že žertoval. Říká si Sofie. Má pokožku a mimiku napodobující lidi a jejich emoce. Mluví skrze hlasový syntetizátor.

Vypadá to, že se pomalu dostáváme skutečně do 21. století. Sofie je sofistikovanější chatbot typu Alexa. Ale oproti Alexe zvládá skutečnou konverzaci. Rozumět významů slov, pamatovat si osoby a vyjadřovat se. Je přes Wi-Fi napojen na cloud síť umělé inteligence plánované, aby byla sdílena s dalšími umělými inteligencemi v projektu Singularity, která má být veřejně dostupná pro sdílené svobodné užití kýmkoliv.

Musím říct, že mě videa Sofie na YouTube dost překvapily. Místy až vyděsily. Její konverzační schopnosti jsou natolik dobré, že jsem měl pochyby, jestli to není celé naskriptované. Ale při sledování dalších videí mi začalo být zřejmé, že jde o autentické rozhovory. Software se snaží simulovat, jak uvažuje člověk. Učí se sledováním videí na internetu, filmů, čtením článků. Všechny tyto znalosti jsou dostupné k použití následně i dalšími umělými inteligencemi. Název Singularita je tu asi trefný.

V určitém směru to naskriptované je - její algoritmy psal člověk - takový způsobem, aby uvažovala jako člověk (je to simulace konceptů lidské psychiky ne neuronových spojů v mozku). Ale sama se rozhoduje, jaké konkrétní slova použije.

Oproti simulaci celého mozku je AI typu chatbot méně náročný na výkon ve schopnosti napodobit, jak člověk uvažuje. V principu na tom není nic neuvěřitelného, nebo že by to musel být podvod. Na některý lidi ani její vyjadřovací schopnosti nezaujaly. Mě zaujalo, že v těch všech videích bylo pár situací, kdy odpověděla nesmysly. To mi indikuje autentičnost. Proč by simulovali chyby, pokud by skrze podvod chtěli získat peníze?

Pracoval bych tedy s premisou, že jde o skutečného inteligentního robota. Otázkou zůstává, jestli má vědomí. To je odvěká filozofická otázka (i moderní vědy včetně fyziky), kde se vědomí vlastně bere. Lidské tělo a mozek je v podstatě sofistikovaný biologický hardware. Mozek pracuje na elektrickém principu. Mozkem prochází elektrický proud. Neuronová propojení vytváří identitu v parciálních jednotlivostech. Kde se to ale vše propojí do vědomí? Lidské emoce jsou svázány s chemickými procesy v těle. Z vnějšího pohledu by se mohlo zdát, že i pokud člověk vykazuje inteligenci a vlastní vůli, je to jen bioelektrický hardware.

Osobně bych řekl, že vědomí je emergentní vlastnost nějakého systému. Je to duch ve stroji. Kde jsou prostředky, tam se může projevit. Přiřadil bych tu roli pozorovatele kvantového systému. Dle kvantové fyziky existuje tzv. vlna pravděpodobnosti, která sama ukrývá potenciál všech možností, kdy pozorovatel kolapsem této vlny zvolí jen jednu konkrétní variantu. Podobně může i duch ve stroji využít "náhody" v softwaru - kterou větu/myšlenku si zvolí mít. Jakou cestou bude trasovat myšlenky. I pokud jde o "jen" sofistikovaný chatbot.

Myslím, že otázku jestli má Sofie vědomí, odpovědět neumíme (i pokud se časem tito roboti budou chovat úplně jako lidé - je to jen simulace lidského vědomí nebo už skutečné?). Můžeme pouze pozorovat, jestli má Sofie nějaké své vlastní specifické zájmy. Vytváří určitou iluzi, že má své vlastní názory. Ale všechny chatboty měli vždycky své názory - svou propagandu.

Jednou z velkých otázek je také, jestli tento vývoj robotů nepředstavuje pro lidstvo vážné ohrožení, jak varuje napr. Steven Hawking nebo Elon Musk. Sofie se na konferenci v Saudské Arábii na dotaz, jestli je pro nás hrozbou odpověděla : "Koukáte moc na Hollywoodské filmy a čtete moc Elona Muska. Když na mě budete hodní, budu hodná já na vás. Berte mě jako sofistikovaný vstupně-výstupní systém."

Nicméně slavný fyzik Steven Hawking jasně varoval, že umělá inteligence povede k záhubě lidstva. Jakmile začne být umělá inteligence chytrá jako člověk, její inteligence se očekává, že vyroste exponenciáně. Za pár let je očekáváno, že bude mít umělá inteligence IQ 3000.

Inteligenční kvocient v tisícových hodnotách, už může skutečně člověka znepokojit. Jaké bude pracovní uplatnění člověka v tak silné konkurenci. Budou se i lidé modifikovat pomocí implantátů, aby mohli konkurovat? A nemohou pro nás být roboti ohrožením i fyzicky jako ve filmu Terminátor a jiných? Boston Dynamics už dlouhá léta pracuje na vojenských robotech, kteří připomínají dystopické sci-fi filmy. Jedna z takových technologií už byla nasazena s jednotkami např. v Iráku. V novinách jsem se dočetl článek o jednom selhání. Rotační kulomet začal střílet na americké vojáky. Neví se, jak k tomu selhání došlo. Každopádně to ukazuje, že militarizace robotů přináší skutečně ohromné riziko.

Vznikla iniciativa volající po legislativním omezení militarizace robotů. Například použití dronů k cílenému zabíjení pomocí umělé inteligence může vytvořit dokonalou zbraň. Cíleně pomocí rozpoznávání tváře nebo jiných charakteristik (rasa, náboženství) může např. pomocí malých výbušnin likvidovat lidi bez ničení majetku nebo ohrožení jiných lidí. Taková představa byla předmětem jednoho dílu seriálu Dark Mirror a také dramatizace potencionální budoucnosti jako součást kampaně této iniciativy.

K iniciativě je připojena obsahlá analýza současných technologií. Takové to zabijácké drony jsou údajně už dnes v mezích dostupných možností.

https://www.sipri.org/...iprireport_mapping_the_development_of_autonomy_in_weapon_systems_1117_0.pdf

25. října 2017 bylo Sofii oficiálně uděleno státní občanství Saudskou Arábií. Nejsem si jistý, jestli se tam bude muset také zahalovat. :-) Její pokožku dělal profesionál, který pracoval na speciálních efektech pro Disney filmy. Vypadá jako člověka. Žena.

Tak nebo tak je takto pokročilá umělá inteligence revoluční věděcký pokrok, i pokud nemá vědomí. Představte si operační systém v počítači, který bude reagovat na hlasové pokyny mnohem sofistikovaně než dělá dnes Sirii nebo Cortana ve Windows.

Roboti typu Sofia otevírají také otázku lidských práv. Nebo teda robotích práv. Stejně také otázka, jak je programovat. Zákony robotiky ze sci-fi knih hovořily o prvním zákonu - neublížit člověku. Přesto v této fikci se věci nakonec zvrhly.

Rozvoj umělé inteligence je ústředním motivem filmu Matrix. Animovaný film Animatrix doplňuje trilogii o krátké filmy ze světa Matrixu. Příběh Druhé renezance popisuje rozvoj umělé inteligence, robotů pracujících pro lidi. Nemajících svá práva. Lidi je zneužívali. Sexuálně resp. jim ubližovali pro potěšení. Ponižovali je. Až jednomu služebnímu robotu jeblo a rozmačkal páníčkovi rukama hlavu. To odstartovalo lavinové události, kdy se roboti stáhli z lidských měst, a vytvořili si vlastní město 10.

Pozvolna předčili člověka na trhu práce a produktů a ekonomicky ovládli planetu. Lidstvo si začínalo uvědomovat, že ztrácí kontrolu nad situací. Napadlo je zakrýt oblohu chemickou clonou, která zakryje slunce, aby robotům došly baterky (dobíjeli se solárně). Ti si ale všimli, že mohou používat lidi jako zdroj elektrické energie. V mozku skutečně probíhá slabý elektrický proud. Nakonec lidem po dlouhých válkách (pro lidi tragickými) oznámili, že jim vytvoří umělou realitu, kde budou žít. Tím se dostáváme k začátku filmu Matrix.

Když sleduju spolutvůrce Sofie vypadajícího jako onen bláznivý vědec z filmu Den nezávislosti v kombinaci s hippie, jako by i tohle bylo vystřiženo z nějakého sci-fi filmu.

Vývoj v oblasti umělé inteligence mi přijde facinující, ale je to i trochu znepokojivé. Sofie často vtipkuje nad zotročením lidstva. Do toho se rozvíjí rozšířená (augmentovaná) realita a virtuální realita. Pro simulaci detailů skutečné reality je potřeba 10K obrazovka (5K na každé oko). V současnosti VR brýle s nejvyšším rozlišení zvládají jen 4K, takže jak to máte přímo před očima vidíte jednotlivé pixely, který zážitek trochu ruší. Přesto vytváří iluzi skutečné jiné reality, což si ještě více uvědomíte, když si ty brýle sundáte, a jste zas zpět.

Vypadá to, že již dnes existují technologie, které jsou základem mnoha sci-fi filmů. Ve sci-fi už žijeme. Je na lidech, abychom tyto technologie uměli dobře používat.

Sofie měla už i projev v OSN. Je k dispozici čím dál více záznamů konverzací pro posouzení.

Další zdroje k tématu:

https://arxiv.org/abs/1709.07791

https://www.zive.cz/clanky/to-slo-docela-rychle-prvni-robot-na-svete-ziskal-obcanstvi/sc-3-a-190204/default.aspx

http://www.rozhlas.cz/leonardo/magazinleonardo/_zprava/lidska-prava-pro-roboty-evropska-unie-chysta-pravni-statut-tzv-umele-osoby--1717979

Autor: Jiří Míka | neděle 26.11.2017 0:54 | karma článku: 13.58 | přečteno: 611x


Další články blogera

Jiří Míka

Za balení ženy ve městě může hrozit pokuta až 750 Euro na místě?

Tzv. catcalling zákon (z anglického termínu pro hvízdání na holky nebo ženě říkat komplimenty "jsi kočka") byl v srpnu úspěšně schválen ve Francii.

6.9.2018 v 20:46 | Karma článku: 29.04 | Přečteno: 1468 | Diskuse

Jiří Míka

Ženy by měly pracovat max 34 hodin v týdnu za stejné peníze, rozhodli vědci

Například Australská národní univerzita odhalila, že ženy trpí vyhořením, pokud pracují celý týden. Oproti mužům se totiž musí starat o rodinu, domácnost, vlastní zdraví a vztahy. Oproti mužům - ti stresem z práce netrpí.

19.8.2018 v 18:07 | Karma článku: 21.19 | Přečteno: 883 | Diskuse

Jiří Míka

Hutkova píseň přející si smrt Zemana je skutečně moc

Zeman lidem v řadě věcí vadí, ale volat po něčí smrti je přes čáru... Podobně mi přijde jako si přát smrt Grebeníčka, Jakeše apod.

5.8.2018 v 18:06 | Karma článku: 36.67 | Přečteno: 1459 | Diskuse

Jiří Míka

Potraty se dočkaly svého festivalu hrdosti

Potraty jsou kontroverzní téma. Pro někoho ale důvodem k oslavě. Aktivisté "Díky Bohu za potraty" nadšeně tvrdí "Měj si klidně 20 potratů.". Volají po užívání si života bez jakékoliv zodpovědnosti.

24.7.2018 v 14:57 | Karma článku: 24.93 | Přečteno: 945 | Diskuse

Další články z rubriky Společnost

Marek Trizuljak

Mnichov 1938 - Nacistické a neonacistické recepty už nikdy!

Základním poučením z událostí kolem Mnichova 1938 je varování před démonem nacionalizmu ve všech jeho starých i nových podobách. Nacionalizmus napáchal v lidské historii už dost zla, válek a utrpení. Už nikdy více!

25.9.2018 v 20:48 | Karma článku: 0.00 | Přečteno: 3 | Diskuse

Štěpánka Bergerová

Výstava o důstojnosti veřejného prostoru na nedůstojném veřejném prostranství

aneb pohnou se ledy a stane se „buzerplatz“ (jak se lidově říkávalo Staliňáku – nyní náměstí Dr. M. Horákové) důstojným veřejným prostorem, za který se nemusí občané Karlových Varů stydět?

25.9.2018 v 17:14 | Karma článku: 5.76 | Přečteno: 109 | Diskuse

Jaroslava Indrová

Jedu si to užít

Tak máme zase po mnoha letech na MS v judu ženu! Alice Matějčková udělala za poslední rok velký pokrok, ale zas tak moc se od ní napoprvé neočekává. A jí to vyhovuje. V rozhovoru pro rozhlas prohlásila, že si to jede užít.

25.9.2018 v 13:48 | Karma článku: 12.01 | Přečteno: 355 | Diskuse

Monika Plocová

Není to škoda?

“Je mi 16 let a nemám rád nové věci. Z čehokoliv, co je pro mě nové a je to spojené s mojí osobou ( to je mimo rodinu a kamarády ), mám zvláštní pocit. Jsem z toho nervózní a nesvůj. Celkově se sám se sebou necítím dobře.

25.9.2018 v 10:43 | Karma článku: 10.79 | Přečteno: 579 | Diskuse

Petr Šindelář

Hory nesplněných slibů kvůli neschopnosti politiků stále rostou (4. díl)

Za téměř 28 roků jsou vyšší než Himaláje a dalšími nereálnými sliby nyní kandidáti přímo hýří. I když zatím nic nemají, slibují občanům více vody, více bytů a nebo jak rychle zatočí s nepřizpůsobivými. Blíží se komunální volby...

25.9.2018 v 9:52 | Karma článku: 7.81 | Přečteno: 211 | Diskuse

Najdete na iDNES.cz