Umělá inteligence - technologie a odpovědnost…
Vážení kolegové, dámy a pánové,
především děkuji za pozvání a možnost vystoupit před vaším váženým publikem. Všechny Vás zdravím z Prahy ve velice významný den… Nejen, že v Pjatigorsku probíhá významná konference, ale co víc, dnes jsou narozeniny mé manželky Ivy…
Nyní k tématu. Viktorie Ostrovská navrhla doplnit mnou navržené téma o malý přehled diskuse na téma umělé inteligence. Mohli bychom na obzoru diskuse strávit dlouhý čas, a proto mi dovolte určitou alegorii.
V polovině 15. století se začal v Evropě šířit z tiskárny Johanna Gutenberga v německé Mohuči knihtisk. Nešlo o úplnou novinku, ale o syntézu dosud známých postupů, které již dříve více či méně měly potenciál nahrazovat opisování textů na pergamen. Přesto však právě Gutenbergův knihtisk znamenal doslova inovační a informační průlom a předurčil nebývalé společenské změny. Je přirozené, že pouhé tušení vyvolalo mezi tehdejšími církevními, světskými i univerzitními elitami vzrušené debaty. Kdybychom měli tuto bohatou debatu převést na společného jmenovatele, pak najdeme tři.
Tím prvním je obava ze ztráty monopolu na šíření informací, doslova šíření hrůzy z toho, že by doslova kdokoliv mohl šířit svobodně dvé myšlenky prostřednictvím knihtisku a jediným omezením by pro něj byla cena. Byla to oprávněná obava, protože již ve dvacátých letech 16. století celá polovina tištěných textů v Evropě obsahovala myšlenky Martina Luthera a německé reformace. Český reformátor Jan Hus podobnou možnost neměl, skončil na hranici v Kostnici, jeho nečetné ručně opisované spisy byly církví ničeny a jeho myšlenky nepřekročily hranice českého království. Sám Martin Luther prohlásil, že všichni jsme byli husity, ale nevěděli jsme o tom.
Tím druhým společným jmenovatelem byla snaha využít knihtisk ke zvýšení tlaku na věřící a jejich manipulaci ve prospěch jediné pravé katolické víry. Jednou z prvních německých tištěných knih se stala kniha s názvem Kladivo na čarodějnice, Malleus maleficarum. Šlo o návod, jak pronásledovat nejen čarodějnice, ale především odlišné, církvi a státu nebezpečné názory, jak vyslýchat, mučit, a nakonec upalovat nepohodlné lidi a zbavovat je majetku těch správných chlapců a udavačů té doby.…
Třetím společným jmenovatelem jsou žvásty těch, kteří většinou nevědí a čem mluví. Prostě žvaní na jakékoliv téma, které kolem sebe vnímají, protože si myslí, že se jednoduše sluší o tom mluvit nebo, že se žvásty dají prodat nebo vyměnit za společenskou přízeň.
Dnešní debata ona naší osobní odpovědnosti umělé inteligenci nese podobné znaky jako tehdejší debata o knihtisku. Má stejné společné jmenovatele. Na straně jedné jsou obavy ze ztráty moci nebo spíše pocitu moci a na straně druhé hledání způsobů, jak moc nad lidmi pomocí umělé inteligence posílit. Obě debaty mají dvě strany. To, co jedni pokládají za dobré, to druzí pokládají za špatné. Žvanilové jsou pak přítomni v každé době a kolem každého fenoménu. Je jich hodně a žvástů ještě daleko více.
To podstatné na tom je to, že bez ohledu na tyto debaty a žvásty se umělá inteligence, stejně jako onehdy před staletími knihtisk, stává stále více součástí našich životů a záleží jenom na nás, na naší osobní odpovědnosti, zda bude dobrým sluhou nebo zlým pánem.
Dovolte mi podotknout, že po konzultacích s mým starým kamarádem, bývalým metropolitou československé a později české pravoslavné církve, biskupem Krištofem, mohu před vámi rád konstatovat, že pravoslaví a východní křesťanství jako celek nejen neupalovaly sobě nepohodlné lidi, byť ani zde neměli odpadlíci, ať již praví nebo domnělí, rozhodně na růžích ustláno. Navíc se obecně k podobným otázkám, jakým bylo třeba hledání postoje ke knihtisku, pravoslaví stavělo tradičně s větším pochopením, tolerancí, nadhledem a jasnozřivostí něž katolictví. Nesnažilo se složité otázky řešit cestou kánonů a dogmat, ale cestou osobní odpovědnosti nejen představitelů církve, ale i samotných věřících… Někdy je dobré se určitých tradic ve společnosti držet, ale někdy je to mimořádně obtížné…
Tím s Vaším dovolením přejdu k dalšímu tématu mého vystoupení a tím je umělá inteligence jako součást technologií dneška a nepochybně i zítřka a určitě, obrazně řečeno, i příštího týdne na straně jedné a zároveň jako předmět naší osobní i kolektivní nebo dokonce obecné lidské odpovědnosti.
Především je třeba se vypořádat s určitým omylem spočívajícím v tom, že umělou inteligenci označujeme až příliš často jako technologii. Když se podíváme na autoritativní výklady pojmu technologie, počínaje jeho řeckými a latinskými kořenů, pak vidíme, že jde o významy oscilující kolem pojmu dovednost. Jsou to činnosti obsahující tvorbu, zavádění nebo zdokonalování výrobních i tvůrčích procesů.
Obsah pojmu slova technologie je tedy spíše odpovědí na otázku jak, než odpovědí na otázku co. V češtině jsme si zvykli na význam pojmu technologie ve smyslu výdobytek nebo vymoženost. Jak jsem se dozvěděl od rodilých mluvčích, podobně to platí i v ruštině. Naše vnímání pojmu technologie je proto zahaleno určitým zmatením významů mezi dovedností a vymožeností, což je navíc umocněno nejednoznačným rozlišováním pojmů technologie a technika. Čeština a ruština v tom nejsou zdaleka samy, a k celkovému zmatení ještě připojuje vliv nesprávného překladu z anglické literatury. Zůstaňme proto v maximální možné míře u původního významu dovednost.
Nicméně, zabývejme se také výkladem pojmu technologie jako vymoženost, tedy technologie jako odpověď na otázku co…?!? Slovem technologie tak můžeme pojmenovat například počítače, kterým obvykle říkáme výpočetní technika. Technologií také můžeme nazvat elektronový mikroskop, magnetickou rezonanci nebo obyčejný rentgen, které patří pro změnu pod pojem zobrazovací technika. Je patrné, že v této souvislosti je technologie spíše výrazem, který má udělat dojem, vyvolat zdání něčeho honosnějšího, lepšího než obyčejná technika. Umělá inteligence je často pojmenovávaná jako technologie, tedy jako dovednost, ale zatím máme příliš málo praktických zkušeností, abychom jí vyjádřili přesnější odpovědí na otázku na otázku, co to vlastně je. Možná jde o techniku sběru a třídění dat.
Nyní je důležité se vrátit k otázce odpovědnosti v prostředí, ve kterém neexistují a často ani nemohou existovat pravidla a legislativa. Pro vědu, která působí velmi často, a dokonce nutně v prostředí neupraveném právem, má osobní odpovědnost mimořádný význam. Věda je průkopníkem odhalujícím a vytvářejícím pro nás nové prostředí nové světy. Nalézá v nich zákonitosti a snaží se je popisovat zákony, ale nenalézá v nich návody k použití, podobně jako my v krabicích se nejrůznějším spotřebním zbožím.
Nevím, jak je tomu v Rusku, ale mohu potvrdit, že nejen v našem národním českém, ale i v kontextu EU, je patrné hledání univerzálních norem, které chtějí regulovat to, co ještě nebylo poznáno, a dokonce i to, co nebylo ani objeveno. Klasickým příkladem je pokus o regulaci právě umělé inteligence, o které mnoho nevědí ani špičkoví odborníci a lidé, kteří píšou regulace ještě daleko méně nebo skoro nic. To ovšem nebrání těmto lidem v pyšných prohlášeních, že před EU a jejími regulacemi, a to zdaleka nejen umělé inteligence, ustrne svět v němém úžasu a tyto se stanou celosvětově žádaným vývozním artiklem EU. Skutečnost je taková, že je zřejmé, že světu jsou tyto právní exhibice ex cathedra v EU celkem vzato jedno.
Výšeuvedený jazykový exkurz na téma technologie zařazuje umělou inteligenci spíše mezi techniky, prostředky nebo nástroje než mezi technologie. Technologie ve smyslu dovedností jsou tvořeny především prostřednictvím třívrstvého mentálního procesu.
V první vrstvě vzniká vize, představa cíle neboli konečného účelu celého procesu. Tato vize je testována z hlediska uskutečnitelnosti či proveditelnosti druhou vrstvou, kdy je pro propojení vize a současné reality hledán řetězec účelů a prostředků. Pokud se to podaří, je v rámci virtuálního modelu vlastní představivosti prokázána proveditelnost vize. V opačném případě je nevyhnutelné vizi korigovat a test nebo studii proveditelnosti ve druhé vrstvě opakovat. Ve třetí vrstvě probíhá proces, který lze nazvat plánování, kde je řetězec prostředků a cílů řešen v reálném čase až k cílovému stavu. Třívrstvý proces, který je zde popsán, je univerzální a při tvorbě libovolné technologie nemá v podstatě v našem myšlení alternativu.
Dovolím si snad odvážnou myšlenku, že Její Veličenstvo umělá inteligence nemusí být v rámci tohoto třívrstvého procesu něčím jiným než jedním z mnoha prostředků, které slouží k dosažení jednoho nebo více dílčích účelů nebo cílů. Na straně druhé jsou prostředky důležité pro naši schopnost propojovat vize s realitou a v tomto ohledu je umělá inteligence nástrojem významným.
Jakákoliv technologie byla, je a bude složena z jednotlivých kroků, které vedou od jednoho dílčího účelu k druhému až ke konečnému cíli. Tento proces a s ním i vývoj technologií jsou nutně diskrétní, nespojité. Tato zdánlivá banalita určuje, co technologie je a co není. Jednotlivé kroky většinou také nejsou reverzibilní. Je důležité si uvědomit, že i když se některé kroky opakují, jejich kontext, jejich prostředí se zákonitě mění, protože nelze vstoupit dvakrát do téže řeky.
Technologie jsou neoddělitelné od odpovědnosti všech lidských bytostí, které jsou s nimi jakkoliv spojeny. Odpovědnost je kvantitativně i kvalitativně různorodá, její míra je různá, ale každá z nich je nedílnou součástí celkové spoluodpovědnosti. Dílčí odpovědnosti, stejně jako souhrnná spoluodpovědnost se neustále vyvíjejí, rodí se, kolabují a odcházejí spolu se svými nositeli. Buďme si vždy, každý jeden z nás, vědomi toho, že není větší odpovědnosti, než je naše odpovědnost osobní. Žádná jiná societa nemá tolik osobnostního obsahu jako lidský jedinec. Žádná kolektivní odpovědnost nemůže nahradit tu osobní.
V poslední době existuje zřetelná tendence přenechat odpovědnost technickým vymoženostem, zejména počítačům, algoritmům a v neposlední řadě umělé inteligenci. Jde o logický kolaps, protože tyto prostředky nemohou řídit procesy, které je stvořily. Jde sice o velice populární představu, že se lidé zbaví své odpovědnosti za technologie tím, že je předají těm, které je pomohly vytvořit, ale ve skutečnosti jde o faktickou rezignaci na stanovování účelů a cílů. Je to ještě hloupější a nebezpečnější, než když lidé svěří odpovědnost za své složité osudy bez výhrad právnímu státu nebo vládě práva.
Populární představy o možnosti zbavení se odpovědnosti přinášejí nejrůznější umělecké směry, literatura, film a ostatní média. Jejich obsah je však spojitý, chaotický a nepřehledný a udivuje nás svou nevyčerpatelnou pestrostí, vedle níž se skutečná technologie zdá nicotnou a prostinkou asi jako vodní mlýnek na potoce vedle warpového pohonu ve Star Treku. Skutečností však je, že sebevětší spojitá záplava dat nebo informací nevytvoří žádnou změnu prostředí, pokud jejich součástí nebudou nějaké diskrétní technologie. Existuje celá řada konceptů, jak propojit technologie, nespojité ze své podstaty, s jejich spojitým prostředím a také, jak propojit člověka s technologiemi.
Je patrné, že technologie řízené kybernetickými technologiemi vyšších řádů, které dokáží efektivně působit v různorodých podmínkách při dosahování různorodých cílů, jsou mimo jiné stále více univerzální. Dříve se říkalo varovně, že účel světí prostředky. Dnes se potýkáme s opačným pojetím, že prostředky určují účely nebo cíle a často je, bohužel, už ani nepotřebují… Právě tyto poněkud zvracené logiky otevírají před technologiemi netušené perspektivy a možnosti jejich zneužívání.
Věda nás přivádí do dosud neprobádaného prostředí, hledá v něm zákonitosti, které se následně snaží popisovat pravidly a zákony. Často se mýlí, ale hledání, nalezení a potvrzení slepých uliček jsou podobně významné činnosti, jako vědecké objevy. Za potvrzené slepé uličky Nobelovy ani jiné ceny. Ale toto hledání a objevování jak slepých uliček, tak i zákonitostí v našem prostředí se nemůže obejít bez osobní odpovědnosti objevitelů, pionýrů vědy a jejich týmů. To platí o umělé inteligenci podobně jako kdysi dávno a na úsvitu vzestupu člověka o klacku nebo pěstním klínu nebo kostěné jehle či dýce…
Děkuji vám za pozornost…