Časopis SOUDCE
AI aneb Pro druh homo sapiens už telefonní zvonek odezněl?
Mgr. Pavel Punčochář, člen Republikové rady SU ČRVážené kolegyně a kolegové. Kouzlo sci-fi, mimo cestování v čase, prostoru a fantazii, spočívá i v tom, že se zde objevují myšlenky, které se dříve či později stanou skutečností. Můj táta byl vášnivý čtenář sci-fi, a tak jsem se díky němu v dobách, kdy ještě četba papírových knih měla stejný lesk, jako mají dnes telefonní displeje, prokousal nejen klasickou „velkou trojkou“ Isaaca Asimova (definoval tři robotické zákony), Arthura C. Clarka (mimo jiné vynálezce geostacionární telekomunikační družice) a Roberta A. Heinleina.
Poslední měsíce je velká pozornost věnována AI [1] a v té souvislosti se mi vybavila apokalyptická povídka třetího jmenovaného A. C. Clarka z roku 1965 „…a ozve se Frankenstein“, ve které počet telefonních přístrojů po spojení s družicemi překročil počet neuronů v mozku[2] a stal se soběstačným systémem s osobností, která se ujala vlády na zemi. Povídka končí větou „Pro druh homo sapiens už telefonní zvonek odezněl.“ Ostatně podobný námět obsahuje i povídka „Přítel“ polského spisovatele Stanisława Lema, kde se člověk snaží spojit s umělou inteligencí, která hodlá pohltit planetu i vesmír.
Dnešní závislost lidí na technice tomuto riziku nahrává ještě více. Vývoj AI dává této předpovědi zřetelnější kontury. I když by AI měla lidské schopnosti pouze napodobovat, dnes už víme, že v mnohém člověka předčí. Vědci navíc propojení AI a mozku předpokládají. Objevují se teorie, že vývoj této technologie brzy nahradí lidi v řadě profesí, a to včetně právníků, soudců.
Nejsem rozhodně odpůrce technologií, právě naopak. A všude, kde AI usnadní lidem práci, budiž vítána. Heuréka! Je však třeba podotknout, že právo vesměs reaguje na nové události se zpožděním. Nejinak tomu bude, tedy spíše už je, i v tomto případě. Ostatně na cestách už se testuje celá řada autonomních vozidel, a dosud není jednoznačně vyřešena otázka, kdo v případě havárie ponese odpovědnost za škodu, či jak bude koncipován autonomní systém v případě nevyhnutelného rizika ztráty životů s možností výběru z více lidí. Bude obětován řidič nebo chodec? Co nastane teprve v případě plně autonomní umělé inteligence?
Vznikají zajímavé projekty, jako například AIM LAW,[3] který si mimo jiné klade za cíl definovat zákonné a podzákonné podmínky spravedlivé ochrany osobní autonomie a práva na informační sebeurčení jednotlivce při používání umělé inteligence. Problematika AI se nevyhýbá ani justici. Spolkový ústavní soud v rozsudku 1 BvR 2634/20 ze dne 16. února 2023 dospěl k závěru, že automatizované vyhodnocování osobních dat pouze pomocí algoritmu je zásadním zásahem do osobnostních práv, protože může generovat a dovozovat nové poznatky, které mohou být i diskriminační. Soud konstatoval jasnou potřebu stanovení podmínek, které eliminují zásah do osobnostních práv. Musí existovat pouze dostatečně závažné důvody, které mohou převážit závažnost zásahu v souladu se zásadou proporcionality. Podle soudu používání adaptivních systémů umělé inteligence zvlášť hluboce zasahuje do základních práv, protože dále rozvíjí své vzorce vyhledávání a emancipují se. S umělou inteligencí je třeba zacházet opatrně v kontextu odpovídající procesní úrovně ochrany.[4]
Nemusíme však chodit tak daleko. Nedávné rozhodnutí Městského soudu v Praze č. j. 10 C 13/2023-16 pravděpodobně představuje jedno z prvních rozhodnutí týkajících se umělé inteligence a autorského práva v České republice. Soud zde mimo jiné konstatoval, že obrázek vytvořený umělou inteligencí nepředstavuje autorské dílo podle § 2 AZ, neboť nesplňuje pojmové znaky autorského díla, neboť se nejedná o jedinečný výsledek tvůrčí činnosti fyzické osoby – autora.
Není cílem tohoto úvodníku pouštět se do hlubších filozoficko-právních či etických rozborů této problematiky ani se k tomu necítím povolán. Spíše doufám a věřím, že lidstvo opět najde cestu, jak AI využít, a nikoliv jen zneužít, a že nám zůstane na rozdíl od umělé inteligence něco, co nám nikdo nemůže vzít. To je osobnost a právo na sebeurčení. Tedy, že za nás bude umělá inteligence rozhodovat jen tam, kde budeme chtít. Samozřejmě v rámci zákonných možností.
Nejsem rozhodně odpůrce technologií, právě naopak. A všude, kde AI usnadní lidem práci, budiž vítána. Heuréka! Je však třeba podotknout, že právo vesměs reaguje na nové události se zpožděním. Nejinak tomu bude, tedy spíše už je, i v tomto případě. Ostatně na cestách už se testuje celá řada autonomních vozidel, a dosud není jednoznačně vyřešena otázka, kdo v případě havárie ponese odpovědnost za škodu, či jak bude koncipován autonomní systém v případě nevyhnutelného rizika ztráty životů s možností výběru z více lidí. Bude obětován řidič nebo chodec? Co nastane teprve v případě plně autonomní umělé inteligence?
Vznikají zajímavé projekty, jako například AIM LAW,[3] který si mimo jiné klade za cíl definovat zákonné a podzákonné podmínky spravedlivé ochrany osobní autonomie a práva na informační sebeurčení jednotlivce při používání umělé inteligence. Problematika AI se nevyhýbá ani justici. Spolkový ústavní soud v rozsudku 1 BvR 2634/20 ze dne 16. února 2023 dospěl k závěru, že automatizované vyhodnocování osobních dat pouze pomocí algoritmu je zásadním zásahem do osobnostních práv, protože může generovat a dovozovat nové poznatky, které mohou být i diskriminační. Soud konstatoval jasnou potřebu stanovení podmínek, které eliminují zásah do osobnostních práv. Musí existovat pouze dostatečně závažné důvody, které mohou převážit závažnost zásahu v souladu se zásadou proporcionality. Podle soudu používání adaptivních systémů umělé inteligence zvlášť hluboce zasahuje do základních práv, protože dále rozvíjí své vzorce vyhledávání a emancipují se. S umělou inteligencí je třeba zacházet opatrně v kontextu odpovídající procesní úrovně ochrany.[4]
Nemusíme však chodit tak daleko. Nedávné rozhodnutí Městského soudu v Praze č. j. 10 C 13/2023-16 pravděpodobně představuje jedno z prvních rozhodnutí týkajících se umělé inteligence a autorského práva v České republice. Soud zde mimo jiné konstatoval, že obrázek vytvořený umělou inteligencí nepředstavuje autorské dílo podle § 2 AZ, neboť nesplňuje pojmové znaky autorského díla, neboť se nejedná o jedinečný výsledek tvůrčí činnosti fyzické osoby – autora.
Není cílem tohoto úvodníku pouštět se do hlubších filozoficko-právních či etických rozborů této problematiky ani se k tomu necítím povolán. Spíše doufám a věřím, že lidstvo opět najde cestu, jak AI využít, a nikoliv jen zneužít, a že nám zůstane na rozdíl od umělé inteligence něco, co nám nikdo nemůže vzít. To je osobnost a právo na sebeurčení. Tedy, že za nás bude umělá inteligence rozhodovat jen tam, kde budeme chtít. Samozřejmě v rámci zákonných možností.
[1] Artificial intelligence (AI) - je schopnost strojů napodobovat lidské schopnosti, jako je uvažování, učení se, plánování nebo kreativita.
[2] Počet neuronů v mozku 50 až 100 miliard, počet mobilních telefonů se odhaduje na 7, 5 miliard
[3] https://aimlaw.ilaw.cas.cz/index.php/cs/sample-page/
[4] https://www.epravo.cz/top/clanky/umela-inteligence-a-pravo-patrne-prvni-rozsudek-ve-veci-umele-inteligence-117132.html