„Umělá inteligence nám pomáhá, dělá za nás spoustu práce, ale zároveň za nás místy přebírá iniciativu. A to přebírání iniciativy, tomu říkám ovládání,“ vysvětluje kybernetik v pořadu Osobnost Plus. Příkladem takového ovládání může být i to, když nám umělá inteligence přes algoritmy na sociálních sítích doporučuje, co máme číst nebo s kým se kamarádit. Zakladatel Facebooku a majitel Meta Platforms Mark Zuckerberg mluví ve svých vizích o „superinteligenci,“ která lidem pomůže být lepší a výkonnější. „Ty technologické vize, které slyším od velkých technologických firem, jako je Meta nebo OpenAI, mě opravdu znervózňují,“ přiznává expert. „Zuckerberg sice říká, že umělá inteligence bude pomáhat lidem, to je pravda. Ale také mnoha lidem ublíží.“
Umělá inteligence dnes začíná být personifikovaná a tím podle Pěchoučka ztrácí na transparentnosti. Ve chvíli, kdy si každý uživatel vytrénuje vlastního chatbota, je navíc složitější AI kontrolovat. Algoritmy se tak dají zneužít třeba v politických kampaních, varuje Pěchouček. „Už to není ten velký billboard u dálnice, na který se všichni dívají a je tam buď, že zdražím, nebo zlevním,“ přibližuje kybernetik. „Ale každý z voličů v té zprávě vidí něco jiného a vlastně se vytrácí univerzálnost pravdy.“
AI, nebo člověk?
Lidi se obávají, že se umělá inteligence dostane do fáze, kdy začne člověku ubližovat, nebo ho nahrazovat. Představa, že by například počítač dosahoval stejné inteligence jako člověk, je ale podle Pěchoučka nereálná. „Umělá inteligence člověka ve mnoha oblastech překonává a v skoro žádné se mu nevyrovnala. Je vždy buď horší, nebo lepší,“ objasňuje a vzápětí dodává: „Může se ale stát nebezpečnou, aniž by dosáhla člověka úplně ve všem, v čem člověk vyniká. Může se stát, že člověk bude v něčem nad AI vynikat, ale to nebude důležité.“ „V okamžiku vyspělosti umělé inteligence může AI natolik obsáhnout naše životy, náš mentální čas a naše rozhodování, že navzdory tomu, že nás nepřekoná úplně ve všem, nám změní životy tak, že nás bude ovládat,“ vysvětluje. Přiznává, že si vždy myslel, že okamžik, kdy se umělá inteligence vymkne kontrole, přijde zadlouho a společnost bude čelit jiným problémům. „Říkal jsem si, že nás budou čekat těžší problémy, třeba pandemie, ústup demokracie, války, které vývoj AI přibrzdí. Ukazuje se, že negativní světové události opravdu nastaly, ale vývoj umělé inteligence nezpomalují,“ připomíná kybernetik a uzavírá: „Myslím, že okamžik, kdy se umělá inteligence vymkne kontrole, je opravdu otázkou několika málo let.“ Změní umělá inteligence školství? Co když nebudeme ochotni za AI platit? A proč je její ochrana podfinancovaná?