9 děsivých technologií, které existují už dnes

Mají nám usnadnit život. Místo toho nám můžou sahat do hlavy, do soukromí i do budoucnosti.

Technologie nás mají posouvat dál. Zachraňují životy, zjednodušují každodennost, pomáhají chápat svět kolem nás. Ale co když se pokrok vymkne kontrole a hranice mezi přínosem a hrozbou se začnou rozmazávat?

Zatímco využíváme všech nových možností umělé inteligence a rozšířené reality, v pozadí vznikají nástroje, které můžou snadno změnit náš svět v dystopii. A nejsou to žádné fantazie z Black Mirror epizod. Tady je 9 nejděsivějších technologií, které už dnes fungují, a měly by být pod pečlivým dohledem nás všech.

1. Sociální kreditní systém

V Číně se už od roku 2014 testuje systém sociálního kreditu, který má za cíl hodnotit důvěryhodnost občanů. Funguje na základě sběru dat z různých veřejných i neveřejných zdrojů, jako jsou záznamy z kamer, úřední záznamy, bankovní transakce nebo chování na internetu. Města jako Rongcheng nebo Suzhou už tento systém zavedla plošně.

Občané s vysokým skóre můžou získat výhody, jako je levnější doprava nebo rychlejší vyřízení žádostí. Naopak ti s nízkým skóre můžou čelit omezením, například v možnosti cestovat, získat úvěr, nebo dokonce najít zaměstnání. V některých případech jsou jména provinilců zveřejňována v televizních zprávách jako forma veřejné ostudy.

Mezi technologie, které systém umožňují, patří zejména kamerové systémy s rozpoznáváním obličejů a centralizované databáze. V kombinaci s AI dokážou rychle vyhodnocovat a aktualizovat skóre milionům lidí.

Tento model se inspiroval například některými aspekty korporátních ratingů používaných na Západě, ale v mnohem větším měřítku a s přímým dopadem na každodenní život občanů. Znepokojivé je, že podobné principy pronikají i jinam – do škol, firem, a dokonce i zdravotnictví.

2. Čipy v mozku

Neuralink, společnost založená Elonem Muskem, získala v roce 2023 povolení k první implantaci mozkového čipu do lidského subjektu. Cílem je vytvořit rozhraní mezi mozkem a strojem, které umožní lidem ovládat zařízení pouhou myšlenkou. Čip zaznamenává elektrické signály v mozku a převádí je na digitální instrukce.

První aplikace se zaměřují na pomoc lidem s ochrnutím. Čip má například umožnit psaní textu nebo ovládat kurzor na monitoru. Výsledky prvních testů ukázaly, že technologie funguje a je relativně bezpečná. Zároveň se objevují i další vývojáři jako Synchron nebo Blackrock Neurotech, kteří vyvíjejí alternativní mozkové implantáty.

Kromě motorických funkcí se v budoucnu zvažuje i rozšíření na oblast paměti, koncentrace nebo emocí. Výzkum se také soustředí na možnost přímého propojení více lidí nebo propojení s externími databázemi. Představ si, že dokážeš psát texty jen myšlenkami. Že si stáhneš upgrade paměti. Nebo že firma sleduje, kolik pozornosti věnuješ práci. Přímo ve tvém mozku.

Zatím zůstává čip v mozku doménou klinického výzkumu, ale vývoj je rychlý. A zatímco jedni mluví o revoluci, jiní varují před ztrátou svobody přímo uvnitř vlastní hlavy.

3. Nanoboti v těle

Nanoboti jsou mikroskopické stroje o velikosti několika desítek až stovek nanometrů a jsou jednou z nejambicióznějších technologií moderní medicíny. Testují se například pro cílené doručování léčiv do konkrétních buněk, diagnostiku nádorů, čištění cév nebo regeneraci poškozených tkání.

Některé výzkumy, například na MIT a Technionu, už dosáhly laboratorních úspěchů se samořiditelnými nanočásticemi, které se aktivují pouze v přítomnosti určitých proteinů. To umožňuje extrémně přesné zásahy bez poškození okolní tkáně.

Zároveň se ale stále častěji mluví i o rizicích. Vzhledem ke své velikosti můžou být nanoboti využiti nejen ke sledování, ale i k invazivní manipulaci s tělem, například k ovlivnění hormonální rovnováhy nebo nervových drah.

Technologie je v mnoha ohledech těžko detekovatelná a prakticky nezastavitelná, jakmile se jednou dostane do organismu. V kombinaci s externím řízením nebo napojením na síť by mohlo jít o ideální nástroj pro kontrolu člověka zevnitř.

4. 3D tisk zbraní

Dnes si můžeš doma vytisknout nejen plastové díly nebo dekorace, ale i plně funkční střelné zbraně. Tyto „zbraně duchů” nemají sériová čísla, nejsou evidovány a nedají se tím pádem příliš snadno dohledat.

Na internetu se volně šíří plány pro tisk pistolí, zásobníků i dalších součástek, přičemž konstrukce je stále jednodušší. Uživatelé si často díly vytisknou z plastu a doplní o snadno dostupné kovové prvky. Policie ve Spojených státech i Evropě už řešila desítky případů, kdy si pachatelé tiskli zbraně doma. Některé z případů byly i s extremistickým pozadím.

Znepokojivá je dostupnost. 3D tiskárna se dá pořídit za pár tisíc korun a samotný tisk trvá často jen několik hodin. Toho využívají často i nezletilí, kteří se takto můžou ke zbraním dostat velmi snadno. Legislativa se liší stát od státu, ale i tak technologie postupuje rychleji než zákony. I bez nutnosti koupě ve specializovaném obchodě, licence a registrace se tak z domácnosti může stát plnohodnotná zbrojní dílna, aniž by o tom kdokoli jiný věděl.

5. Autonomní zbraně

Moderní armády čím dál víc spoléhají na autonomní systémy. Do jejich arzenálu se přidaly drony, které samy rozhodují o cíli, střelecké věže řízené algoritmy či roboti, kteří rozpoznají nepřítele bez lidského zásahu. V roce 2020 OSN zaznamenala první nasazení autonomního dronu v Libyi, který pravděpodobně zaútočil bez příkazu operátora.

Výrobci obhajují tyto technologie tím, že šetří lidské životy tím, že stroje nasazují místo vojáků. Systémy se učí na obrovských databázích z předchozích konfliktů a v reálném čase vyhodnocují situaci. Některé jsou navržené pro boj v týmech, komunikují mezi sebou a rozdělují si úkoly.

Zásadní stinnou stránkou však je, že stroje nerozlišují kontext. Algoritmus může vyhodnotit pohyb dítěte jako hrozbu. Autonomní zbraň navíc může být hacknutá nebo zneužitá k útoku mimo jakoukoli kontrolu. Právní rámec pro použití takových systémů zatím prakticky neexistuje. Rozhodnutí o životě a smrti tak čím dál častěji spočívá v řádcích kódu.

6. Digitální dohled

Monitorování lidí a jejich chování na internetu i offline je dnes běžnou součástí moderní infrastruktury. Senzory ve veřejném prostoru, chytré telefony, kamery s rozpoznáváním obličejů i pokročilé sledování aktivity na pracovním počítači. To vše generuje obrovské množství dat, která můžou být využita pro analýzu i kontrolu.

Ve městech jako Londýn, Peking nebo Dubaj už fungují systémy, které dokážou sledovat konkrétní osobu v reálném čase na základě kombinace více kamer a datových vstupů. V komerční sféře se sleduje produktivita zaměstnanců, počet kliknutí, doba nečinnosti nebo emoční reakce pomocí webkamery.

Na první pohled může jít o optimalizaci nebo bezpečnost. Ve skutečnosti se ale formuje systém, ve kterém prakticky neexistuje soukromí. Data se analyzují zdánlivě anonymně, v praxi je identifikace velmi snadná. Provozovatel systémů často vlastní všechna potřebná data, tedy polohu, historii nákupů, kontakty, a dokonce i otisk chování uživatele.

7. Kvantové počítače

Kvantové počítače fungují na principu kvantových bitů (qubitů), které můžou existovat ve více stavech zároveň. Díky tomu dokážou zpracovávat extrémně komplexní výpočty nesrovnatelně rychleji než klasické počítače. Společnosti jako IBM, Google nebo D-Wave už provozují kvantové systémy s desítkami až stovkami qubitů.

Tato technologie má potenciál přinést revoluci v oblasti vědy, modelování molekul nebo optimalizace. Ale zároveň představuje zásadní ohrožení současné kryptografie. Šifrování, na kterém dnes stojí ochrana bank, armády i běžných uživatelů, by kvantový stroj mohl prolomit během několika vteřin.

V reakci na to probíhá vývoj tzv. postkvantových šifrovacích metod. V roce 2024 v České republice jako první úřad zavedl kvantově odolnou kryptografii Národní úřad pro kryptografickou a informační bezpečnost. Přechod všech subjektů ale může trvat roky a nikdo netuší, kdo už dnes pracuje na kvantovém dešifrování.

8. Genetická editace

Technologie CRISPR-Cas9 umožňuje vědcům přesně upravovat DNA. Používá se k opravám genetických poruch, léčbě některých forem rakoviny nebo výzkumu dědičných chorob. Od roku 2018 byly zaznamenány první pokusy na lidských embryích, včetně nechvalně známého případu v Číně, kde vědec upravil geny dvojčat bez dostatečného etického schválení.

Editace genů se dnes provádí nejen v laboratořích, ale i v zemědělství, kde umožňuje vytvářet odolnější plodiny. Rychlost a přesnost CRISPRu je mimořádná. Oproti starším metodám je levnější, efektivnější a snadněji dostupná.

Znepokojuje ale možnost tzv. germline editace, tedy zásahů, které se přenášejí na další generace. Zatímco léčba chorob může být přínosem, cílená selekce žádoucích vlastností otevírá dveře k eugenice.

V praxi by to mohlo vést ke vzniku společenské vrstvy geneticky vylepšených jedinců, a to podle majetku a přístupu k technologiím. Odborníci proto volají po přísnějším globálním dohledu, ale jednoznačný konsenzus zatím chybí.

9. Digitální resuscitace mrtvých

Co kdyby ti zavolala tvoje babička i přesto, že je tři roky po smrti? Ne z nebe, ale z cloudu. Existují firmy, které na základě textových zpráv, hlasových nahrávek a záznamů z videí vytvoří virtuální verzi zesnulého člověka.

Startupy jako HereAfter AI nebo dřívější Project December nabízejí lidem možnost vytvořit si „digitálního ducha” svého blízkého. Uživatel s ním pak může komunikovat přes chatbot nebo hlasového asistenta, který replikuje styl řeči, slovní obraty i tón hlasu.

Některé aplikace jdou ještě dál a integrují model do smart reproduktorů nebo VR headsetu. Člověk pak může zažít iluzorní rozhovor v prostředí, které působí až znepokojivě známě. Pro někoho to může být terapeutická forma truchlení.

Hranice mezi pietou a zneužitím je tenká. Kde končí uctění památky a začíná obchod s identitou? Kdo má právo virtuálně oživit člověka, který se nemůže bránit? A co se stane, když se takové technologie rozšíří do marketingu, politiky nebo podvodů?

Zatím jde o málo rozšířenou technologii. Ale zájem roste. A s ním i množství dat, která po nás zůstávají. E-maily, zprávy, videa, hlasovky. Všechny můžou jednou sloužit k vytvoření něčeho, co bude mluvit naším hlasem, používat naše slova. A možná i přesvědčivě tvrdit, že jsme to my.

Technologický pokrok obvykle přichází vcelku tiše. Neohlásí se v mimořádných zprávách nebo na titulní straně novin, ale aktualizací softwaru, novým zařízením na trhu nebo funkcí, která najednou začne být samozřejmostí. Právě v tom je jeho síla i riziko.

Mnohé z dnešních technologií slibují revoluce, ale zároveň se potichu přesouvají do oblastí, kde ještě nedávno kralovala výhradně lidská rozhodnutí, důvěra nebo intuice. Ať už jde o schopnost upravit DNA, vytvořit přesvědčivé video s cizím obličejem, nebo rozhodovat o cíli útoku bez člověka v řetězci.

Nejde o to se bát. Spíš začít vědět. A sledovat, kam se jednotlivé linie vývoje sbíhají. Protože technologie nečekají, až budeme připravení. Fungují už teď.

Autor: Kateřina Slezáková

Sdílet: