5 digitálních hrozeb, které ti nedají spát

Co s tím, když se technologie mění v nepředvídatelné protivníky?

Když jsi malé dítě, bojíš se ledasčeho. Třeba halloweenské dýně nebo strašidla pod postelí. Ale když dospěješ a pracuješ v technologiích, pravý strach zažíváš při ztrátě kontroly nad systémem, který jsi sám postavil nebo ho spravuješ.

Technologie se mění rychleji, než se stíhá přizpůsobovat lidská pozornost. Vývojáři si v praxi zvykli na časový tlak, bugy i noční deploye. Ale zažívají i chvíle, kdy se běžné problémy mění v noční můry. Situace, které ohrožují projekty, data i reputaci týmu.

Dnes se podíváme na pět z nich.

1. Z drobné slabiny systému se stane brána pro útočníky

Podle Verizon Data Breach Investigations Report 2024 bylo loni zaznamenáno 30 458 bezpečnostních incidentů, z nichž 10 626 skončilo únikem dat.

Zneužití zranitelností narostlo meziročně o 180 %, přičemž 68 % úniků stále způsobuje chyba člověka. Například špatná konfigurace, slabé heslo nebo přehlédnutá aktualizace.

Tohle už dávno není problém jen bezpečnostních specialistů, ale všech, kdo se podílejí na vývoji a nasazování systémů. I jediný přehlédnutý endpoint může být vstupem pro exploit, který zastaví firmu na týdny.

Jak tohle vyřešit? Odpověď najdeš v kurzu Penetrační testování prakticky. V rámci studia si osvojíš metodiku etického hackingu, testování aplikací, identifikaci slabin a psaní reportů pro management. Naučíš se myslet jako útočník a díky tomu lépe ochráníš svoje systémy.

2. Systém přestane reagovat pod útokem

Útoky na dostupnost systémů patří dlouhodobě mezi nejčastější hrozby v Evropě.

Podle ENISA Threat Landscape 2024 zůstávají DoS a DDoS útoky jednou z nejreportovanějších kategorií incidentů, zejména v oblastech veřejných služeb, financí a energetiky. Stále častěji se přitom kombinují s ransomwarem nebo vydíráním, kdy útočník zastaví systém a žádá platbu, aby výpadek neeskaloval.

Vývojáři i manažeři dnes musí zvládat víc než jen opravu aplikace. Potřebují chápat, jak funguje krizové řízení, vědět, jak vytvářet runbooky, testovat obnovitelnost systémů a definovat priority během incidentu.

Krizové situace se dějí. Záleží, jak se k nim firma postaví. Lektor Tomáš Foltýn, Head of Technology Units (Trask), ti v kurzu Vedení IT týmů ukáže, jak nastavit procesy krizové komunikace, řídit incidenty a udržet tým funkční i pod tlakem.

Naučíš se správně reagovat pod stresem, stanovovat priority a přemýšlet v souvislostech, které pomáhají zachovat provoz i během útoků nebo výpadků.

3. Robot se začne chovat nestandardně

V robotice i automatizaci se softwarová chyba může okamžitě projevit i ve fyzickém světě. Stačí drobná odchylka v kalibraci senzoru, šum v měření nebo špatně napsaná PID smyčka a robot se začne chovat nestandardně.

V průmyslové robotice hraje klíčovou roli také lidský a organizační faktor. Zbytek tvoří problémy se senzory, komunikační latencí a neošetřenými výjimkami v řídicím kódu. Situace je tady o to děsivější, že nejde jenom o chybu v kódu. Jedná se o fyzickou bezpečnost, spolehlivost a integraci hardware s logikou řízení.

Pokud tě robotika baví a chceš s ní začít bez hrozby selhání, přihlas se do kurzu Základy stavby a programování robotů. Propojujeme v něm práci s hardwarem, mikrokontroléry a základními algoritmy řízení. Naučíš se prakticky testovat pohybové funkce, nastavovat senzory, analyzovat chování systému a předcházet tak chybám.

4. AI pracuje tak, že tomu už nerozumíš

Člověk má u rozhodování pořád poslední slovo. Ale s generativní AI přichází nový typ rizika. Je jím ztráta transparentnosti.

Podle Stanford AI Index Report 2024 55 % respondentů uvedlo, že cítí nervozitu v souvislosti s produkty nebo službami využívajícími umělou inteligenci.

Riziko ztráty transparentnosti roste s útoky typu prompt injection nebo data poisoning, kdy může být výstup zmanipulovaný bez viditelné stopy.

Problémem tady není samotná technologie, ale slepá důvěra. Bez validace výstupů se může stát, že AI rozhodne špatně a uživatel si toho všimne pozdě. Nebo v horším případě vůbec. Důsledky můžou být devastující.

Jak z toho ven? Kurz AI pro každodenní život nabízí řešení. AI konzultant Martin Nemčík v něm učí, jak využívat asistenty typu ChatGPT, Copilot nebo Gemini bezpečně. Naučíš se kontrolovat kontext, nastavovat omezení, vyhodnocovat odpovědi a ochránit citlivá data. Kurz rozvíjí digitální gramotnost potřebnou pro éru, kdy AI pomáhá, ale také může škodit.

5. AI agenti komunikují mezi sebou

AI agenti se učí používat nástroje, volat API a spolupracovat mezi sebou. Tento princip umožňuje vytvářet výkonné systémy. Ty jsou ale zároveň i vysoce rizikové.

Studie publikovaná na arXiv (2024) ukazuje, že i pokročilé agentní frameworky jsou náchylné na útoky typu prompt injection, model poisoning nebo manipulaci přes shared memory.

V prostředí s více agenty může jeden kompromitovaný uzel ovlivnit celé workflow. Bez kontrolních mechanismů, auditních logů a omezení přístupu se z chytrého agenta stává významná bezpečnostní hrozba.

Budoucnost je tady: AI agenti, to je název kurzu pod vedením Lukáše Kellersteina z Microsoftu. Získáš v něm přehled o návrhu agentních architektur, práci s frameworky jako LangChain, Semantic Kernel nebo Autogen a naučíš se testovat a monitorovat chování agentů v praxi.

Kurz se věnuje i etickým a bezpečnostním aspektům multiagentních systémů.

Digitální hrozby nejsou abstraktní

Digitální rizika jsou každodenní realitou vývoje. Zneužité API, výpadek infrastruktury, chybně nastavený senzor nebo halucinující AI model můžou způsobit velké škody v reputaci i na majetku.

Rozdíl mezi katastrofou a zvládnutou krizí leží ve vzdělání a míře přípravy.

Naše kurzy nejsou jenom reakcí na hrozby, ale způsobem, jak jim předcházet. Ve světě, kde se technologie učí sama, je největším rizikem člověk, který se učit přestal.

Autor: Lucie Dvořák

Sdílet: