Ztrácíme kvůli umělé inteligenci kontrolu nad svými daty?

Ztrácíme kontrolu nad svými informacemi? Klíčovými otázkami v oblasti bezpečnosti informací a ochrany údajů jsou vlastnictví údajů a kontrola nad nimi, jakož i oprávnění zpracovávat údaje bezpečně a odpovědně v souladu s příslušnými specifikacemi. Otázka ztráty kontroly je v éře umělé inteligence stále více naléhavá.

V roce 2023 bylo celosvětově vygenerováno 126 zettabajtů digitálních dat (zdroj: Statista). Do roku 2027 se toto číslo s největší pravděpodobností zdvojnásobí. Ještě nikdy nebylo tak snadné analyzovat, generovat a replikovat obsah pouhým stisknutím tlačítka díky ChatGPT a jemu podobným nástrojům.

Úloha AI v záplavě dat: příležitosti a výzvy

Exponenciálně rostoucí záplava dat představuje pro bezpečnost informací velkou výzvu. Na jedné straně trénování modelů AI vyžaduje velké objemy dat, aby byl zajištěn odpovídající výkon a přesnost. Společnosti a organizace proto často shromažďují obrovské množství dat pro trénování svých systémů AI. Na druhé straně aplikace AI rovněž neustále generují data během svého provozu - ať už prostřednictvím senzorů, interakcí s uživateli nebo automatizovaných procesů.

Řešení může paradoxně nabídnout i AI, která sama k záplavě dat významně přispívá. AI může pomoci vytvořit v tomto množství dat pořádek, aby bylo možné rychleji identifikovat podstatné informace od těch méně důležitých či relevantních a podle toho je zpracovat, agregovat nebo vymazat. Celkově může AI zlepšit efektivitu zpracování a správy dat a umožnit preventivní opatření, která zabrání jejich zahlcení.

Vlastnictví dat, zákon o umělé inteligenci, ISO 27001 a GDPR

Mezinárodní norma pro bezpečnost informací ISO 27001 stanoví pokyny, které mají zajistit, aby organizace stanovily jasnou odpovědnost za správu a ochranu svých údajů. Definuje také postupy pro identifikaci vlastníků údajů, stanovení jejich práv a povinností a zajištění vhodné ochrany a správy údajů.

Pokud jde o ochranu osobních údajů, vlastnictví údajů se vztahuje ke koncepci, podle níž mají jednotlivci právo vykonávat kontrolu nad informacemi (jež se jich týkají jako osob), které jsou o nich předávány nebo shromažďovány.

V digitalizovaném světě, kde údaje hrají zásadní roli, nabývá otázka  jejich vlastnictví na významu. Zatímco někteří lidé tvrdí, že data - podobně jako fyzické zboží - by měla být považována za formu vlastnictví, ozývají se i hlasy, které zdůrazňují, že s daty by se mělo spíše zacházet jako se zdrojem, který může využívat celá společnost. Debata o vlastnictví dat vyvolává složité otázky - například soukromí, bezpečnost, přístupová práva a ekonomický dopad.

Zákon o AI je evropská legislativní iniciativa, jejímž cílem je regulovat a kontrolovat používání umělé inteligence v EU. Cílem zákona o AI je najít rovnováhu mezi podporou inovací a zajištěním bezpečného a důvěryhodného používání systémů AI.