Zdroj:
Midjourney (vygenerováno pomocí AI)
Rozpuk umělé generativní inteligence pozorujeme všude kolem nás. Chatovací roboti, neuronky zaměřené na generování obrázků, anebo umělá inteligence Galaxy AI přímo v telefonech. To vše znamená jediné – ideální čas pro Evropskou unii přistoupit k regulacím.
EU ochrání děti na internetu
Evropská komise (EK) v úterý oznámila nový plán, jak zakročit proti zneužívání dětí v zemích Evropské unie (EU), respektive na internetu:
„Komise přijímá návrh na aktualizaci trestněprávních předpisů týkajících se zneužívání a vykořisťování dětí. […] Doplňují návrh nařízení, který Komise předložila v roce 2022 – ten stanoví povinnosti internetových společností odhalovat, ohlašovat a odstraňovat materiály týkající se pohlavního zneužívání dětí na svých službách.“
Hlavní zacílení ochranných prvků tedy bude směřovat na internet, kde dochází ke zneužívání práv dětí nejčastěji. Komise přímo uvádí, že eviduje zvýšený výskyt tzv. manuálů pro pedofily. V roce 2022 bylo v zemích EU nahlášeno na 1,5 milionu zneužívání dětí, ať už fyzicky, psychicky, tak na internetu.
Mohlo by vás zajímat
Kvůli umělé inteligenci na dlažbě? Nejnovější studie přináší zajímavá zjištění
Nebezpečí představuje i generativní AI
Hned v prvním bodě svých plánů, jak omezit a účinně bojovat proti zneužívání dětí, Evropská komise zmiňuje generativní AI. V jednoduchosti jde o to, že EU chce rozšířit definici trestného činu zneužívání dětí i na další věci týkající se internetu a nakonec i generování obsahu pomocí umělé inteligence.
„Tyto nové trestné činy zahrnují živé vysílání pohlavního zneužívání dětí a držení a výměnu pedofilních příruček. Nová pravidla rovněž aktualizují definice trestných činů tak, aby zahrnovaly materiály týkající se pohlavního zneužívání dětí v hlubokých padělcích nebo materiálech vytvořených umělou inteligencí,“ píše Evropská komise.
Nové nařízení aktuálně projde schvalovacím kolečkem v Evropském parlamentu a Evropské radě, až následně může být schválen a předložen členským státům.
Jak to bude v praxi?
Přestože bezpečí dětí na internetu je v zájmu nás všech, v tuto chvíli není jasné, jak chce Evropská unie prohřešky spojené s umělou generativní inteligencí rozpoznávat, evidovat a hlavně vymáhat.
V každém případě jde o velké téma, které si rozhodně zaslouží zohlednit v zákonné úpravě. Na sociálních sítích, zejména pak na X a na TikToku aktuálně řádí mnoho podvodných profilů, které zveřejňují intimní fotografie slavných osobností vygenerované právě přes umělou inteligenci.
Zdroj: Evropská komise, The Washington Post
