Sociální síť X kvůli deepfake snímkům zakázala vyhledávání jména Taylor Swift

Zpěvačka Taylor Swift se stala terčem nehorázného zneužití umělé inteligence, když se na sociální síti X začaly šířit její falešné fotografie, na kterých je nahá. Platforma X reagovala tím, že dočasně zakázala vyhledávání jejího jména, aby ji ochránila před dalším poškozením. Tato kauza opět vyvolala vášnivé diskuse o bezpečnosti a ochraně osobní integrity na internetu.

Deepfake

Deepfake snímky jsou falešné obrázky nebo videa, které využívají umělou inteligenci k vytvoření videozáznamu někoho manipulací s jeho tváří nebo tělem. Většina deepfake snímků je pornografického charakteru a zneužívá obličeje slavných osobností, jako jsou herci, zpěváci nebo politici. Tyto snímky jsou pak šířeny na internetu bez jejich souhlasu.

Blokace vyhledávání

Falešné fotografie donutily společnost X, dříve známou jako Twitter, k vydání prohlášení, ve kterém oznamuje, že zveřejňování deepfakes na jejich platformě je zakázáno. Společnost X taktéž podnikla krok, který dosud nikdy neudělala, když zablokovala i vyhledávání jména Taylor Swift.

Důvodem bylo právě šíření explicitních snímků této zpěvačky, které vytvořila umělá inteligence. Joe Benarroch, vedoucí obchodního provozu společnosti X, v prohlášení poskytnutém BBC uvedl, že tento krok byl nezbytným opatřením pro zajištění bezpečnosti uživatelů.

Odpověď Bílého domu a volání po legislativě

Tisková mluvčí Bílého domu Karine Jean-Pierreová zdůraznila nutnost právních opatření, která by regulovala použití deepfake technologií na sociálních sítích. Američtí politici se taktéž shodují na potřebě nových zákonů, které by umožnily trestní stíhání za vytváření a sdílení těchto falešných snímků.

„Domníváme se, že mají důležitou úlohu při prosazování svých vlastních pravidel, aby zabránily šíření dezinformací a intimních snímků skutečných lidí bez souhlasu,“ uvedla Jean-Pierre.

Rostoucí hrozba

Studie z roku 2023 zjistila, že od roku 2019 došlo k 550% nárůstu tvorby falešných snímků, který je poháněn nástupem umělé inteligence. V současné době neexistují žádné federální zákony proti sdílení nebo vytváření deepfake snímků, ačkoli na státní úrovni byly podniknuty kroky k řešení tohoto problému.

Ve Spojeném království se sdílení deepfake pornografie stalo nezákonným v rámci tamního zákona o bezpečnosti na internetu v roce 2023.

Zdroje info: X, https://www.bbc.com/news/world-us-canada-68123671, https://www.bostonherald.com/2024/01/29/x-pauses-swift-searches-as-deepfake-porn-spreads/

Náhledové foto: Pixabay