Facebook a Instagram: Boj proti fotkám z dílny umělé inteligence

Společnost Meta, která vlastní Facebook a Instagram, ohlásila implementaci nové technologie. Ta umožní identifikaci a označování obrázků, které vytvořila umělá inteligence. Tato novinka se týká obou platforem – Facebooku i Instagramu. Cílem je bojovat proti šíření falešných informací a deepfake obsahu, které mohou mít vážné dopady na společnost.

Odhalování deepfake obsahu

Nová technologie bude fungovat tak, že bude analyzovat obrázky a porovnávat je s databází známých AI nástrojů. Pokud bude obrázek rozpoznán jako generovaný AI, bude označen speciálním štítkem. Meta doufá, že tato technologie povede k větší transparentnosti a omezí šíření dezinformací.

Sir Nick Clegg, bývalý místopředseda britské vlády, který je nyní prezidentem společnosti Meta pro globální záležitosti, ve svém prohlášení napsal, že tento krok přichází v roce, kdy se „po celém světě koná řada důležitých voleb“.

„Očekáváme, že se během této doby dozvíme mnohem více o tom, jak lidé vytvářejí a sdílejí obsah s umělou inteligencí, jaký druh transparentnosti považují lidé za nejcennější a jak se tyto technologie vyvíjejí. To, co se dozvíme, bude sloužit jako podklad pro osvědčené postupy v odvětví a náš vlastní přístup do budoucna.“

Společnost Meta již nyní označuje obrázky AI generované vlastními systémy. Rozšíření této funkce na AI nástroje jiných společností je ale novým krokem, který by mohl mít značný dopad na celý obor. Meta věří, že tato iniciativa povede k „impulsu“ pro zodpovědnější používání AI technologií a pomůže v boji proti falšování obsahu.

Kritické ohlasy

Někteří odborníci na AI varují, že nástroje pro detekci AI obrázků jsou snadno obejitelné. Profesor Soheil Feizi z Marylandské univerzity poukazuje na to, že vývojáři deepfake technologií dokáží snadno upravit obrázky tak, aby je detekční systémy neidentifikovaly.

„Mohou být schopni vycvičit svůj detektor tak, aby byl schopen označit některé snímky specificky vytvořené některými konkrétními modely,“ řekl BBC.

Meta si je toho ale vědoma. Přiznává, že technologie pro detekci AI obrázků není dokonalá a stále se vyvíjí. Společnost se ale i přesto domnívá, že je důležité podniknout kroky k řešení problematiky deepfake obsahu a šíření dezinformací.

Kromě obrázků se Meta zaměřuje i na audio a video. Vyzývá uživatele, aby sami označovali podezřelé audio a video příspěvky. Za nedodržování pravidel hrozí sankce.

Zdroje info: X, https://www.bbc.com/news/technology-68215619, https://news.sky.com/story/facebook-and-instagram-to-label-all-images-on-their-platforms-created-by-ai-meta-says-13064855

Náhledové foto: Pixabay