Umělá inteligence může do dvou let představovat existenční riziko pro lidstvo, říká britské AI oddělení

Speciální britská skupina na umělou inteligenci varuje, že v příštích dvou letech bude nutné zavést regulaci a kontrolu nad velkými modely umělé inteligence. Kvůli tomu, aby se předešlo existenčnímu riziku pro lidstvo. Nedávný dopis 350 odborníků na AI naznačuje, že umělá inteligence by měla být považována za existenční hrozbu srovnatelnou s jadernými zbraněmi a pandemiemi.

Dva roky na kontrolu a regulaci AI

Speciální skupina vyzývá k regulaci umělé inteligence do dvou let. Matt Clifford, předseda vládní Agentury pro pokročilý výzkum a vynálezy, upozorňuje, že stále se zlepšující AI systémy představují existenční riziko pro lidstvo. Pokud nebudou přijata opatření týkající se bezpečnosti a předpisů, AI systémy se stanou příliš mocnými.

Existují různá rizika

Clifford varuje před různými typy rizik spojených s umělou inteligencí jak v blízkém, tak dlouhodobém horizontu. Tato rizika jsou označena za „dost děsivá“. Odborníci, včetně samotného ředitele OpenAI Sama Altmana, ve svém dopise přirovnávají umělou inteligenci k existenční hrozbě podobné jaderným zbraním a pandemiím.

Potřeba regulace

Clifford zdůrazňuje potřebu regulace a kontroly AI na globální úrovni. Hlavním zaměřením by mělo být porozumění tomu, jak lze AI systémy kontrolovat. Nedostatečné pochopení chování těchto systémů je stále velkým problémem. Vedoucí pracovníci organizací zabývajících se vývojem AI souhlasí s tím, že výkonné modely musí projít auditem a hodnotícím procesem před svým nasazením.

Globální snaha o regulaci AI

Regulační orgány po celém světě se snaží porozumět umělé inteligenci a vytvořit předpisy, které ochrání uživatele a umožní inovace. Evropská unie v čele s eurokomisařkou Jourovou navrhla povinné označování veškerého obsahu generovaného umělou inteligencí, aby se zabránilo dezinformacím.

„Provozovatelé, kteří ve svých službách využívají generativní AI, jako je Bing od Microsoftu nebo Bard od Googlu, musí vybudovat dostatečné pojistky, aby nepřátelské strany nemohly tyto služby používat k vytváření dezinformací. A provozovatelé služeb, které mohou potenciálně šířit dezinformace vytvořené AI, by měli implementovat technologie, jež budou schopné takový obsah rozpoznat a jasně ho pro uživatele označit.“

Člen opoziční Labouristické strany ve Velké Británii se připojil k názoru, že technologie by měly být regulovány podobně jako medicína a jaderná energie.

Zdroje info: https://audiovisual.ec.europa.eu/en/video/I-242201, https://www.dailymail.co.uk/news/article-12162909/Rishi-Sunaks-tech-adviser-warns-world-got-two-years-tame-artificial-intelligence.html, https://cointelegraph.com/news/ai-regulated-medicine-nuclear-power-uk-minister, https://www.safe.ai/statement-on-ai-risk, https://www.youtube.com/watch?v=wn4z1WnR6K0

Náhledové foto: Pixabay