Generální tajemník Organizace spojených národů António Guterres tento týden varoval před neřízeným rozvojem umělé inteligence (AI) na globální konferenci, která se konala v Ženevě. Guterres upozornil, že AI se stává experimentem, který se provádí na společnosti bez jasného plánu a souhlasu. Podle něj je alarmující, že světové instituce nejsou připraveny na technologii, která je schopná se řídit sama, aniž by čekala na pokyny od lidí. To zdůrazňuje nutnost vytvoření regulačního rámce, který by zajistil bezpečné a zodpovědné používání těchto technologií.
Podle Guterrese je klíčové, aby ti, kteří umělou inteligenci vyvíjejí, nesli odpovědnost za své činy. „Má-li být AI mocná, musí podléhat správě. Má-li být AI věrohodná, ti, kteří ji tvoří, musí nést odpovědnost,“ uvedl generální tajemník. Jeho výzva je zaměřena na vlády, aby rychle reagovaly a vytvořily potřebné regulační struktury. Guterres zdůraznil, že firmy, které se zabývají vývojem AI, by měly přijmout odpovědnost, která odpovídá jejich moci a vlivu na společnost.
Rizika a potenciální přínosy AI
Guterres rovněž vyjádřil obavy z rychlosti, s jakou se umělá inteligence šíří, a z moci, kterou soustředí. Upozornil na obavy z pokřivení vztahu mezi pravdou a lží, které mohou vzniknout v důsledku neřízeného používání AI. Přesto Guterres poznamenal, že při vhodném a kontrolovaném využití může umělá inteligence také přinést pozitivní dopady. „Dobře využitá a rozsáhle sdílená AI může snížit dobu nutnou pro rozvoj z dekád na jednotky let,“ dodal. To naznačuje, že s odpowiedným řízením a regulací může AI změnit způsob, jakým lidstvo přistupuje k řešení složitých problémů.
Podle Guterrese by měla být volba společnosti mezi řízením AI s cílem a tím, že se nechá unášet proudem technologií, které se vyvíjejí bez kontroly. Tento přístup by mohl vést k vážným sociálním a etickým problémům, pokud by se AI dostala do rukou jednotlivců nebo organizací, které ji využívají k neetickým účelům. Generální tajemník vyzval k prioritizaci bezpečného používání AI, k stanovení nezbytných mezí, k financování rozvoje této technologie a k zajištění transparentnosti jejích aplikací.
Globální dialog o umělé inteligenci
Dvoudenní globální dialog o umělé inteligenci, který v Ženevě začal v pondělí, se účastní diplomaté, vládní představitelé a zástupci soukromého sektoru, aby diskutovali o výzvách a příležitostech spojených s rychlým rozvojem AI. Guterres zdůraznil, že je nezbytné, aby se na těchto diskuzích podíleli odborníci z různých oblastí, včetně technologií, etiky a práva. Tímto způsobem se může zajistit, že vývoj AI bude reflektovat široké spektrum názorů a obav, které mohou ovlivnit její budoucnost. Také podtrhl, že AI by měla sloužit jako nástroj pro zlepšení životních podmínek a ne jako hrozba pro lidská práva a svobody.
Celkově je Guterresova výzva k odpovědnosti a regulaci umělé inteligence důležitým krokem k zajištění, že technologie bude sloužit prospěchu celé společnosti, nikoli jen úzké skupině lidí. Vzhledem k rychlému pokroku v oblasti umělé inteligence je důležité, aby se vládní instituce a soukromý sektor spojily a pracovaly na společných cílech. Bez takového úsilí by mohlo být lidstvo postaveno před neřešitelné výzvy, které by mohly mít dalekosáhlé důsledky pro budoucnost lidské civilizace.
