Důvěryhodnost informací v době umělé inteligence ze středoevropského pohledu
V úterý 26. září 2023 Aspen Institute CE a Aspen Digital zorganizovaly půldenní konferenci, kde odborníci diskutovali o umělé inteligenci a jejím vlivu na důvěryhodnost informací v médiích. Konference byla složena ze dvou panelových diskuzí, kterých se účastnili experti na tuto problematiku, včetně novinářů a akademiků specializujících se na oblast AI a technologie.
Zde najdete záznam z celé konference:
Konference byla rozdělena na dvě diskuze:
Umělá Inteligence a Důvěryhodnost informací
Řečníci:
Generativní umělá inteligence a její rizika
Pro mnohé bylo uvedení ChatGPT v listopadu 2022 prvním zážitkem s umělou inteligencí. Alespoň si to tak mysleli. Ve skutečnosti byla umělá inteligence součástí našeho každodenního života již po mnoho let. AI je obecným termínem, který zahrnuje mnoho typů technologií a algoritmických funkcí, které široce napodobují určité lidské schopnosti, jako je porozumění, vnímání, úsudek, zpracování dat a rozhodování.
„AI předbíhá lidské komunikační schopnosti…protože se umělá inteligence vyvinula do jazykové a generativní AI. Donedávna bylo hlavním úkolem AI analyzovat…teď analyzuje a generuje,“ poznamenal Michal Pěchouček k nedávné novince.
Oba panely se dotkly tématu personalizovaného obsahu. Jedna z debat debat zdůraznila potenciální nebezpečí, která by personalizace s umělou inteligencí mohla mít. Michal Pěchouček upozornil, že personalizace by mohla vést k určitému „odpojení“. Personalizace může uživatele zahnat do různých ideologických táborů na základě informací, které jim jsou předkládány. Jsou zde dvě rizika: sdělované informace jsou věcné, ale omezují se na tuto konkrétní ideologii; a dezinformace.
Zavádějící informace a dezinformace jsou skutečnou výzvou, protože jsou často chráněny svobodou projevu. “Pokud chcete pluralismus, pokud chcete ve společnosti různorodé názory, nemůžete používat tak přísné regulace, aby problém dezinformací zmizel.” řekl Johann Laux. Kvůli dezinformacím a ideologickému zkreslení generovanými umělou inteligencí je ovlivněna celková kvalita informačního ekosystému. Pro veřejnost bude obtížnější si informace ověřit, protože nemá rovný přístup k faktům. Každý tábor dostává jen určité části celku. To má dopad na analytiky a novináře, kteří budou mít menší přístup k datům, aby porozuměli informačním trendům a rizikům.
Dalším zdůrazněným nebezpečím je zběsilý trend ve vývoji umělé inteligence. Na jedné straně může být AI užitečným nástrojem k identifikaci dalšího obsahu a manipulace generované umělou inteligencí. Nicméně, uvedl Pěchouček, umělá inteligence může stejně snadno generovat opačný efekt. Jinými slovy, technologie může být vyzbrojena sama proti sobě. Umělá inteligence postupuje tak rychle, že nikdo není schopen předpovědět, jak bude vypadat v budoucnu, shodli se panelisté. To ponechává příležitosti pro inovace a paralelní příležitosti pro zneužívání.
„Největší nebezpečí pro umělou inteligenci je stejné jako její největší příležitosti,“ uzavřel Michal Pěchouček.
Během panelové debaty se diskutovalo o přínosu AI pro personalizaci zpráv na základě zájmů nebo zeměpisné polohy uživatele. Každý rád přijímá novinky jinak a umělá inteligence se dá využít způsobem, který uživateli nejlépe vyhovuje. Představuje velkou příležitost např. k optimalizaci reportingu, kdy může být zpráva automaticky generována do zvuku, videa, dlouhého psaní, krátkých článků nebo jiných formátů, což může zvýšit zapojení se spolehlivými zdroji zpráv.
Vzestup AI v žurnalistice a redakcích
S rychlým nástupem AI přichází také různá nebezpečí, proto se účastníci debaty zaměřili i na výhody přijetí této technologie jako nástroje. Klíčová diskuse se týkala umělé inteligence jako efektivního (i z pohledu finančního) nástroje, pokud je používána etickým a transparentním způsobem.
„Naším úkolem je využívat technologie, abychom byli ještě efektivnější a zároveň abychom ušetřili finanční prostředky a získali tak i více prostoru pro lepší reporting,“ uvedla Tanit Koch.
Panelisté chválili technologii AI jako prostředek pro podporu a urychlení výzkumu. Diskutovali také o archivní funkci AI, která může zpřístupnit zaznamenanou historii – psanou, vizuální nebo sluchovou – prostřednictvím klíčových pokynů pro vyhledávání. AI je také užitečný editor hrubých návrhů, protože je schopen identifikovat a opravit gramatické chyby a překlepy bez lidského zásahu. Řečníci také diskutovali o doporučovacích algoritmech, které mohou potlačit obsah nabízeného obsahu a podsouvat faktické a relevantní zprávy. I když je to běžná funkce na většině z mediálních platforem, pokud je používána eticky, může zachovat důvěryhodnost jejího vnímání. Tyto praktické funkce ulehčují práci novinářů a pomáhají mediálním webům fungovat efektivněji.
„Máme velmi chytrý algoritmus, který dokáže rozpoznat clickbait v českém titulu,“ komentoval vývoj a využití AI v Seznam.cz Peter Jančárik.
Panelisté také diskutovali o problémech s velkými jazykovými modely (LLM), které mohou přinést vysoce chybné výsledky – což je zvláštní riziko, pokud se používají k vytváření zpravodajských článků nebo jiných žurnalistických výstupů. Generativní umělá inteligence však může být užitečná při vytváření prvních návrhů. Je mimořádně užitečná v překladatelské sféře. „Najednou nemusíte umět jazyky jako anglicky nebo německy, abyste rozuměli anglické nebo německé žurnalistice.“ řekl Charlie Beckett.
„Uživatelé se méně zajímají o to, zda byl text vygenerován umělou inteligencí nebo ne. Jde jim spíše o důvěru, o to, zda mohou informacím věřit,“ prozradil Michal Pěchouček.
AI a regulace sociálních médií
AI poskytuje velkou sílu těm, kteří ji používají. Účastníci panelové debaty se shodují, že její regulace je nezbytná, aby bylo zajištěno, že je umělá inteligence využívána zodpovědně a všichni uživatelé mohou využívat různé výhody technologie a zároveň být chráněni před jejími nebezpečími.
Evropská komise již má několik nařízení, z nichž dvě byly podrobně projednávány: zákon o digitálních službách (DSA) a zákon o umělé inteligenci. Základním principem DSA je, že co je nezákonné offline, je nezákonné online. Zákon o umělé inteligenci řeší a monitoruje specifická vysoce riziková použití umělé inteligence. Cílem tohoto nařízení je zakotvit původní hodnoty: „více svobody, více informací a více demokracie,“ uvedl Daniel Braun. Zavedení předpisů nejen chrání uživatele, ale také chrání kvalitu šířených informací. Rozhodující je, že tyto zákony ukládají předpisy založené na tom, jak se technologie používá, spíše než na obsahu na platformách zpráv a sociálních médií. Mezi nová zvažovaná pravidla patří označování obsahu generovaného umělou inteligencí. To chrání myšlenku umělé inteligence jako nástroje a zároveň zajišťuje, aby veřejnost pochopila, co je vytvořeno lidmi a co je generováno strojem. Všichni účastníci panelu se shodli na tom, že by měl existovat standard pro to, jak lze umělou inteligenci používat proti jejímu zneužívání – stroje by měly být schopny rozpoznat strojově generovaný obsah a manipulaci. Správné předpisy by měly podporovat „důvěryhodné informace a podporovat ty, kdo jsou v informačním prostředí… a snižovat výskyt negativních externalit v mediálním prostoru,“ uzavřel Daniel Braun.
Rychlost inovací v AI představuje pro regulační orgány jedinečnou řadu výzev. Přestože se Evropská komise snaží udržet náskok před technologickým pokrokem, „regulovat fluidní cíl je neuvěřitelně komplikované,“ zdůraznil Johann Laux. Dále poznamenal, že i když existuje řádná legislativa, stále musí existovat strategie, jak tyto zákony zavést účinným a smysluplným způsobem. Spolupráce mezi zeměmi a vládami je klíčová, aby se metody výrazně nelišily region od regionu. Tato úroveň spolupráce může být náročná. Zatímco vlády ve svobodných a demokratických zemích se mohou rozhodnout zodpovědně a prosazovat předpisy, autokraticky orientované vlády mohou chtít využít AI k dalšímu potlačení reality.
Stručně řečeno, panelisté se shodli, že novináři by měli:
- Nebojte se umělé inteligence, naopak ji přijměte a využívejte
- Pokračujte v ověřování faktů a zdrojů
- Buďte transparentní, jak a kdy se používá AI
- Spolupracujte na identifikaci společných předpisů a řešení pro AI
- Pokládejte si složité otázky
- Podporujte důvěryhodné informace – a důvěru v organizace, které je spravují
„Jako člověk, který jedná s médii, máte neuvěřitelnou moc při kontrole toho, co média píší. Ve skutečnosti je mediální odvětví rychlejší v tom, co děláme a je zároveň pečlivější v naší práci,“ uvedla Tanit Koch.
