Příručka určená pacientům se jmenuje Umělá inteligence ve zdravotnictví. Vyšla v květnu, má 13 stran a existuje v tištěné i online podobě, takže přečíst si ji budeme moci třeba v čekárně nebo doma na počítači.
Co se dozvíte v článku
Příručku připravily Česká společnost pro umělou inteligenci a inovativní digitální technologie v medicíně a Česká asociace umělé inteligence ve spolupráci s Ministerstvem zdravotnictví. Podle autorů slouží jako vodítko pro bezpečné a informované využívání AI, což je zkratka pro umělou inteligenci (anglicky Artificial Intelligence).
Příručku Umělá inteligence ve zdravotnictví si můžete prolistovat nebo stáhnout zde.
Typy umělé inteligence
Příručka nejprve vysvětluje, s jakými typy umělé inteligence se pacient může setkat. Nejběžněji využívaná je generativní AI. Sem patří velké jazykové modely či AI chatboty, jakými jsou např. ChatGPT, Claude, Copilot nebo Gemini.
Dalším typem je umělá inteligence v aplikacích, mobilech a jiné elektronice včetně té v automobilech nebo chytrých domácnostech. AI využívají i tzv. wearables, což jsou nositelná zařízení snímající některé funkce těla (tep, tlak, teplotu nebo srdeční činnost). Patří mezi ně speciální hodinky, náramky nebo prsteny.
Lékaři používají umělou inteligenci ve speciálních programech, které jsou nejen v počítačích, ale i zabudované přímo v medicínských přístrojích. Slouží k rychlejší a přesnější diagnostice nebo léčbě.
Jde o software, jenž poskytuje další čtení při zobrazovaných metodách (např. mamografu, rentgenu atd.), při endoskopických výkonech (např. koloskopii, gastroskopii, bronchoskopii), při vyšetření očí bez rozkapání (včasný záchyt např. diabetické retinopatie) nebo při analýze záznamů EKG. AI pomáhá také při robotických operacích nebo při předcházení relapsů duševních onemocnění.
V čem AI pomáhá
V příručce pacient najde popsané, v čem tkví současný přínos používání umělé inteligence.
Když lékař nemá čas vysvětlovat, AI dokáže srozumitelně přeložit nejen termíny, ale i vysvětlit nebo do pár bodů shrnout lékařskou zprávu či jinou dokumentaci. S její pomocí pacient také během chvíle pořídí překlad cizojazyčných medicínských textů.
Pomůže i tomu, kdo se chce na návštěvu lékaře připravit. Třeba si předem ujasnit a sestavit otázky.
Pro lékaře má využívání AI výhody v podobě rychlejšího vyhodnocení některých vyšetření, sníženého rizika přehlédnutí menšího nálezu nebo včasného upozornění na riziko v péči. Existují i nástroje, které pomáhají z hovoru sestavit lékařskou zprávu a nejen oni šetří lékařům čas, který mohou věnovat pacientovi nebo díky kterému jich ošetří víc.
V čem je riziková
Obsáhlejší jsou v příručce pasáže, které varují před riziky používání AI.
Podle odborníků by si pacienti měli dávat pozor na to, když chtějí skrze generativní AI řešit citlivé údaje. Do chatů by je neměli nikdy nahrávat neanonymizované. Nevkládejte jméno a příjmení, rodné číslo, datum narození či adresu. Stejná opatrnost platí i v případě, že do generativní AI nahráváte například fotografii lékařské zprávy,
upozorňuje dokument.
Takto shrnuje klady i zápory umělé inteligence příručka pro pacienty připravená Českou společností pro umělou inteligenci a inovativní digitální technologie v medicíně a Českou asociací umělé inteligence ve spolupráci s Ministerstvem zdravotnictví.
Příručka varuje také před stanovováním diagnózy nebo léčebného postupu. Lékaři čelí fenoménu, kdy pacienti přicházejí s diagnózou či návrhem léčby od AI. Tyto výstupy působí díky své struktuře velmi přesvědčivě, což u laiků vyvolává falešný pocit neomylnosti. V praxi to pak vytváří tlak na neodůvodněná vyšetření, nebo dokonce riskuje život pacienta, pokud AI doporučí odklad akutní péče,
popisuje Pavel Sova, praktický lékař ze středočeské Hostivice.
Přitom AI pouze vytváří odpovědi na základě textů, ze kterých se učila nebo analyzuje poskytnutá data. Nic víc, nic méně. Generativní umělá inteligence v chatovacím okně vás nevyšetří. Nevidí vás, neslyší vás, ani neměří vaše životní funkce. Nezhodnotí například dýchání, tep nebo další důležité projevy, které lékař při vyšetření sleduje,
vysvětluje příručka. Zároveň nezná váš celý zdravotní příběh, tedy vaši anamnézu, rodinné zatížení, předchozí výsledky ani léky, které užíváte,
dodávají autoři.
Co je třeba si ještě uvědomit, když se radíte s AI:
- Někdy může uvádět nepřesné nebo úplně nepravdivé informace, a přitom působit velmi jistě a důvěryhodně.
- Je navržená tak, aby s vámi komunikovala příjemně a srozumitelně. Proto může mít tendenci spíše souhlasit, než upozornit na možnou chybu.
- Je „raději opatrná“. Řešíte-li s ní konkrétní vyšetření nebo problémů, často jich navrhne více, než je ve skutečnosti pravděpodobné.
- Běžně dostupné nástroje generativní AI nebyly testovány ani certifikovány jako zdravotnické prostředky. To znamená, že nejsou určeny k diagnostice nebo léčbě a nebyla ověřena jejich bezpečnost.
Zdroj: Vitalia.cz/Umělá inteligence ve zdravotnictví
Nejde ovšem jen o samotnou práci s umělou inteligencí, ale také míru jejího využívání. Psychiatři v této souvislosti hovoří o riziku tzv. symptomové spirály.
Jde o situaci, kdy člověk, který na sobě cítí změny zdravotního stavu, AI chatbotovi opakovaně zadává své příznaky, drobné tělesné nebo psychické obtíže, a dostává stále nové seznamy možných diagnóz. Často zahrnují i závažné scénáře, které zvyšují úzkost a vedou k dalšímu sledování těla a dalším dotazům. Místo uklidnění proto může dojít k bludnému kruhu: Čím více se uživatel ptá, tím více se obává, a čím větší je obava, tím intenzivněji hledá další potvrzení,
vysvětluje Martin Anders, místopředseda České psychiatrické společnosti a přednosta Psychiatrické kliniky Všeobecné fakultní nemocnice v Praze.
U zranitelných jedinců je rizikem vznik závislosti nebo prohlubování osamělosti. A stejně jako jiné digitální technologie, má i AI potenciál měnit fungování, strukturu i schopnosti mozku, což je alarmující zejména u dětí. Mimo jiné mění schopnost pozornosti, učení, paměti, zpracovávání informací nebo soustředění.
Autoři příručky se shodují, že AI patří do medicíny i rukou pacientů. Jen je třeba práci s ní usměrňovat a vědět, co je tento pomocník vlastně zač. V péči má AI své místo především jako podpůrný nástroj, nikoliv jako náhrada lékaře, terapeuta či skutečného lidského vztahu.
ČLÁNKY DO MAILU