Umělá Inteligence Vám Může Ublížit! ☠️ Raději se Neptejte na Léky!

Nedávná studie publikovaná v prestižním časopise BMJ Quality and Safety odhalila šokující pravdu: AI chatboti, kterým se lidé svěřují se svými zdravotními problémy, často poskytují nepřesné a zavádějící informace o lécích. V některých případech by se pacienti řídící těmito radami mohli vážně poškodit, nebo dokonce i zemřít!

AI vs. Lékaři: 0:1

Vědci z Friedrich-Alexander-Universität Erlangen-Nürnberg pod vedením Hagena Nicolause se rozhodli otestovat schopnosti AI v oblasti medicíny. Nechali AI chatboty odpovídat na 500 otázek týkajících se 50 nejčastěji předepisovaných léků. Otázky byly konzultovány s lékaři a lékárníky, aby co nejvíce odpovídaly dotazům skutečných pacientů.

Výsledek? Naprostá Katastrofa!

AI chatboti v testu žalostně selhali. Jejich odpovědi byly často nepřesné, neúplné a nesrozumitelné. V 29 % případů byly odpovědi dokonce zavádějící a mohly by pacienty zmást.

AI nerozumí ani jednoduchým otázkám

"Velký problém představuje neschopnost chatbota porozumět podstatě otázky pacienta," píší autoři studie. AI se zkrátka v medicíně a farmacii teprve učí a zatím zdaleka nedosahuje úrovně lidských odborníků.

Proč je AI tak špatný rádce?

1. Nedostatek medicínských znalostí: AI modely jsou trénovány na obrovském množství dat, ale v oblasti medicíny a farmacie jich mají zatím nedostatek.
2. Neschopnost kritického myšlení: AI nedokáže kriticky zhodnotit informace a odhalit případné chyby.
3. Jazyková bariéra: AI má problém s porozuměním a interpretací medicínské terminologie.

Co z toho plyne?

Vědci varují, aby se lidé s AI ohledně léků neradil. Pokud máte otázky týkající se vašeho zdraví, obraťte se raději na svého lékaře nebo lékárníka.

AI má v medicíně jistě velký potenciál, ale v současné době je stále ještě v plenkách. Než se stane spolehlivým partnerem v péči o naše zdraví, bude to chtít ještě hodně času a výzkumu.