Épp a szemünk láttára írják át a magyar egészségügyet

A Google Med-Gemini nemrégiben olyan agyi struktúrát azonosított, ami nem is létezik – intő példa arra, hogy az egészségügyi AI-rendszerek megbízhatósága még korántsem tökéletes. Dr. Joó Tamás, a Semmelweis Egyetem Egészségügyi Menedzserképző Központjának egyetemi docense, az egészségügyi adattudományi mesterképzés programvezetője szerint azonban a technológia már most is forradalmasítja a diagnosztikát, és néhány éven belül nélkülözhetetlen része lesz a magyar egészségügynek. Ezt megerősítette lapunknak az Országos Kórházi Főigazgatóság: 2-3 éven belül forradalmi fejlesztések érkeznek az egészségügy megannyi területére, írja az Index.

A Google Med-Gemini modellje elkövetett egy hibát, amikor egy nem létező „basilaris gangliont” azonosított az agyi MRI-felvételen. Ez rávilágít a mesterséges intelligencia egyik legnagyobb kockázatára: a hallucinációra. 

A tanulság világos, a mesterséges intelligencia önmagában nem helyettesíti az emberi szakértelmet – véli Joó Tamás. Figyelmeztet, hogy „az ilyen »hallucinációk«, amikor a rendszer magabiztosan közöl valótlan információt, különösen veszélyesek az egészségügyben, hiszen egy hibás diagnózis vagy ajánlás akár emberéleteket is veszélyeztethet”. Ezért minden, mesterséges intelligencia által adott eredményt kritikusan kell kezelni, és elengedhetetlen, hogy az orvosi validáció a folyamat szerves része legyen. 

A probléma gyökere sokszor az adatminőségben rejlik. „Kulcsfontosságú a tanító adatbázis tisztasága és az adatmérgezés elkerülése, mert akár egyetlen hibás adat is rossz irányba viheti a modell tanulását” – világított rá a szakértő. A Med-Gemini esete azt is megmutatta, hogy az egészségügyi AI-fejlesztésekben szigorúbb minőségbiztosításra, gondosabb tesztelésre és transzparens működésre van szükség.

A szakértő szerint az egyik legnagyobb rendszerszintű kihívás a technológiai fejlődés és a szabályozás sebessége közötti különbség. 

A gyógyszeriparban megszoktuk, hogy egy új molekula kifejlesztése 10–15 évig tart. Ezalatt szigorúan meghatározott klinikai vizsgálatokon, engedélyezési eljárásokon és finanszírozási folyamatokon megy végig, mielőtt a beteghez kerül. Az MI világában ezzel szemben előfordulhat, hogy egy adott verziója hetente változik – magyarázta Joó Tamás. Ez szerinte olyan, mintha egy gyógyszermolekula nem 15 év alatt, hanem 15 naponta teljesen új összetételt kapna, miközben a szabályozásnak valahogy lépést kellene tartania vele. Ez a sebességkülönbség ma az egyik legnagyobb kihívás, és folyamatosan nő a szakadék a technológia dinamikája és a jogi-engedélyezési keretek lassúsága között, mind globális, mind európai, mind pedig hazai szinten.

A jövő egyik kulcskérdése tehát az lesz, hogyan tudjuk összehangolni a gyors innovációt a betegbiztonsággal és a szabályozási környezet kiszámíthatóságával.

A teljes információ a cikkben.