Az AI kitalált valamit, ami nem létezik az emberi testben

Komoly aggodalmat keltett az orvosi és technológiai szakmai közösségben, hogy a Google egyik legújabb, egészségügyi célokra fejlesztett mesterséges intelligenciája, a Med-Gemini, súlyos hibát vétett: egy orvosi elemzés során egy, az emberi anatómiában nem létező agyi struktúrát azonosított - írta az index.hu.

Az esetre a The Verge cikke nyomán derült fény, miután Bryan Moore neurológus felhívta a figyelmet egy, a Google által 2024 májusában publikált kutatási tanulmányban szereplő kirívó tévedésre. A dokumentumban a kutatók azt mutatták be, ahogy a Med-Gemini agyi képalkotó felvételeket elemez, az AI az egyik leleten azonban valami olyat azonosított, ami egyszerűen nem létezik az emberi testben, írja a Neoscope.

A Google utólag elismerte a hibát, és az AI-ról szóló blogposztját is javította, ám a cikk írásakor a hivatalos kutatási tanulmányban továbbra is a téves megnevezés szerepelt. A cég magyarázata szerint az AI valószínűleg összekeverte a valóban létező törzsdúcokat (bazális ganglionokat) és az alapi verőeret (arteria basilaris), így jött létre a basilaris ganglion, ami nem létezik. A Google szerint a „baziláris” a „bazális” szó „gyakori téves átirata, amelyet a Med-Gemini a tanítóadatokból tanult meg”.

Judy Gichoya, az Emory Egyetem radiológia és informatika docense szerint a legnagyobb probléma, hogy ezek a rendszerek hajlamosak dolgokat kitalálni. Nem mondják azt, hogy 'nem tudom', ami rendkívül nagy probléma az olyan nagy téttel bíró területeken, mint az orvostudomány – fogalmazott.

Továbbiak a cikkben