Az ellátás nem csak a matekról szól

A mesterséges intelligencia egyre jobb diagnoszta hírében áll, de hiába dicsekedhet egyre nagyobb pontossággal a program, fennáll a veszélye, hogy előítéletes lesz: egy  a Nature-ben megjelent tanulmány szerint bőrszín alapján is szelektálhat, így a színes bőrűek rosszabb ellátáshoz juthatnak, mint a fehérek. A program nemcsak bőrszín, hanem nem alapján is előítéletes: arra ugyan alkalmas, hogy könnyítsen az orvosok és nővérek adminisztratív terhein, de arra nem, hogy empatikusan viselkedjen - írta a quibit.hu.

A kutatók által vizsgált algoritmust már széles körben alkalmazzák is: a program a kezelések költsége alapján próbálja megítélni a probléma súlyosságát, így annak, akinek a korábbi kezelései nem kerültek olyan sokba, a problémáját is kevésbé súlyosnak ítéli. A probléma milliókat érinthet: Ziad Obermeyer, a kutatás vezetője szerint az Egyesült Államokban majdnem mindegyik nagyobb egészségügyi intézmény használja az algoritmust, de a biztosítók és hasonló cégek is alkalmazzák.

A kutató szerint nem a költségeket, hanem a várható egészségügyi következményeket kellene előtérbe helyezni: azt figyelték meg, hogy ha nem az ellátás összköltségét veszik a számítás alapjául, hanem csak az ellátás egy bizonyos szegmensének a költségeit, máris csökken az egyenlőtlenség.

Az algoritmus jelenleg körülbelül 200 millió ember ellátásában vesz részt, a jelenlegi ellátórendszerben pedig a tanulmány adatai szerint a rászoruló fekete betegeknek mindössze a 17,7 százaléka kap csak kiemelt ellátást – a kutatók szerint ez az arány az algoritmus finomhangolásával 46,5 százalékra emelkedhetne.