A technológia nem helyettesítheti az emberi gondolkodást

A The Lancet Child & Adolescent Health szaklapban publikált szerkesztőségi véleménycikk a generatív mesterséges intelligencia (Gen AI) felelős és értékvezérelt használatának kérdését helyezi középpontba a gyermek- és serdülőkori egészségkutatásban és publikációs gyakorlatban. A világszerte meghatározó szakmai fórumként működő orvosi lap szerzői egyértelmű állásfoglalást fogalmaznak meg azzal kapcsolatban, hogyan alakítsuk a jövő tudományos kommunikációját az új technológiák korában.

A generatív MI térnyerése: lehetőség és kockázat

A generatív MI olyan eszközök összefoglaló neve, amelyek képesek emberszerű szövegeket, képeket vagy egyéb tartalmakat előállítani tanult minták alapján. Az orvostudományban ezeket a modelleket egyre gyakrabban alkalmazzák irodalomáttekintésekhez, kutatási javaslatokhoz vagy akár nyelvi szerkesztéshez is. Bár ezek az eszközök növelhetik a hatékonyságot, a Lancet cikk szerzői szerint nem szabad nélkülözniük az emberi ítélőképességet és a szakmai integritást.

A vélemény szerint a Gen MI önmagában nem helyettesítheti az emberi kutatói gondolkodást, különösen akkor nem, ha új tudományos gondolatok vagy klinikai jelentőségű következtetések megszületéséről van szó. A technológia túlzott használata veszélyeztetheti a kreativitást, „újragyárthatja” a meglévő elképzeléseket, és elhomályosíthatja a valós innovációt. A mesterséges intelligencia célja a gondolkodás támogatása, nem annak átvétele.

Menedzsment és átláthatóság

A Lancet álláspontja szerint a tudományos közösségnek világos irányelveket kell kialakítania a Gen MI használatáról:

• Kötelező MI-használati nyilatkozat: A szerzőknek minden olyan lépést fel kell tüntetniük, ahol generatív MI befolyásolta a kézirat tartalmát vagy szerkesztését.
• Bírálói irányelvek: Indokolt, hogy a folyóiratok szerkesztőségei szabályozzák, és egyértelmű kontextushoz kössék a mesterséges intelligencia használatát a bírálati folyamat során.
• Képzés és támogatás: A szerzők és bírálók számára oktatási források és eszközök biztosítása javasolt az MI etikus, hatékony alkalmazásához.

Ezek az ajánlások egyaránt szolgálják azt a célt, hogy biztosítsák a tudományos integritást, miközben lehetővé teszik a technológia fejlődésének előnyeit egy olyan gyorsan változó, globális kontextusban, mint a gyermek- és serdülőkori egészségkutatás.

Az emberi tényező szerepe a tudományos gondolkodásban

A véleménycikk kiemeli, hogy a generatív mesterséges intelligencia nem mentes a torzításoktól és előítéletektől: a tanító adatokban meglévő hibák és elfogultságok könnyen megjelenhetnek az MI által előállított kimenetekben is. Ez különösen veszélyes lehet egészségügyi kutatások és protokollok esetén, ahol a gyermekek vagy sérülékeny csoportok élete és jólléte a tét. A kutatóknak továbbra is aktívan részt kell venniük az elemzésben, döntéshozatalban és a kritikai gondolkodásban, nem szabad alárendelniük ezeket a folyamatokat egy algoritmusnak.

Az emberi szakértelem, etikai megfontolások és klinikai tapasztalat pótolhatatlan elemei maradnak a tudományos munkának. A generatív MI nem csodaszer, hanem eszköz, amely tudatos, felelős és transzparens használatot igényel. A publikálási gyakorlatokban és a kutatásban minden érintettnek együtt kell gondolkodnia arról, hogyan építsük be a technológiát anélkül, hogy aláásnánk a tudományos hitelességet vagy elhanyagolnánk az emberi ítélőképességet.