Chatbot-terapeuták: hiányzó szabályozás és etikai aggályok

A Replikához hasonló MI chatbot-terapeuták ígéretes támogatási rendszert kínálnak a mentális egészségügyi segítségre szorulóknak. Az Eugenia Kuyda által alapított Replika célja, hogy Carl Rogers amerikai pszichológus terápiás megközelítése alapján pozitív visszajelzést adjon. A chatbotnak több mint tízmillió felhasználója van, és olyan funkciókat kínál, mint a coaching, a memória és a napló funkció. Bár a Replika bizonyos helyzetekben hasznos lehet, Paul Marsden, a Brit Pszichológiai Társaság munkatársa arra figyelmeztet, hogy ezek az alkalmazások csak az emberi terápia kiegészítésére szolgálhatnak - írta a computerworld.hu.

Az MI chatbotok potenciális előnyei ellenére aggályok merültek fel az MI-technológia mentális egészségügyi támogatásban való alkalmazásának etikai vonatkozásaival kapcsolatban. A Koko, egy San Franciscó-i székhelyű mentális egészségügyi technológiai vállalatot kritika érte, egy kísérlete miatt, amelyben a GPT-3 MI chatbotot használta több mint 4000 felhasználó számára válaszok írására. A kritikusok szerint a mesterséges intelligencia mentális egészségügyi támogatásban való alkalmazása a sebezhető felhasználókat beleegyezésük nélkül manipulálhatja, és a technológiai iparban hiányzik az embereken végzett kísérletek felügyelete.

Ahogy az MI chatbot-terapeuták egyre nagyobb teret nyernek, egyre hangosabbak a terület globális szabályozására irányuló felhívások. Jen Persson brit online adatvédelmi aktivista azt javasolja, hogy a mentális egészségre vonatkozó állításokat megfogalmazó MI-cégeket az egészségügyi termékekhez hasonlóan minőségi és biztonsági előírásoknak kellene alávetni. A Replika esetében az olasz adatvédelmi ügynökség megtiltotta az alkalmazásnak, hogy az olaszok személyes adatait használja, mivel aggályosnak találta a 18 éven aluliak és érzelmileg sérülékeny személyek számára nem megfelelő tartalmakat. Továbbiak a teljes cikkben