Orvosi válasz a mesterséges intelligenciától: hogyan ellenőrizd?

A jól hangzó mondat is lehet hibás

A generatív mesterséges intelligencia segíthet szövegek rendezésében, fogalmak magyarázatában vagy konzultációs kérdések megfogalmazásában. A WHO ugyanakkor dokumentált kockázatként írja le a téves, hiányos vagy torzított állításokat. Az érthető, határozott megfogalmazás nem mutatja meg, hogy az állítás helyes-e.

Külön veszély az automatizálási torzítás: az ember túl könnyen elfogadja a rendszer válaszát, és kevésbé veszi észre a hibát. Ez a beteg és a szakember döntését is érintheti. A felhasználási cél és az ellenőrzés módja ezért előre tisztázandó.

Forrás: 1. WHO

Miért aktuális a felügyelet kérdése?

A WHO 2026 szeptemberi jelentése az AI-val kapcsolatos egészségügyi kutatások etikai ellenőrzését tárgyalja. A kiemelt problémák között szerepel az átláthatóság, a torzítás, a felelősség, a magánszféra és a gyors bevezetésből eredő kár. A jelentés kutatási felügyeletről szól, ezért nem tekinthető egy konkrét fogyasztói chatbot jóváhagyásának.

A WHO európai szakmai párbeszédének jelentése a hiányos vagy torz adatkészleteket és a tisztázatlan felelősséget szintén akadályként azonosítja. A technikai teljesítmény mellett az is számít, kire, milyen helyzetben és milyen kontroll mellett használják a rendszert.

Forrás: 2. WHO · 3. WHO Europe

Saját négylépéses forrásellenőrzés

Először fogalmazd át egyetlen ellenőrizhető állítássá a választ. Másodszor nyisd meg a hivatkozott eredeti forrást: létezik-e, és valóban ezt mondja-e? Harmadszor nézd meg a dátumot és a vizsgált csoportot. Negyedszer vizsgáld meg, következik-e a tanulmányból a javasolt teendő.

Szemléltető példa: a rendszer egy laboreredményről azt állítja, hogy biztosan egyetlen betegséget jelent. Ilyenkor a referencia-tartomány, a tünetek, más eredmények és a vizsgálat célja is hiányozhat. Kérj bizonytalanságot és alternatív magyarázatot, majd a személyes leletet egészségügyi szakemberrel értelmeztesd.

Csak a szükséges adatot add meg

Egészségügyi dokumentum feltöltése előtt nézd meg a szolgáltatás adatkezelési feltételeit és a hozzáféréseket. Egy fogalommagyarázathoz sokszor nincs szükség névre, címre vagy teljes azonosítható leletre. A WHO a betegadatokat érintő kiberbiztonsági kockázatokat is hangsúlyozza.

Az AI jó eszköz lehet a felkészüléshez, de a sürgős ellátást vagy a gyógyszerelés orvosi felülvizsgálatát ne halaszd miatta. A hasznos kimenet lehet egy rendezett kérdéslista is; nem szükséges minden beszélgetés végén diagnózist kérni.

Forrás: 1. WHO