IA în medicină: dileme etice

Un program informatic poate analiza multe imagini medicale și poate semnala zone care merită verificate. Aceasta este o posibilă folosire a inteligenței artificiale în medicină. Rezultatul programului este un ajutor pentru oameni, nu o garanție că diagnosticul este corect. Medicul trebuie să îl interpreteze în contextul pacientului și al celorlalte informații disponibile.

Dacă un sistem este testat predominant pe datele unui singur grup de persoane, performanța lui poate fi mai slabă pentru alte grupuri. De aceea se verifică atât precizia generală, cât și cine riscă să fie dezavantajat. O altă întrebare este ce se întâmplă cu imaginile și datele folosite: cine le poate vedea, cum sunt protejate și ce a înțeles pacientul despre folosirea lor? O aplicație utilă nu justifică ignorarea vieții private.

Există și problema responsabilității. Dacă sistemul face o recomandare greșită, oamenii și instituțiile care îl aleg, îl testează și îl folosesc trebuie să poată explica procesul și să corecteze problema. Pacientul are nevoie de informații clare pentru a participa la decizie. Când citești o știre despre „un computer care vindecă o boală”, întreabă ce a fost testat cu adevărat și dacă rezultatele au fost confirmate în îngrijirea reală.

Un sistem de inteligență artificială (IA) folosit în medicină, de exemplu pentru citirea radiografiilor, este un instrument de sprijin, iar decizia clinică rămâne a medicului. Evaluarea lui are patru direcții: scopul clinic precis, calitatea datelor de antrenare, validarea pe pacienți independenți și monitorizarea după introducerea în practică. Regulamentul (UE) 2024/1689 privind inteligența artificială încadrează sistemele care sunt dispozitive medicale ca sisteme cu risc ridicat, cu cerințe de supraveghere umană și de transparență.

Performanța se descrie prin sensibilitate (proporția bolnavilor depistați: $\frac{VP}{VP+FN}$), specificitate (proporția sănătoșilor recunoscuți: $\frac{VN}{VN+FP}$) și valoarea predictivă pozitivă ($\frac{VP}{VP+FP}$), unde VP sunt adevărații pozitivi, FN falșii negativi, VN adevărații negativi și FP falșii pozitivi. Din punct de vedere etic contează: confidențialitatea imaginilor, informarea pacientului, răspunderea instituției și echitatea (performanță comparabilă pentru femei și bărbați, pentru toate grupele de vârstă).

Exemplu rezolvat 1: calculul performanței. Un program este testat pe 1000 de radiografii, dintre care 100 conțin o leziune. Programul marchează 90 dintre cele 100 leziuni (VP = 90, FN = 10) și, dintre cele 900 normale, recunoaște 855 (VN = 855, FP = 45).

1. Sensibilitatea: $\frac{90}{90+10}=0,90$, adică 90%.
2. Specificitatea: $\frac{855}{855+45}=0,95$, adică 95%.
3. Valoarea predictivă pozitivă: $\frac{90}{90+45}\approx 0,67$. Doar două treimi dintre imaginile marcate conțin într-adevăr leziune, deci fiecare marcaj se verifică de medic.

Exemplu rezolvat 2: date nereprezentative. Un model antrenat numai pe imagini de la pacienți de 20–40 de ani poate rata mai des leziunile la pacienții de peste 70 de ani. Verificarea corectă cere un set de test cu toate grupele de vârstă și raportarea sensibilității pe fiecare grup, nu doar media generală.

Trei probleme apar în practica clinică. Prima este părtinirea de automatizare: tendința medicului de a accepta rezultatul programului fără să îl verifice; ea se reduce prin instruire și prin obligația ca medicul să poată contrazice sistemul. A doua este degradarea performanței: un model validat pe aparate dintr-un spital poate da rezultate mai slabe pe aparate de alt tip sau când populația pacienților se schimbă, de aceea performanța se monitorizează continuu. A treia este explicabilitatea: pacientul trebuie informat că s-a folosit un sistem automat și că decizia finală aparține medicului, care poate explica motivul recomandării. Răspunderea pentru un tratament greșit rămâne a persoanelor și a instituției care au folosit programul.

Informarea pacientului cuprinde trei elemente: faptul că s-a folosit un sistem automat, rolul lui (sprijin pentru medic) și dreptul de a cere o a doua părere medicală. Imaginile folosite la antrenare provin din dosare medicale, deci se anonimizează, iar utilizarea lor pentru un alt scop decât îngrijirea cere temei legal sau acordul pacientului.

Greșeli frecvente

• Greșit: Dacă programul este foarte precis în test, nu mai poate greși la pacienți.
  Corect: Performanța trebuie verificată în condițiile reale și pentru grupuri diferite.
• Greșit: Un algoritm poartă singur răspunderea pentru tratament.
  Corect: Persoanele și instituțiile rămân responsabile pentru folosirea lui.
• Greșit: O sensibilitate de 90% înseamnă că 90% dintre pacienții marcați de program sunt bolnavi.
  Corect: Sensibilitatea arată câți dintre bolnavi sunt depistați; proporția bolnavilor dintre cei marcați este valoarea predictivă pozitivă.

Înainte și după