Inteligența artificială în spitale: cum pot fi protejate datele pacienților

Utilizarea inteligenței artificiale în medicină se extinde de la analiza imaginilor și sprijinul pentru diagnostic până la gestionarea documentelor, programarea pacienților și comunicarea prin asistenți virtuali. În același timp, prelucrarea datelor medicale prin sisteme AI aduce riscuri importante privind confidențialitatea, securitatea informațiilor și controlul asupra deciziilor automate. Un material publicat de Comitetul European pentru Protecția Datelor prezintă principiile tehnice care trebuie avute în vedere pe întregul ciclu de viață al unui sistem AI.

Un material european dedicat securității sistemelor AI

Comitetul European pentru Protecția Datelor – EDPB – a publicat materialul de formare „Fundamentals of Secure AI Systems with Personal Data”, destinat profesioniștilor din securitate cibernetică, dezvoltatorilor și organizațiilor care proiectează sau utilizează sisteme de inteligență artificială.

Documentul nu reprezintă o nouă lege și nici un set obligatoriu de norme juridice. Este un material tehnic de instruire, conceput pentru dezvoltarea competențelor necesare construirii și implementării unor sisteme AI sigure, în special atunci când acestea prelucrează date cu caracter personal sau sunt încadrate în categoria sistemelor cu risc ridicat.

Proiectul a fost realizat în cadrul programului Support Pool of Experts al EDPB, la solicitarea autorității elene pentru protecția datelor. Materialul a fost finalizat în decembrie 2024, actualizat în aprilie 2025 și publicat în iunie 2025.

De ce este subiectul important pentru spitale și clinici

Datele privind sănătatea beneficiază de protecție suplimentară în temeiul Regulamentului general privind protecția datelor. Acestea pot include informații despre starea fizică sau psihică a unei persoane, diagnostice, tratamente, rezultate ale investigațiilor, istoricul medical sau serviciile de sănătate primite.

Într-un spital sau într-o clinică, un sistem AI poate ajunge să prelucreze:

• imagini radiologice;
• rezultate de laborator;
• foi de observație și scrisori medicale;
• înregistrări audio ale consultațiilor;
• date genetice sau biometrice;
• informații introduse în aplicații de programare;
• conversații purtate cu un chatbot medical;
• date utilizate pentru estimarea riscului sau recomandarea unui tratament.

O vulnerabilitate într-un asemenea sistem nu afectează doar infrastructura informatică. Ea poate conduce la divulgarea unor informații medicale, la rezultate incorecte, la discriminare sau la influențarea unei decizii clinice.

Securitatea trebuie analizată pe întregul ciclu de viață

Una dintre ideile centrale ale materialului EDPB este că securitatea nu trebuie verificată numai înainte de lansarea aplicației. Ea trebuie integrată în toate etapele de existență ale sistemului AI.

Curriculumul publicat de EDPB acoperă terminologia și ciclul de viață al sistemelor AI, colectarea datelor, tehnologiile de protejare a vieții private, dezvoltarea și testarea securității, implementarea, monitorizarea, sustenabilitatea și retragerea sistemelor din utilizare. Documentul include și liste de verificare pentru audit, exemple de utilizare și o analiză a provocărilor tehnologice, juridice și etice.

Pentru o unitate medicală, acest lucru înseamnă că evaluarea trebuie să înceapă înainte de achiziționarea sau configurarea aplicației și să continue pe întreaga perioadă în care aceasta este folosită.

Colectarea datelor trebuie limitată la ceea ce este necesar

Sistemele AI sunt adesea dezvoltate cu volume mari de date. Totuși, existența unei capacități tehnice de a colecta informații nu justifică utilizarea tuturor datelor disponibile.

Spitalele și clinicile trebuie să clarifice:

• ce date sunt introduse în sistem;
• în ce scop sunt prelucrate;
• dacă toate câmpurile sunt necesare;
• cine are acces la informații;
• cât timp sunt păstrate datele;
• dacă datele sunt reutilizate pentru antrenarea algoritmului;
• dacă informațiile sunt transferate către alți furnizori sau în afara Spațiului Economic European.

În cazul unei aplicații externe, trebuie verificat inclusiv dacă furnizorul utilizează datele pacienților pentru îmbunătățirea propriilor modele.

Datele pentru antrenarea AI trebuie controlate

Un algoritm medical poate fi antrenat pe imagini, rapoarte sau înregistrări provenite de la pacienți. Calitatea și proveniența acestor date influențează direct rezultatele sistemului.

Seturile de date trebuie analizate din perspectiva:

• legalității colectării;
• exactității informațiilor;
• reprezentativității populației;
• eliminării datelor care nu sunt necesare;
• anonimizării sau pseudonimizării;
• riscului de reidentificare;
• existenței unor erori sau dezechilibre care pot afecta anumite categorii de pacienți.

Un model antrenat pe date nereprezentative poate furniza rezultate mai puțin precise pentru anumite grupe de vârstă, sexe sau categorii de pacienți.

Anonimizarea nu trebuie presupusă automat

Eliminarea numelui și a codului numeric personal nu transformă întotdeauna informațiile medicale în date anonime. O combinație de elemente precum vârsta, diagnosticul rar, localitatea, data internării sau o imagine medicală poate permite identificarea indirectă a persoanei.

Unitățile medicale trebuie să distingă între:

• anonimizare, atunci când persoana nu mai poate fi identificată în mod rezonabil;
• pseudonimizare, atunci când identificarea rămâne posibilă prin utilizarea unor informații suplimentare păstrate separat.

Pseudonimizarea reduce riscurile, dar datele rămân date cu caracter personal și continuă să fie protejate de GDPR.

Dezvoltarea și testarea trebuie făcute în medii controlate

Materialul EDPB include dezvoltarea sigură, practicile corecte de programare, mediile izolate de testare și verificarea securității înainte de punerea sistemului în producție.

În domeniul medical, testarea nu ar trebui realizată direct pe baze de date reale, în lipsa unor măsuri clare de protecție. Este recomandată utilizarea unor medii separate și, atunci când este posibil, a datelor anonimizate, sintetice sau atent pseudonimizate.

Testarea trebuie să urmărească nu numai atacurile informatice clasice, ci și riscuri specifice inteligenței artificiale, precum:

• manipularea datelor de intrare;
• extragerea informațiilor din model;
• reproducerea unor fragmente din datele de antrenare;
• generarea de răspunsuri eronate;
• introducerea unor instrucțiuni ascunse într-un document;
• accesarea neautorizată a altor sisteme conectate.

Accesul la date trebuie acordat diferențiat

Nu orice angajat al unei unități medicale trebuie să aibă acces la toate funcțiile sau la toate datele procesate de sistemul AI.

Accesul trebuie configurat în funcție de rol:

• medicul poate vedea datele clinice relevante;
• personalul administrativ poate avea acces doar la programări și date de contact;
• echipa tehnică poate gestiona aplicația fără a putea consulta automat informațiile medicale;
• furnizorul extern trebuie să aibă un acces limitat, justificat și monitorizat.

Autentificarea puternică, jurnalizarea accesului și revizuirea periodică a conturilor sunt esențiale pentru prevenirea utilizării neautorizate.

Decizia medicală nu trebuie transferată necontrolat algoritmului

Inteligența artificială poate oferi o estimare, poate identifica un tipar sau poate semnala un risc. Totuși, rezultatul generat nu trebuie tratat automat ca un diagnostic cert.

Un sistem poate produce:

• rezultate fals pozitive;
• rezultate fals negative;
• recomandări influențate de date incomplete;
• concluzii dificil de explicat;
• erori determinate de schimbarea populației sau a practicii medicale.

De aceea, este necesară supravegherea umană, mai ales atunci când rezultatul AI poate influența diagnosticul, tratamentul, prioritizarea pacienților sau accesul la o procedură medicală.

Monitorizarea trebuie să continue după implementare

Performanța unui sistem AI se poate modifica în timp. Actualizările software, apariția unor date noi sau schimbarea profilului pacienților pot afecta rezultatele.

Unitatea medicală ar trebui să monitorizeze:

• incidentele de securitate;
• accesările neobișnuite;
• erorile raportate de utilizatori;
• diferențele dintre rezultatele AI și evaluarea medicului;
• actualizările realizate de furnizor;
• schimbările aduse modelului;
• degradarea performanței;
• reclamațiile pacienților;
• riscul de apariție a unor rezultate discriminatorii.

Monitorizarea este relevantă atât pentru securitatea datelor, cât și pentru siguranța clinică.

Retragerea unui sistem AI trebuie planificată

Un aspect mai rar analizat este ceea ce se întâmplă atunci când o aplicație nu mai este utilizată.

Spitalul sau clinica trebuie să stabilească:

• cum pot fi exportate datele;
• în ce format sunt returnate;
• când sunt șterse copiile păstrate de furnizor;
• cum sunt închise conturile;
• cum sunt dezactivate integrările;
• ce se întâmplă cu copiile de siguranță;
• ce dovezi există privind ștergerea informațiilor.

Dependența excesivă de un furnizor poate crea riscuri operaționale și juridice atunci când contractul încetează.

Legătura cu Regulamentul european privind inteligența artificială

AI Act clasifică anumite sisteme drept sisteme cu risc ridicat atunci când pot afecta sănătatea, siguranța sau drepturile fundamentale. În domeniul medical, această categorie poate include sisteme AI integrate în dispozitive medicale sau software medical supus evaluării conformității de către o terță parte.

Încadrarea nu se face însă doar pentru că aplicația este utilizată într-un spital. Contează scopul sistemului, funcția pe care o îndeplinește și impactul concret pe care îl poate avea asupra pacientului.

Prin urmare, fiecare aplicație trebuie evaluată individual, împreună cu obligațiile care rezultă din GDPR, AI Act, legislația dispozitivelor medicale și normele sectoriale aplicabile.

Ce ar trebui să verifice o unitate medicală înainte de implementare

Înainte de achiziționarea sau utilizarea unei soluții AI, conducerea, responsabilul cu protecția datelor, echipa IT, structura de management al calității și specialiștii medicali ar trebui să analizeze împreună:

1. scopul exact al aplicației;
2. categoriile de date prelucrate;
3. temeiul juridic al prelucrării;
4. necesitatea unei evaluări de impact asupra protecției datelor;
5. rolul furnizorului și responsabilitățile contractuale;
6. locația stocării datelor;
7. măsurile de securitate;
8. modul de antrenare și actualizare a modelului;
9. posibilitatea intervenției umane;
10. procedura de raportare a incidentelor;
11. nivelul de transparență față de pacient;
12. modalitatea de încetare a utilizării sistemului.

Această verificare nu trebuie redusă la un formular administrativ. Ea trebuie să reflecte riscurile reale ale aplicației și contextul în care este utilizată.

Concluzie

Inteligența artificială poate sprijini activitatea medicală, dar utilizarea sa presupune mai mult decât instalarea unei aplicații performante. Protejarea datelor pacienților trebuie integrată în proiectarea, testarea, implementarea, monitorizarea și retragerea fiecărui sistem.

Materialul publicat de EDPB oferă un cadru tehnic util pentru profesioniștii care dezvoltă sau utilizează sisteme AI cu date personale. Pentru spitale și clinici, mesajul principal este clar: securitatea, protecția datelor și supravegherea umană trebuie tratate ca elemente ale aceluiași proces, nu ca obligații separate introduse după punerea aplicației în funcțiune.

Sursă: Comitetul European pentru Protecția Datelor – „Fundamentals of Secure AI Systems with Personal Data”.