OMS a emis noi îndrumări privind etica și guvernarea modelelor mari multimodale (LMM) pentru utilizarea adecvată a acestora pentru a promova și proteja sănătatea populațiilor. LMM-urile este un tip de generativ cu creștere rapidă inteligență artificială (AI) tehnologie care are cinci aplicații largi pentru sănătate in
1. Diagnostic și îngrijire clinică, cum ar fi răspunsul la întrebările scrise ale pacienților;
2. Utilizare ghidată de pacient, cum ar fi pentru investigarea simptomelor și tratamentului;
3. Sarcini administrative și administrative, cum ar fi documentarea și rezumarea vizitelor pacienților în fișele medicale electronice;
4. Educație medicală și de asistență medicală, inclusiv oferirea stagiarilor cu întâlniri simulate cu pacienții și;
5. Cercetare științifică și dezvoltare de medicamente, inclusiv pentru identificarea de noi compuși.
Cu toate acestea, aceste aplicații în domeniul sănătății riscă să producă declarații false, inexacte, părtinitoare sau incomplete, care ar putea dăuna persoanelor care folosesc astfel de informații în luarea deciziilor de sănătate. În plus, LMM-urile pot fi instruite pe date de proastă calitate sau părtinitoare, fie prin rasă, etnie, ascendență, sex, identitate de gen sau vârstă. Există, de asemenea, riscuri mai ample pentru sistemele de sănătate, cum ar fi accesibilitatea și accesibilitatea celor mai performante LMM-uri. LMM-urile pot încuraja, de asemenea, „prejudecățile de automatizare” de către profesioniștii din domeniul sănătății și pacienții, prin care erorile care altfel ar fi fost identificate sau alegerile dificile sunt delegate în mod necorespunzător unui LMM. LMM-uri, ca și alte forme de AI, sunt, de asemenea, vulnerabile la riscurile de securitate cibernetică care ar putea pune în pericol informațiile pacienților sau fiabilitatea acestor algoritmi și furnizarea de asistență medicală mai larg.
Prin urmare, pentru a crea LMM-uri sigure și eficiente, OMS a făcut recomandări guvernelor și dezvoltatorilor de LMM.
Guvernele au responsabilitatea principală de a stabili standarde pentru dezvoltarea și implementarea LMM-urilor, precum și integrarea și utilizarea acestora în scopuri medicale și de sănătate publică. Guvernele ar trebui să investească sau să ofere infrastructură publică sau non-profit, inclusiv putere de calcul și seturi de date publice, accesibile dezvoltatorilor din sectoarele public, privat și non-profit, care impune utilizatorilor să adere la principiile și valorile etice în schimb pentru acces.
· Folosiți legile, politicile și reglementările pentru a vă asigura că LMM-urile și aplicațiile utilizate în îngrijirea sănătății și medicină, indiferent de riscul sau beneficiul asociat cu AI tehnologie, respectă obligațiile etice și standardele privind drepturile omului care afectează, de exemplu, demnitatea, autonomia sau intimitatea unei persoane.
· Alocați o agenție de reglementare existentă sau nouă care să evalueze și să aprobe LMM-urile și aplicațiile destinate utilizării în îngrijirea sănătății sau în medicină – în măsura în care resursele permit.
· Introducerea de audit obligatorii după lansare și evaluări de impact, inclusiv pentru protecția datelor și drepturile omului, de către terți independenți atunci când un LMM este implementat la scară largă. Auditul și evaluările de impact ar trebui publicate
și ar trebui să includă rezultate și impacturi dezagregate în funcție de tipul de utilizator, inclusiv, de exemplu, în funcție de vârstă, rasă sau dizabilitate.
· LMM-urile sunt proiectate nu numai de oameni de știință și ingineri. Utilizatorii potențiali și toate părțile interesate directe și indirecte, inclusiv furnizorii de servicii medicale, cercetătorii științifici, profesioniștii din domeniul sănătății și pacienții, ar trebui să fie implicați încă din primele etape ale AI dezvoltarea unui design structurat, incluziv, transparent și oportunități oferite de a ridica probleme etice, de a exprima preocupările și de a oferi contribuții pentru AI cererea luată în considerare.
LMM-urile sunt concepute pentru a îndeplini sarcini bine definite cu acuratețea și fiabilitatea necesare pentru a îmbunătăți capacitatea sistemelor de sănătate și pentru a promova interesele pacienților. Dezvoltatorii ar trebui, de asemenea, să fie capabili să prezică și să înțeleagă potențialele rezultate secundare.
***
Sursa:
OMS 2024. Etica și guvernarea inteligenței artificiale pentru sănătate: îndrumări privind modelele mari multimodale. Disponibil la https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
