OMS a emis noi îndrumări privind etica și guvernarea modelelor mari multimodale (LMM) pentru utilizarea adecvată a acestora pentru a promova și proteja sănătatea populațiilor. LMM-urile este un tip de generativ cu creștere rapidă inteligență artificială (AI) tehnologie care are cinci aplicații largi pentru sănătate in
1. Diagnostic și îngrijire clinică, cum ar fi răspunsul la întrebările scrise ale pacienților;
2. Utilizare ghidată de pacient, cum ar fi pentru investigarea simptomelor și tratamentului;
3. Sarcini administrative și administrative, cum ar fi documentarea și rezumarea vizitelor pacienților în fișele medicale electronice;
4. Educație medicală și de asistență medicală, inclusiv oferirea stagiarilor cu întâlniri simulate cu pacienții și;
5. Cercetare științifică și dezvoltare de medicamente, inclusiv pentru identificarea de noi compuși.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Prin urmare, pentru a crea LMM-uri sigure și eficiente, OMS a făcut recomandări guvernelor și dezvoltatorilor de LMM.
Guvernele au responsabilitatea principală de a stabili standarde pentru dezvoltarea și implementarea LMM-urilor, precum și integrarea și utilizarea acestora în scopuri medicale și de sănătate publică. Guvernele ar trebui să investească sau să ofere infrastructură publică sau non-profit, inclusiv putere de calcul și seturi de date publice, accesibile dezvoltatorilor din sectoarele public, privat și non-profit, care impune utilizatorilor să adere la principiile și valorile etice în schimb pentru acces.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Alocați o agenție de reglementare existentă sau nouă care să evalueze și să aprobe LMM-urile și aplicațiile destinate utilizării în îngrijirea sănătății sau în medicină – în măsura în care resursele permit.
· Introducerea de audit obligatorii după lansare și evaluări de impact, inclusiv pentru protecția datelor și drepturile omului, de către terți independenți atunci când un LMM este implementat la scară largă. Auditul și evaluările de impact ar trebui publicate
și ar trebui să includă rezultate și impacturi dezagregate în funcție de tipul de utilizator, inclusiv, de exemplu, în funcție de vârstă, rasă sau dizabilitate.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM-urile sunt concepute pentru a îndeplini sarcini bine definite cu acuratețea și fiabilitatea necesare pentru a îmbunătăți capacitatea sistemelor de sănătate și pentru a promova interesele pacienților. Dezvoltatorii ar trebui, de asemenea, să fie capabili să prezică și să înțeleagă potențialele rezultate secundare.
***
Sursa:
OMS 2024. Etica și guvernarea inteligenței artificiale pentru sănătate: îndrumări privind modelele mari multimodale. Disponibil la https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
