Intelligenza artificiale

Politica sanitaria

06 Febbraio 2025

---

Dal 2 febbraio 2025, sono entrati in vigore i primi divieti dell’AI Act, la normativa europea sull’intelligenza artificiale approvata a maggio 2024. La Commissione Europea ha pubblicato le linee guida per imprese e Stati membri, stabilendo un quadro chiaro per l’attuazione delle regole e garantendo certezza giuridica agli operatori del settore, comprese le strutture sanitarie e i professionisti della salute.

Le pratiche vietate e l’impatto per il mondo sanitario

Il regolamento prevede diverse pratiche vietate nell’uso dell’IA.

Tecniche manipolative e subliminali: Questi sono sistemi di IA che utilizzano tecniche subliminali o manipolative per influenzare il comportamento delle persone in modo significativo senza che queste ne siano consapevoli.

Sfruttamento delle vulnerabilità: Sistemi che sfruttano le vulnerabilità di gruppi specifici, come bambini, anziani o persone con disabilità, per influenzare il loro comportamento. Questo include anche situazioni di vulnerabilità sociale o economica.

Social scoring: Sistemi che valutano e classificano le persone in base al loro comportamento sociale, economico o personale. Questo tipo di valutazione può portare a discriminazioni e violazioni della privacy.

Polizia predittiva basata esclusivamente sulla profilazione delle persone: Sistemi che prevedono la probabilità di commissione di reati basandosi esclusivamente su profili o tratti della personalità delle persone, senza considerare il loro comportamento effettivo.

Scraping non mirato di immagini facciali: La raccolta indiscriminata di immagini facciali da Internet o da telecamere a circuito chiuso per creare database di riconoscimento facciale. Questo può portare a violazioni della privacy e a un uso improprio dei dati biometrici.

Riconoscimento delle emozioni sul posto di lavoro e nelle scuole: Sistemi che analizzano le espressioni facciali o altre caratteristiche biometriche per determinare le emozioni delle persone in contesti lavorativi o educativi. Questo può violare la privacy e creare ambienti di sorveglianza invasivi.

Sistemi di categorizzazione biometrica basati su dati sensibili: Sistemi che categorizzano le persone in base a caratteristiche sensibili come orientamento sessuale, convinzioni politiche, razza, ecc. Questo può portare a discriminazioni e violazioni dei diritti fondamentali.

Identificazione biometrica remota in tempo reale in spazi pubblici: Sistemi di identificazione biometrica utilizzati in tempo reale in spazi pubblici, che possono portare a una sorveglianza di massa. Ci sono alcune eccezioni limitate, come per motivi di sicurezza nazionale.

Per il settore sanitario, questo significa che l’uso di IA per analizzare espressioni facciali, emozioni o identificare pazienti tramite strumenti di riconoscimento biometrico potrebbe essere vietato o fortemente regolamentato.

Che cosa devono fare gli operatori sanitari

I professionisti del settore sanitario dovranno verificare che i sistemi IA utilizzati nelle strutture sanitarie rispettino i nuovi divieti ed evitare strumenti di IA che possano raccogliere dati biometrici o analizzare emozioni senza consenso. 

L’AI Act rappresenta un passo fondamentale per garantire un utilizzo etico e sicuro dell’intelligenza artificiale nel settore sanitario. Il prossimo anno sarà cruciale per l’adeguamento delle strutture e dei professionisti alle nuove regole. Inoltre, in agosto 2027 saranno pienamente applicate le norme di governance per i sistemi che integrano l’IA in prodotti regolamentati, come per esempio quelli utilizzati nella sanità, dove gli obblighi di conformità saranno più stringenti.

Sanzioni per la non conformità

Previste sanzioni per aziende, istituzioni, agenzie o organismi dell’UE che non rispetteranno le disposizioni previste dall’AI Act che rischiano fino a 35 milioni di euro o al 7% del fatturato mondiale totale annuo dell’esercizio precedente (se superiore) per violazioni relative a pratiche vietate o per l’inosservanza di requisiti in materia di dati; fino a 15 milioni di euro o al 3% del fatturato mondiale totale annuo dell’esercizio precedente per l’inosservanza di qualsiasi altro requisito o obbligo del regolamento e fino a 7,5 milioni di euro o all’1,5% del fatturato mondiale totale annuo dell’esercizio precedente per la fornitura di informazioni inesatte, incomplete o fuorvianti agli organismi notificati e alle autorità nazionali competenti in risposta a una richiesta.

Vigilanza sull’AI Act in Italia

Gli Stati membri devono designare le autorità di vigilanza entro il 2 agosto 2025. In Italia, il disegno di legge n. 1146 del 2024 ha stabilito che la supervisione sarà affidata all’Agenzia per l’Italia Digitale (AgID), che promuoverà la conformità dei sistemi di IA, all’Agenzia per la Cybersicurezza Nazionale (ACN), responsabile di vigilanza, ispezioni e sanzioni. Inoltre, il Garante per la protezione dei dati personali potrebbe avere un ruolo chiave per limitare i rischi, come già avvenuto con ChatGPT e altri sistemi di IA.

Fonte:

https://digital-strategy.ec.europa.eu/it/policies/regulatory-framework-ai 

TAG: INTELLIGENZA ARTIFICIALE