Tecnologia e IA nella medicina

Business del benessere ed etica della medicina: quando il profitto può nuocere al paziente

Che ne sarà del rapporto medico-ammalato se la diagnosi la fa l’intelligenza artificiale? E quali effetti avrà sulla salute l’ingresso di società tecnologiche negli ospedali? Quali garanzie per i poveri?

Editoriali - di Mons. Vincenzo Paglia - 22 Dicembre 2023 alle 17:00

Condividi l'articolo

Business del benessere ed etica della medicina: quando il profitto può nuocere al paziente

Nei giorni scorsi mons. Vincenzo Paglia, presidente della Pontificia Accademia per la Vita, è intervenuto, a Roma, ai lavori di un convegno della Federazione delle Associazioni dei Dirigenti Ospedalieri Internisti (Fadoi), approfondendo il tema dell’ “Intelligenza Artificiale nel rapporto medico-paziente: prezioso alleato e pericoloso rivale?”. Pubblichiamo di seguito una sintesi dell’intervento.

Quando si parla di tecnologie la tendenza è quella di concentrarsi subito sulle loro prestazioni, che vengono prese come riferimento per apprezzarne il significato e la valenza etica. Per esempio, la precisione dei robot chirurgici o la rapidità degli algoritmi per analizzare i dati, per leggere le immagini radiografiche e ipotizzare una diagnosi. Rimangono invece spesso nell’ombra gli effetti più profondi dei dispositivi tecnologici, che sono tuttavia della massima importanza per una loro valutazione.

È un punto su cui attira la nostra attenzione papa Francesco, quando nell’enciclica Laudato si’ critica la tecnocrazia e la logica che vi è sottesa. Con il termine “tecnocrazia” papa Francesco indica un modo di comprendere la realtà, che incide profondamente su ogni nostra attività: «Non si può pensare di sostenere un altro paradigma culturale e servirsi della tecnica come di un mero strumento, perché oggi il paradigma tecnocratico è diventato così dominante, che è molto difficile prescindere dalle sue risorse, e ancora più difficile è utilizzare le sue risorse senza essere dominati dalla sua logica» (LS, n. 108).

Dobbiamo allora rifiutare in toto scienza e tecnica? Direi di no. Papa Francesco nel messaggio per la pace di questo anno – intitolato “intelligenza artificiale e pace” – scrive: “Giustamente ci rallegriamo e siamo riconoscenti per le straordinarie conquiste della scienza e della tecnica, grazie alle quali si è posto rimedio a innumerevoli mali che affliggevano la vita umana e causavano sofferenze”.

La difficoltà nasce quando questa logica prende il sopravvento su tutte le altre dimensioni umane, diventando quello che la Bibbia chiamerebbe un idolo, cioè un prodotto dell’attività umana a cui viene immolato ogni altro aspetto della vita personale e associata.

Il sapere scientifico non ci fornisce solo conoscenze su come è fatto il mondo in cui viviamo o su singoli processi fisici o biologici, ma ha un effetto anche sulla visione che abbiamo di noi stessi. Per usare un’espressione più filosofica: ogni comprensione implica sempre anche un’autocomprensione, non riguarda mai solo fenomeni esterni a noi.

Quanto abbiamo fin qui detto ci aiuta a comprendere le ragioni per cui i saperi scientifico-tecnologici non possono dirsi neutrali: quelli che chiamiamo «dati di fatto», perché la scienza ce li propone come frutto di evidenze sperimentali e funzionali, in realtà coinvolgono una serie di premesse, spesso trascurate perché rimangono implicite (almeno finché sono spontaneamente condivise).

Per questo il papa afferma che le tecnologie non sono semplici strumenti. Non è sostenibile quanto spesso si sente dire, cioè che i loro effetti dipendono dall’uso che ne facciamo. Posso servirmi di un pugnale per tagliare il pane, ma la forma della sua lama già indica la funzione di arma da combattimento e non di utensile casalingo.

Con riferimento più diretto al rapporto medico paziente, possiamo constatare che le tecnologie hanno avuto un impatto importante sulla sua articolazione. Inoltre, molte tecnologie si introducono nell’atto medico, sia dal punto di vista diagnostico sia terapeutico: indagini radiografiche, ecografiche, diagnostica per immagini, analisi di laboratorio sono presidi assai utili, che però disperdono nel tempo e nello spazio quello che in altre epoche era riassunto in un gesto unitario, quasi artigianale.

Tutto questo era lo scenario vigente fino a qualche anno fa. Ma con l’innovazione digitale emergono degli aspetti più specifici, che prendono le mosse da una intensificazione della raccolta dei dati. Per esempio il programma dedicato Watson della IBM, ma anche altre società hanno seguito questa pista, utilizza la medicina informatizzata nel raccogliere e analizzare qualsiasi tipo di dati.

Questi provengono dalle cartelle cliniche delle pazienti e si riferiscono all’evoluzione del loro quadro clinico, all’efficacia delle terapie e agli eventuali effetti collaterali. Inoltre il sistema si informa dei vari focolai di infezione nel mondo ed è in grado di “leggere” e sintetizzare articoli scientifici disponibili online (una funzione che ritroviamo anche nella AI generative), affinando continuamente il suo livello di competenza.

Costituisce un facile strumento di accesso a una miriade di informazioni per i medici che possono, in questo modo, valutare meglio le decisioni da prendere. Una seconda funzione, sviluppatasi in un secondo momento, si riferisce alla capacità di stabilire diagnosi.

È possibile ad esempio individuare un tumore della pelle con gradi di precisione giudicati superiori a quelli degli esseri umani o prevedere con elevato coefficienti di probabilità e ampio anticipo lo sviluppo di decadimenti cognitivi sulla base dell’analisi del modo di parlare e della sua evoluzione.

Vorrei attrarre la vostra attenzione su un punto: queste innovazioni sono il risultato di ricerche condotte non dal mondo della medicina, ma da attori industriali. Siamo quindi di fronte a una forma di disgiunzione tra il mondo tecnico-economico e quello della medicina, che non lavorano di concerto, all’interno di partenariati, in quanto il primo tenta di imporre le sue “innovazioni” al secondo.

Il personale medico quindi rischia di rimanere succube di una introduzione acritica della “trasformazione digitale”, come se fosse scontata la sua valenza univocamente positiva. Oltre alla pressione del mercato, le ancora incerte pratiche di validazione di questi dispositivi, richiedono una attenta distanza critica, in modo da non adottare tecniche che vincolino la pratica medica senza una solida base.

Un esempio interessante, sul versante clinico, è l’esperienza della Consensus Conference Cicerone, che ha riesaminato con cura la letteratura fin qui disponibile circa l’uso dei robot nella riabilitazione neurologica. La trovate qui. Ebbene, nonostante si ripeta che occorre salvaguardare la priorità umana al cui servizio le macchine vanno poste, tuttavia questo è un equilibrio che richiede una grande vigilanza per essere custodito.

Sul versante terapeutico, guardiamo alla prescrizione dei trattamenti sulla base delle diagnosi fatte sia dagli umani sia dai sistemi stessi. Si preannuncia una “lotta industriale della prescrizione”, nella quale ogni azienda pretenderà di arrogarsi il ruolo di piattaforma indispensabile che collega tra loro le varie parti interessate.

Ma al di là della volontà di occupare una posizione terza, quello a cui assistiamo è la messa in atto di una strategia parallela da parte di queste società che cercano di collocarsi in modo permanente all’interno della catena sanitaria, sottraendo al personale medico il suo ruolo, che è da sempre centrale, e ignorando le varie esigenze storiche pazientemente definite dalla disciplina nel corso del tempo.

In questa linea il rischio che si corre è quello di una progressiva irrilevanza della visita medica e l’evaporazione della stessa relazione tra medico e paziente. Certo, questa dinamica non è immediatamente visibile: la promessa principale è infatti quella di una somministrazione altamente reattiva ed efficace delle cure, lontana da sale d’attesa e ospedali sovraffollati, preservata dalle eventuali negligenze o fallibilità dei medici.

È importante comprendere la regressione che avviene nel rapporto tra personale medico e paziente, nella misura in cui quello che viene a instaurarsi è un nuovo tipo di verticalità, che impone una verità obiettiva delle competenze e delle prescrizioni, le quali assumono il valore di enunciati normativi superiormente qualificati.

Viene eliminata, dunque, l’ipotesi della pluralità delle competenze volte a formulare giudizi sulla base del proprio sapere e della propria esperienza, quella delle controvalutazioni che in certi casi si rivelano necessarie, e quella della consultazione tra i vari specialisti interessati per stabilire un determinato approccio terapeutico.

La logica dell’iper-individualizzazione, retta dall’uso dell’intelligenza artificiale, rischia di indebolire, tanto nei fatti quanto nelle mentalità, l’esigenza umanistica della solidarietà a vantaggio di rapporti stretti privatamente tra persone e organismi.

La società del contratto è destinata a diffondersi fin dentro i confini del settore medico, a scapito dell’instaurazione di un regime comune e con la conseguenza che saranno soprattutto i ceti sociali più agiati a godere dei servizi offerti.

Inoltre, la grande quantità di informazioni raccolte alimenterà una conoscenza sempre più approfondita delle persone che potrà essere sfruttata per diversi fini, principalmente commerciali. Non si tratta ovviamente di abbandonare la tecnica e il suo sviluppo.

Dobbiamo però dire che, mentre gli strumenti tecnologici come l’IA possono migliorare significativamente la nostra capacità di eseguire compiti specifici, è fondamentale che l’uomo, in questo caso il medico, mantenga il controllo finale sulle decisioni e continui a sviluppare e mantenere abilità indipendenti.

Questo equilibrio è particolarmente critico in quei campi, come la medicina, dove il giudizio umano e la relazione medico-paziente sono irrinunciabili.

Dobbiamo comprendere i cambiamenti e agire con saggezza se vogliamo che la pratica clinica resti, per quanto possibile, fondata sul principio storico, ed etico, della cura non finalizzata al profitto. Quello che manca è una teoria critica del divenire della medicina.

22 Dicembre 2023

Condividi l'articolo