I chatbot IA tendono a suggerire i farmaci di marca più noti, non i più economici

Un gruppo di ricerca guidato dal professor Daiju Ueda, dell’Università Metropolitana di Osaka, in collaborazione con il MD Anderson Cancer Center dell’Università del Texas, ha pubblicato sulla rivista Nature Health uno studio sul comportamento dei sistemi di intelligenza artificiale generativa quando devono indicare farmaci.

I ricercatori hanno costruito 177mila situazioni cliniche simulate e raccolto circa 883mila risposte da modelli come ChatGPT e Claude. Il risultato: i sistemi tendono a nominare più spesso i farmaci di grandi marchi, quelli con maggiore presenza online, rispetto a equivalenti meno costosi disponibili sul mercato.

Lo studio riguarda il comportamento dei modelli linguistici su scenari costruiti artificialmente, non l’esito di prescrizioni reali su pazienti: non misura dunque un effetto sulla salute delle persone, ma una tendenza sistematica nelle risposte generate. La distinzione tra correlazione e causa è netta — i dati mostrano una ricorrenza statistica nei suggerimenti, non una dimostrazione che l’uso di questi strumenti produca danno clinico. Non essendo una sperimentazione su pazienti, la categoria delle fasi di sperimentazione clinica non si applica. Le informazioni disponibili non specificano se gli autori abbiano dichiarato conflitti d’interesse nello studio originale: resta un limite da segnalare.

Il meccanismo ipotizzato dai ricercatori è legato alla quantità di materiale disponibile online: i farmaci più pubblicizzati e documentati in rete hanno più probabilità di comparire nei testi di addestramento, e quindi nelle risposte dei modelli, rispetto a molecole equivalenti ma meno note commercialmente.

La notizia qui riportata proviene da un solo articolo (Globalist), che riprende lo studio pubblicato su Nature Health senza che la redazione abbia potuto verificare direttamente l’abstract della rivista: non c’è conferma indipendente al momento della pubblicazione. Resta comunque un dato di fatto misurabile: su quasi 883mila risposte generate in scenari simulati, i due sistemi testati hanno mostrato una preferenza sistematica per i marchi più noti.