Radiografie deepfake sufficientemente realistiche da ingannare i radiologi: “una vulnerabilità ad alto rischio di contenzioso fraudolento se, ad esempio, una frattura simulata risulta indistinguibile da una reale”.
Le immagini radiografiche false, create dall’intelligenza artificiale per assomigliare a quelle reali di pazienti umani, possono ingannare non solo radiologi esperti, ma anche gli stessi strumenti di IA, secondo uno studio che illustra il potenziale di manipolazione da parte di malintenzionati. Diciassette radiologi di 12 ospedali in sei paesi hanno esaminato 264 immagini radiografiche, metà delle quali generate dagli strumenti di IA ChatGPT o RoentGen. Quando i radiologi non erano a conoscenza del vero scopo dello studio, solo il 41% ha identificato spontaneamente le immagini generate dall’IA, secondo un rapporto pubblicato su Radiology.
Dopo essere stati informati che il set di dati conteneva immagini sintetiche, l’accuratezza media dei radiologi nel distinguere le radiografie reali da quelle sintetiche è salita al 75%.
“Esiste anche un significativo rischio per la sicurezza informatica se gli hacker riuscissero ad accedere alla rete di un ospedale e a inserire immagini sintetiche per manipolare le diagnosi dei pazienti o causare un caos clinico diffuso, minando l’affidabilità fondamentale della cartella clinica digitale”, ha aggiunto Tordjman.
L’accuratezza di quattro importanti modelli linguistici – GPT-4o (OpenAI), GPT-5 (OpenAI), Gemini 2.5 Pro (Google) e Llama 4 Maverick (Meta Platforms) – nel rilevare le immagini false variava dal 57% all’85%. Persino ChatGPT-4o, il modello che ha creato i deepfake, non è riuscito a rilevarli tutti, pur avendone identificati più degli altri modelli di basso livello (LLM), hanno riferito i ricercatori.
Secondo i ricercatori, sono necessarie potenziali misure di sicurezza digitali per distinguere le immagini reali da quelle false e prevenire manomissioni come l’utilizzo di filigrane invisibili che ne rivelino la proprietà.
“Probabilmente stiamo vedendo solo la punta dell’iceberg”, ha affermato Tordjman in merito alla possibilità futura di falsificazioni di TAC e risonanze magnetiche. “Creare fin da ora set di dati didattici e strumenti di rilevamento è fondamentale”.
Mickael Tordjman et al
The Rise of Deepfake Medical Imaging: Radiologists’ Diagnostic Accuracy in Detecting ChatGPT-generated Radiographs
Radiology 2026 Volume 318, Number 3
https://pubs.rsna.org/doi/10.1148/radiol.252094
