Preoccupazione tra i ricercatori
Un’interessante ricerca in cui figura come co-autore Giuseppe Giannaccare, chirurgo oculista dell’Università di Cagliari, ha suscitato preoccupazione tra gli scienziati circa l’utilizzo di ChatGTP.
Lo studio ha dimostrato che, debitamente istruita con dati appropriati, il chatbot di intelligenza artificiale è in grado di produrre soluzioni convincenti, ma che di fatto non sono autentiche.
Per arrivare a questa conclusione, pubblicata recentemente anche su JAMA Ophthalmology i ricercatori hanno utilizzato GPT-4, l’ultima versione disponibile, in abbinamento con ADA (Advaned Data Analysis).
Messa alla prova sul confronto di due procedure chirurgiche, l’AI ha fallito indicando erroneamente che una delle due procedure sarebbe migliore.
Intervistato da Nature, Giuseppe Giannaccare ha dichiarato: “Il nostro obiettivo era evidenziare che, in pochi minuti, è possibile creare un set di dati che non è supportato da dati reali originali, ed è anche opposto o nella direzione opposta rispetto alle prove disponibili”.
La microbiologa Elisabeth Bik, consulente per l’integrità a San Francisco, circa l’utilizzo di ChatGTP, ha aggiunto: “Una cosa era che l’intelligenza artificiale generativa potesse essere utilizzata per generare testi che non sarebbero stati rilevabili utilizzando software antiplagio, ma la capacità di creare set di dati falsi ma realistici rappresenta un livello di preoccupazione successivo. Sarà molto facile per qualsiasi ricercatore o gruppo di ricercatori creare misurazioni false su pazienti inesistenti, risposte false a questionari o generare un ampio set di dati su esperimenti sugli animali”
La notizia è stata oggetto di un interessante articolo su Nature.com e il dibattito è aperto.
Foto da Wikipedia
