Una recente ricerca condotta dai ricercatori del Computer Science and Artificial Intelligence Laboratory (CSAIL) del MIT mette in luce come, all’aumentare della mole di dati su cui viene addestrato un modello generativo, diventi progressivamente più complesso ricondurre un’immagine creata dall’intelligenza artificiale alla sua fonte originaria. Questo fenomeno è stato definito dagli studiosi come decadimento dell’attribuzione.
Come spiegato da Zheng Dai, ex ricercatore del MIT CSAIL e autore principale dello studio pubblicato su Nature Communications, se rimuovendo un elemento di dati l’output del modello non subisce variazioni, significa che quel particolare dato non ha influenzato il risultato finale. Di conseguenza, attribuire l’output a quel singolo frammento perde di significato. Ripetendo il procedimento per ogni singola informazione di partenza senza riscontrare cambiamenti nell’output, viene meno la possibilità di ricondurre il risultato a una qualsiasi delle singole fonti.
La metodologia della ricerca
Per giungere a queste conclusioni, il team di ricerca ha addestrato 24 insiemi di modelli, noti come ensemble, su dataset composti da un numero variabile compreso tra 256 e oltre 160.000 immagini, estratte da collezioni pubbliche. Il metodo ha richiesto di riaddestrare il modello da zero ogni volta che veniva eliminata un’immagine specifica, permettendo così di osservare risultati concreti e superare le stime approssimative utilizzate nelle ricerche precedenti per valutare l’influenza delle singole immagini sorgente.
L’architettura sviluppata, definita ensemble di diffusione, si compone di diversi modelli addestrati ciascuno su un differente sottoinsieme di dati. David Gifford, professore del MIT e investigatore principale del CSAIL, ha sottolineato come i metodi precedenti si basassero su approssimazioni e non potessero dimostrare con assoluta certezza che l’eliminazione di singoli elementi lasciasse inalterato l’output. Questo studio introduce invece un metodo esatto per eseguire una cancellazione su larga scala in modo efficiente.
Implicazioni legali e questioni sul diritto d’autore
Mettendo a confronto l’ensemble sviluppato con 24 modelli di diffusione tradizionali addestrati sugli stessi dati, gli autori hanno riscontrato che le immagini ottenute presentavano una qualità visiva analoga secondo i parametri standard.
Secondo il professor Gifford, i risultati emersi offrono importanti spunti di riflessione sulle questioni giuridiche legate al diritto d’autore e alla natura derivativa delle opere prodotte dai modelli. I sistemi di intelligenza artificiale mostrano una propria creatività, elaborando contenuti originali anziché limitarsi a replicare i materiali ricevuti. Se gli output generati risultano indipendenti da qualsiasi singolo dato di addestramento, si aprono nuovi interrogativi sul concetto di fair use, sulla tutelabilità delle opere tramite copyright e sulle modalità di compensazione degli autori quando ciò che viene generato non risulta riconducibile ad alcun elemento presente in rete.
Fonte: ARTnews
Crediti immagine: Fonte: ARTnews
