Matematici chiedono a OpenAI di provare di non aver usato il loro lavoro
Un secondo matematico ha accusato OpenAI di comportamento 'disonesto' e mancanza di trasparenza sull'origine dei dati di addestramento usati per i recenti risultati in matematica.
👁 114 letture
Il matematico Andreas Thom ha pubblicamente accusato OpenAI di comportamento disonesto
riguardo all’origine dei dati usati per addestrare i suoi modelli, diventando il secondo ricercatore in pochi giorni a sollevare questa contestazione dopo il caso del professor Tristan Buckmaster della New York University.
- Andreas Thom accusa OpenAI di 'disonestà' dopo che la risposta dei ricercatori dell'azienda non ha chiarito se le sue conversazioni con ChatGPT siano entrate nei dati di addestramento
- OpenAI aveva già corretto in silenzio il suo comunicato sul risultato dei gruppi non-sofici, aggiungendo i crediti a Thom e al matematico Gábor Kun
- Thom sostiene che solo OpenAI possiede i dati necessari per escludere un uso non autorizzato del suo lavoro, e chiede la divulgazione completa dei dataset
Thom ha pubblicato una serie di post su Mastodon in cui spiega di aver scritto agli ricercatori di OpenAI Sébastien Bubeck e Mark Sellke - quest’ultimo anche statistico ad Harvard - per chiedere se le sue conversazioni con ChatGPT fossero parte dei dati di addestramento o accessibili al processo di ragionamento
. La risposta ricevuta, secondo Thom, si limitava a escludere che le chat potessero essere consultate direttamente, senza affrontare il punto cruciale: se quelle interazioni fossero finite nei grandi pool di dati usati per migliorare i modelli. Nessuna qualifica, spiegazione o prova è stata fornita
, ha scritto. Considero questo almeno una disonestà.
Il caso riguarda uno dei dieci risultati matematici annunciati da OpenAI il mese scorso, relativo ai cosiddetti gruppi non-sofici - strutture matematiche infinite che non possono essere approssimate da strutture finite. OpenAI aveva riconosciuto che il proprio risultato si fondava in larga misura sul lavoro precedente di Thom e del matematico Gábor Kun, ma il comunicato iniziale non li citava adeguatamente: l’azienda ha corretto il testo in silenzio solo dopo le critiche ricevute dalla comunità matematica.
Thom sottolinea che i ricercatori non hanno gli strumenti per analizzare il processo di addestramento di OpenAI. Solo OpenAI possiede i dati rilevanti
, ha scritto, aggiungendo che se l’azienda vuole negare qualsiasi uso del suo lavoro, la responsabilità di dimostrarlo ricade su di lei, attraverso la divulgazione completa dei dataset e la chiarificazione delle condizioni d’uso dei dati degli utenti.
Cosa significa per chi usa questi strumenti ogni giorno: chiunque utilizzi ChatGPT o altri prodotti OpenAI per ragionare su problemi tecnici o di ricerca - anche in conversazioni informali - non può sapere con certezza se quelle interazioni contribuiscano all’addestramento futuro dei modelli. In assenza di trasparenza sui dataset, è prudente non condividere con i chatbot lavori non pubblicati, ricerche riservate o idee originali su cui si mantiene un interesse di proprietà intellettuale.
Google · Le tue fontiPiù in alto su Google con un solo clicAggiungi alle fonti preferite →
More on this from NITIDO
notizie·Google lancia AlphaGenome Atlas: 9 miliardi di varianti genomiche analizzate con l’AIGoogle ha annunciato martedì AlphaGenome Atlas, una risorsa che tenta di predire le conseguenze di ogni possibile variante a singola base nell'intero genoma umano.