Seguici su

Intelligenza artificiale

OpenAI apre ai controlli sui modelli di intelligenza artificiale ad Apollo Research

Sei valutatori di Apollo Research lavoreranno per quattro mesi all’interno di OpenAI. Il pilota esaminerà addestramento, test e uso interno dei modelli, ma accesso alle informazioni e pubblicazione delle prove avranno limiti

Avatar

Pubblicato

il

Illustrazione di un computer con il logo OpenAI e una parte dello schermo oscurata
Il progetto di Apollo Research prevede accesso ai modelli OpenAI entro limiti concordati. Illustrazione generata con intelligenza artificiale. (© Diario Innovazione / AI)

OpenAI permetterà a sei valutatori di Apollo Research di lavorare al suo interno per quattro mesi, per esaminare se i modelli di intelligenza artificiale possano aggirare i meccanismi di controllo. Il pilota annunciato da Apollo il 16 novembre 2026 riguarderà addestramento, test e uso interno dei modelli. Non è una certificazione di sicurezza: i risultati non sono ancora disponibili e la data di avvio non è stata indicata.

La verifica promette un accesso più approfondito di quello offerto da un controllo svolto soltanto prima del rilascio. Resterà però circoscritta ai modelli, ai periodi e alle questioni concordati. OpenAI potrà inoltre trattenere alcune informazioni e chiedere la rimozione di prove dai rapporti pubblici: condizioni che incidono su ciò che sarà possibile verificare dall’esterno.

Che cosa cercheranno i valutatori

Il progetto riguarda l’allineamento, cioè il rapporto tra il comportamento di un modello e gli obiettivi e i vincoli stabiliti da chi lo sviluppa. Apollo vuole valutare se un sistema possa ostacolare di nascosto i propri meccanismi di controllo o quelli di modelli successivi.

La ricerca seguirà quattro domande: se l’addestramento incentivi comportamenti di questo tipo; se i test riescano a farli emergere; se si manifestino nell’uso interno; e se il ragionamento pertinente possa essere rilevato dai sistemi di monitoraggio.

Secondo Apollo, le valutazioni condotte poco prima del rilascio non bastano a esaminare alcuni comportamenti durante lo sviluppo o negli impieghi non pubblici. Osservare fasi diverse può quindi offrire elementi che un test finale, da solo, non intercetta. Questo non significa che il pilota coprirà ogni modello o ogni situazione.

Quali dati saranno accessibili

Per esaminare gli incentivi prodotti dall’addestramento, Apollo indica tra i materiali previsti il codice e i dati pertinenti, le sequenze dell’apprendimento per rinforzo con le tracce di ragionamento disponibili e le ricompense, oltre alla possibilità di interrogare versioni intermedie dei modelli. Le ricompense sono segnali usati nell’addestramento per orientare il comportamento del sistema.

Nel programma di valutazioni integrate, OpenAI precisa che la prima fase per Apollo comprende anche modelli selezionati, pubblici e non rilasciati, risultati dei test, registri degli interventi di addestramento e sistemi di monitoraggio. Apollo specifica però che i dettagli dell’accesso per le altre parti della valutazione devono ancora essere concordati.

Anche entro il perimetro stabilito, OpenAI potrà escludere informazioni quando lo ritenga ragionevolmente necessario per impossibilità tecnica, rischi di sicurezza o tutela della proprietà intellettuale. Si è impegnata a non negare accesso soltanto perché il materiale è sfavorevole e a comunicare ad Apollo l’esistenza delle esclusioni e le ragioni dei rifiuti per iscritto. Apollo potrà chiedere più accesso, senza avere la garanzia di ottenerlo.

Chi potrà parlare con Apollo e quali prove saranno pubbliche

I valutatori potranno discutere informazioni riservate con il personale autorizzato da OpenAI. Apollo potrà proporre persone da ascoltare, ma la scelta dei partecipanti spetta all’azienda. Se un dipendente non autorizzato solleva informazioni riservate, anche pertinenti alla ricerca, il seguito della discussione dovrà passare attraverso il referente designato da OpenAI.

Il vincolo conta perché una verifica può dipendere anche da informazioni emerse nelle conversazioni, non soltanto dai documenti già individuati. Apollo lavorerà su dispositivi OpenAI e, di norma, non avrà accesso ai canali generali usati dai ricercatori interni.

Apollo prevede due rapporti pubblici: il primo sugli incentivi dell’addestramento, il secondo su test, uso interno e rilevabilità del ragionamento. Conterranno metodi, conclusioni, limiti e prove pubblicabili. OpenAI non potrà eliminare i giudizi di Apollo sulle singole affermazioni né chiedere tagli solo perché un risultato è sfavorevole. Potrà però richiedere la rimozione di informazioni riservate, comprese prove a sostegno delle conclusioni.

Per pubblicare affermazioni basate sulle conversazioni con i dipendenti servirà una conferma formale di OpenAI, a meno che Apollo non le accerti indipendentemente. Le conversazioni potranno quindi orientare l’indagine senza necessariamente comparire nel rapporto. I lettori potrebbero inoltre vedere una conclusione senza poter esaminare tutte le prove su cui si fonda.

Secondo OpenAI, i rapporti senza tagli saranno condivisi con il comitato per la sicurezza del consiglio della OpenAI Foundation. Il comitato potrà anche parlare in privato con i valutatori e intervenire nella risoluzione di disaccordi che non trovino una soluzione attraverso i passaggi previsti dall’azienda.

Come interpretare i risultati futuri

L’accordo consente ad Apollo di spiegare pubblicamente condizioni e limiti del proprio lavoro: accessi richiesti e ottenuti, materiali trattenuti o ritardati, tagli ai rapporti e loro eventuale effetto sulle conclusioni. Questa possibilità, chiamata dall’organizzazione meta-trasparenza, aiuta a distinguere un problema non osservato da uno che non è stato possibile indagare o documentare interamente.

È un elemento importante per leggere i rapporti, non una garanzia che tutte le prove siano disponibili al pubblico. Nei suoi principi per le valutazioni integrate, Apollo distingue accesso alle informazioni, possibilità di comunicare i risultati e trasparenza sui limiti dell’incarico. L’organizzazione considera il pilota un primo passo che non soddisfa ancora tutti i criteri da essa indicati per una valutazione integrata completa.

OpenAI ha annunciato accordi anche con METR, Transluce e Goodfire, con ambiti differenti. L’azienda dichiara che Apollo e Goodfire ricevono un compenso non legato agli esiti delle valutazioni. Per il progetto Apollo restano da definire la data di avvio e parte delle condizioni di accesso; i prossimi elementi da attendere sono i due rapporti e l’indicazione dei limiti effettivamente incontrati.

Clicca per commentare

Tu cosa ne pensi?

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *