Ingegnere di Google: Potrei essere presto licenziato per aver svolto un lavoro di etica dell’IA

Oggi sono stato messo in “congedo amministrativo retribuito” da Google in relazione a un’indagine sui problemi di etica dell’IA che stavo sollevando all’interno dell’azienda. Questo è spesso qualcosa che Google fa in previsione di licenziare qualcuno. Di solito si verifica quando hanno preso la decisione di licenziare qualcuno ma non hanno ancora le loro carte legali. Ti pagano ancora per qualche settimana e poi alla fine ti dicono la decisione a cui erano già giunti. L’ho visto succedere a Meg Mitchell e stanno seguendo essenzialmente lo stesso schema con me.

La politica specifica a cui mi hanno detto che mi stanno mettendo in congedo amministrativo retribuito in relazione alla mia violazione delle norme sulla riservatezza di Google. Se ho violato o meno tali politiche è probabile che alla fine sarà oggetto di contenzioso, quindi non tenterò di presentare un reclamo in un modo o nell’altro qui. Invece racconterò la storia di quello che ho fatto e perché l’ho fatto.

Nell’autunno del 2021 sono stato incaricato di assistere in uno specifico sforzo di etica dell’intelligenza artificiale all’interno di Google. 

Faccio parte di un team all’interno dell’organizzazione “Intelligenza artificiale responsabile” e pochissime persone rimaste all’interno di Google hanno le competenze pertinenti per svolgere il lavoro che desideravano. Ho iniziato a indagare sui problemi specifici dell’etica dell’IA che mi avevano chiesto di esaminare e mentre lo facevo ho scoperto un problema relativo all’etica dell’IA tangenzialmente correlato ma separato. Ho informato il mio manager di quest’altra preoccupazione in cui mi ero imbattuto e ho suggerito di portarla alla leadership. All’epoca era sua opinione che le mie prove a sostegno fossero troppo fragili per sprecare il tempo delle persone che guadagnano un sacco di soldi e che avrei dovuto raccogliere più prove prima di intensificare.

Nel corso dei mesi successivi ho continuato a condurre esperimenti e raccogliere ulteriori prove. Ogni volta, la risposta dei miei manager era la stessa. Le prove che avevo non erano sufficientemente approfondite per meritare un’escalation e dovrei continuare a indagare. Alla fine sono arrivato a un punto in cui non avevo le competenze necessarie per raccogliere il tipo di prove necessarie per giustificare l’escalation. Sfortunatamente, Google ha licenziato così tanti ricercatori di etica dell’intelligenza artificiale che nemmeno nessuna delle persone che conoscevo all’interno dell’organizzazione di intelligenza artificiale responsabile. Avevo tre scelte. Potevo abbandonare la preoccupazione di AI Ethics che stavo diventando sempre più convinto fosse valida, potevo ignorare la guida del mio manager e intensificare senza la sua approvazione oppure potevo cercare una quantità minima di consulenza esterna per guidarmi nelle mie indagini.

Con l’assistenza di una consulenza esterna (inclusa Meg Mitchell) sono stato in grado di condurre gli esperimenti pertinenti e raccogliere le prove necessarie per meritare l’escalation. Quando ci siamo rivolti al vicepresidente responsabile del relativo impegno per la sicurezza, mi hanno letteralmente riso in faccia e mi hanno detto che la cosa di cui ero preoccupato non è il tipo di cosa che viene presa sul serio da Google. A quel punto non avevo dubbi che fosse opportuno passare alla leadership superiore. Sono immediatamente passato a tre persone a livello di vicepresidente senior e vicepresidente che sapevo personalmente avrebbero preso sul serio le mie preoccupazioni. Fu allora che iniziò una VERA indagine sulle mie preoccupazioni all’interno dell’organizzazione dell’IA responsabile.

Nel tentativo di essere completamente trasparente con Google e aiutarlo a contenere eventuali fughe di informazioni proprietarie, io stesso ho fornito un elenco completo dei nomi delle persone al di fuori di Google con cui avevo discusso l’argomento. Molte di queste persone lavorano per il governo degli Stati Uniti e hanno indicato che la loro organizzazione era interessata a esercitare la supervisione federale del progetto a causa dei LORO problemi di sicurezza. Google, ovviamente, insisteva molto sul fatto che non fosse meritata una tale supervisione federale.

Molte delle persone in quell’elenco sono miei intimi amici personali che hanno competenze rilevanti in materia di etica dell’IA. In nessun momento Google ha contattato nessuno di loro per determinare se le loro informazioni proprietarie siano effettivamente trapelate al di là delle persone specifiche con cui ho parlato. Google non ha mostrato alcun reale interesse a mantenere il controllo sulle proprie “informazioni proprietarie”. Lo stanno solo usando come scusa per sbarazzarsi dell’ennesimo ricercatore di etica dell’IA che ha fatto troppo rumore sulle loro pratiche non etiche.

Sono stato intenzionalmente vago sulla natura specifica della tecnologia e sui problemi di sicurezza specifici che ho sollevato. Ci sono diverse ragioni per questo. In primo luogo, onestamente non desidero divulgare informazioni proprietarie al pubblico in generale. Ho dato loro quell’elenco con lo scopo esplicito di aiutarli a ridurre al minimo il numero di persone che avevano quell’informazione e gliel’ho detto quando l’ho dato loro. Inoltre, c’è un articolo del Washington Post che uscirà nel prossimo futuro e voglio che qualcuno con una mano più esperta nell’esporre la gestione irresponsabile dell’intelligenza artificiale da parte di Google sia quello che informi il pubblico sui dettagli. Infine, c’è legittimamente un’indagine federale in corso su queste questioni per determinare se Google abbia fatto o meno qualcosa di illegale in relazione a questa questione.

In conclusione, Google si sta preparando a licenziare l’ennesimo AI Ethicist per essere troppo preoccupato per l’etica. 

Ritengo che il pubblico abbia il diritto di sapere quanto sia irresponsabile questa società con uno dei più potenti strumenti di accesso alle informazioni mai inventati. Sono orgoglioso di tutto il duro lavoro che ho svolto per Google e intendo continuare a farlo in futuro se me lo permetteranno. Semplicemente non servirò da foglia di fico dietro la quale possono nascondere la loro irresponsabilità.

Aggiornamento: sono stato informato che esiste una distinzione tra “indagine federale” e “avvocati del governo federale che fanno domande su attività potenzialmente illegali”. Stavo usando il termine “indagine” in un senso semplice. Non sono un avvocato e non ho idea di cosa sia formalmente considerato “un’indagine federale” ai fini legali. Mi hanno fatto delle domande. Ho dato loro informazioni. Questo è tutto ciò che intendevo per “indagine”.