Google Backtracks afferma che la sua intelligenza artificiale non verrà utilizzata per armi o sorveglianza

Google si impegna a non utilizzare l'intelligenza artificiale per armi o sorveglianza dopo che i dipendenti hanno protestato contro il coinvolgimento dell'azienda nel Progetto Maven, un programma pilota del Pentagono che utilizza l'intelligenza artificiale per analizzare i filmati dei droni. Tuttavia, Google afferma che continuerà a collaborare con l'esercito degli Stati Uniti su sicurezza informatica, ricerca e salvataggio e altri progetti non offensivi.

Il CEO di Google Sundar Pichai ha annunciato il cambiamento in una serie di principi di intelligenza artificiale rilasciati oggi. I principi hanno lo scopo di governare l'uso dell'intelligenza artificiale da parte di Google e sono una risposta alla pressione dei dipendenti sull'azienda per creare linee guida per il suo utilizzo dell'IA.

I dipendenti dell'azienda hanno trascorso mesi a protestare contro il coinvolgimento di Google nel Progetto Maven, inviando una lettera a Pichai chiedendo che Google risolva il suo contratto con il Dipartimento della Difesa. Diversi dipendenti si sono persino dimessi per protesta , preoccupati che Google stesse aiutando lo sviluppo di sistemi d'arma autonomi.

Google si concentrerà sulla creazione di IA "socialmente vantaggiosa", ha affermato Pichai, ed eviterà progetti che causano "danni complessivi". La società accetterà contratti governativi e militari statunitensi che non violano i suoi principi, ha aggiunto.

"Il modo in cui viene sviluppata e utilizzata l'IA avrà un impatto significativo sulla società per molti anni a venire", ha scritto Pichai . “Questi non sono concetti teorici; sono standard concreti che regoleranno attivamente la nostra ricerca e sviluppo dei prodotti e avranno un impatto sulle nostre decisioni aziendali ".

I principi dell'IA rappresentano un'inversione di tendenza per Google, che inizialmente ha difeso il proprio coinvolgimento nel progetto Maven notando che il progetto si basava su software open source che non veniva utilizzato per scopi esplicitamente offensivi. Un portavoce di Google non ha risposto immediatamente a una richiesta di commento sulle nuove linee guida etiche.

I principi sono stati accolti con reazioni contrastanti tra i dipendenti di Google. Nonostante l'impegno di Google a non utilizzare l'intelligenza artificiale per costruire armi, i dipendenti si sono chiesti se i principi vieterebbero esplicitamente a Google di perseguire un contratto governativo come Maven in futuro.

Un googler ha detto a Gizmodo che i principi equivalevano a "una vuota dichiarazione di pubbliche relazioni". Diversi dipendenti hanno affermato di non ritenere che i principi siano sufficientemente spinti da ritenere Google responsabile: ad esempio, le linee guida sull'intelligenza artificiale di Google includono un cenno al rispetto dei "principi del diritto internazionale" ma non si impegnano esplicitamente a seguire il diritto internazionale sui diritti umani.

"Anche se la dichiarazione di Google rifiuta la creazione di sistemi di intelligenza artificiale per la raccolta di informazioni e la sorveglianza che violano le norme accettate a livello internazionale, siamo preoccupati per questa qualifica", ha affermato Peter Asaro, professore presso la New School e uno degli autori di una lettera aperta che invita Google annullare il suo contratto Maven. “Le norme internazionali sullo spionaggio, le operazioni informatiche, la sorveglianza di massa delle informazioni e persino la sorveglianza dei droni sono tutte contestate e dibattute nella sfera internazionale. Anche il progetto Maven, essendo legato alla sorveglianza dei droni e potenzialmente a operazioni di uccisione mirate, solleva molte questioni che avrebbero dovuto indurre Google a rifiutarlo, a seconda di come si interpreta questa qualifica ".

Un altro googler che ha parlato con Gizmodo ha affermato che i principi sono un buon inizio, mitigando alcuni dei rischi per i quali i dipendenti che hanno protestato Maven erano preoccupati. Tuttavia, i principi dell'IA non chiariscono se a Google sarebbe stato precluso il lavoro su un progetto come Maven, che prometteva vaste capacità di sorveglianza ai militari ma si fermò prima di consentire attacchi di droni algoritmici.

L'amministratore delegato di Google Cloud Diane Greene ha difeso il coinvolgimento della sua organizzazione nel Progetto Maven, suggerendo che non ha avuto un impatto letale. "Questo contratto prevedeva riprese video con droni e identificazione di oggetti a bassa risoluzione utilizzando l'intelligenza artificiale, salvare vite umane era l'intento generale", ha scritto Greene in un post sul blog .

"Non perseguiremo i contratti per il progetto Maven e, per questo motivo, ora stiamo lavorando con i nostri clienti per adempiere responsabilmente ai nostri obblighi in un modo che funzioni a lungo termine per loro ed è anche coerente con i nostri principi di intelligenza artificiale, "Ha aggiunto, confermando il rapporto di Gizmodo la scorsa settimana secondo cui Google non cercherà di rinnovare il suo contratto Maven dopo la scadenza nel 2019.

"Sulla maggior parte dei fronti, questi sono principi ben congegnati e, con alcuni avvertimenti, raccomandiamo che altre importanti aziende tecnologiche stabiliscano linee guida e obiettivi simili per il loro lavoro sull'IA", Peter Eckersley, capo scienziato informatico presso la Electronic Frontier Foundation , ha detto a Gizmodo. Per migliorare i suoi principi, Google dovrebbe impegnarsi in una revisione indipendente e trasparente per garantire che le sue regole siano applicate correttamente, ha affermato. Anche le affermazioni di Pichai sul non usare l'IA per la sorveglianza lasciavano a desiderare, ha aggiunto Eckersley.

"L'azienda si è limitata ad assistere solo i progetti di sorveglianza dell'IA che non violano le norme accettate a livello internazionale", ha detto Eckersley. "Potrebbe essere più confortante se Google cercasse di evitare del tutto di costruire sistemi di sorveglianza assistiti da IA".

Nelle e-mail interne esaminate da Gizmodo, un dipendente di Google che lavora al Progetto Maven ha affermato che la società avrebbe tentato di fornire un sistema di sorveglianza "simile a Google Earth", offrendo "una capacità squisita" per l'analisi quasi in tempo reale dei filmati dei droni.

Accademici e studenti nel campo dell'informatica e dell'intelligenza artificiale si sono uniti ai dipendenti di Google nel dare voce alle preoccupazioni sul progetto Maven, sostenendo che Google stava spianando la strada in modo non etico alla creazione di armi completamente autonome. Asaro ha elogiato i principi etici di Google per il loro impegno a costruire un'IA socialmente vantaggiosa, evitare pregiudizi e costruire in termini di privacy e responsabilità. Tuttavia, Google potrebbe migliorare aggiungendo maggiore trasparenza pubblica e collaborando con le Nazioni Unite per rifiutare le armi autonome, ha affermato.

Le proteste interne ed esterne mettono Google in una posizione difficile in quanto mira a ricentrare il proprio business attorno allo sviluppo e all'uso dell'intelligenza artificiale. Sebbene il suo contratto con il Dipartimento della Difesa per Maven fosse relativamente piccolo, Google considerava il suo lavoro su Maven un passaggio essenziale nel processo per vincere contratti militari più redditizi. Probabilmente Google ha pianificato di fare un'offerta per JEDI, un contratto di cloud computing con il Dipartimento della Difesa che potrebbe valere fino a $ 10 miliardi. Non è chiaro ora se fare offerte per il contratto JEDI equivarrebbe a una violazione dei principi appena annunciati di Google o se il Pentagono prenderebbe in considerazione la possibilità di collaborare nuovamente con Google dopo che la società si sarebbe allontanata da Maven.

"In definitiva, il modo in cui l'azienda attua questi principi è ciò che conta di più di affermazioni come questa", ha affermato Asaro. "In assenza di azioni positive, come sostenere pubblicamente un divieto internazionale di armi autonome, Google dovrà offrire maggiore trasparenza pubblica per quanto riguarda i sistemi che costruiscono. Altrimenti continueremo a fare affidamento sui dipendenti coscienziosi disposti a rischiare le loro posizioni in Google per garantire che la società "non faccia del male" ".

Suggested posts

Le pistole stampate in 3D stanno solo migliorando e più spaventose

Le pistole stampate in 3D stanno solo migliorando e più spaventose

Un paio di anni fa, quando uno studente di giurisprudenza di 25 anni in Texas disse che avrebbe stampato in 3D una pistola, nessuno lo prese sul serio. Poi l'ha fatto davvero.

Puerto Rico rimane per lo più all'oscuro e ha un disperato bisogno di aiuti

Puerto Rico rimane per lo più all'oscuro e ha un disperato bisogno di aiuti

Immagine: NOAA tramite @NOAASattelitePA A volte, lo spazio offre un vantaggio notevole per visualizzare la portata di una crisi. Le foto satellitari di Porto Rico la notte prima e dopo il ruggito dell'uragano Maria mostrano un'isola priva della sua elettricità e ci ricordano quanto tempo ci vorrà per riprendersi dal malconcio territorio degli Stati Uniti.

Related posts

Parka sintetico in seta di ragno, Walter Palmer ci riprova: cosa c'è di nuovo fuori

Parka sintetico in seta di ragno, Walter Palmer ci riprova: cosa c'è di nuovo fuori

The North Face sta collaborando con un'azienda giapponese per realizzare nuovi parka in seta di ragno sintetica. E il dentista del Minnesota preferito da tutti è di nuovo nei guai con la legge a causa di presunte pratiche di caccia illegali.

Potrei guardare gli Steamrollers schiacciare orsetti gommosi sovradimensionati tutto il giorno

Potrei guardare gli Steamrollers schiacciare orsetti gommosi sovradimensionati tutto il giorno

Di tutte le macchine giganti che troverai in un cantiere edile, il rullo compressore sembra avere il miglior potenziale per realizzare le tue distruttive fantasie d'infanzia. C'è una lista infinita di oggetti che potresti attaccare sotto il suo tamburo d'acciaio rotolante, ma cancellare un gigantesco orso gommoso in qualche modo si distingue come uno dei più soddisfacenti.

Le figure di Star Trek di Funko vanno coraggiosamente dove molte figure sono arrivate prima

Le figure di Star Trek di Funko vanno coraggiosamente dove molte figure sono arrivate prima

Star Trek: The Original Series non è estraneo alle action figure retrò: diavolo, aveva la sua linea Mego negli anni '70, e c'erano le figure dei compagni di gioco degli anni '90. Ma ora i Funko stanno trasformando la loro serie ReAction in Trek per un terzo swing al pipistrello retrò, e le prime figure sono abbastanza decenti.

Niente riassume la vita lavorativa meglio dei meme animali

Niente riassume la vita lavorativa meglio dei meme animali

Jonas Löwgren / CC BY 2.0 Se lavori da scrivania, probabilmente conosci la paura della domenica sera di una settimana lavorativa imminente.

MORE COOL STUFF

I fan di "Ballando con le stelle" adorano i giudici dello spettacolo, Tyra Banks, presentatrice dell'arrosto

I fan di "Ballando con le stelle" adorano i giudici dello spettacolo, Tyra Banks, presentatrice dell'arrosto

Gli spettatori di "Ballando con le stelle" non si sono scaldati per mostrare la conduttrice Tyra Banks. È stata arrostita nella sezione commenti di un post di apprezzamento.

La star di "No Time To Die" Daniel Craig si rammarica per questo commento "ingrato" sull'interpretazione di James Bond

La star di "No Time To Die" Daniel Craig si rammarica per questo commento "ingrato" sull'interpretazione di James Bond

Dopo aver girato 'Spectre', Daniel Craig ha detto alcune cose brutte sul fatto di aver mai interpretato di nuovo James Bond. La star di "No Time To Die" ora se ne pente.

'Nine Perfect Strangers': cosa c'era in Carmel's Eye?

'Nine Perfect Strangers': cosa c'era in Carmel's Eye?

La trama di Carmel in "Nine Perfect Strangers" ha preso una piega scioccante. Ma una cosa che gli spettatori si sono chiesti è il suo occhio.

I fan delle "Regole Vanderpump" noteranno che manca qualcosa nei nuovi piani di ristorazione di TomTom

I fan delle "Regole Vanderpump" noteranno che manca qualcosa nei nuovi piani di ristorazione di TomTom

Le star di "Vanderpump Rules" Tom Sandoval e Tom Scwartz stanno aprendo un nuovo ristorante, ma i loro nuovi piani sembrano tralasciare qualcosa.

Come cambiare il tuo nome su Facebook

Come cambiare il tuo nome su Facebook

Vuoi cambiare il tuo nome su Facebook? È facile da fare in pochi semplici passaggi.

7.000 passi sono i nuovi 10.000 passi

7.000 passi sono i nuovi 10.000 passi

Se non riesci sempre a raggiungere l'obiettivo giornaliero arbitrario di 10.000 passi, abbiamo buone notizie. Anche la tua salute può trarne beneficio se fai meno passi.

Perché non puoi pompare il tuo gas nel New Jersey?

Perché non puoi pompare il tuo gas nel New Jersey?

Il Garden State è l'unico stato negli Stati Uniti in cui è illegale pompare il proprio gas. Cosa dà?

Le tue possibilità di colpire un cervo in autunno

Le tue possibilità di colpire un cervo in autunno

E comunque, guidare al tramonto e durante la luna piena non ti fa alcun favore.

Megan Thee Stallion unisce le forze con Nike per essere l'"Hot Girl Coach" di tutti

Megan Thee Stallion unisce le forze con Nike per essere l'"Hot Girl Coach" di tutti

"Sto condividendo la mia storia di fitness per farti sapere che lo sport è qualunque cosa tu voglia che sia", ha scritto Megan Thee Stallion insieme a un video di Instagram che annunciava la sua nuova collaborazione giovedì

Janelle Monáe pubblica la nuova canzone "Say Her Name" per protestare contro la brutalità della polizia contro le donne nere

Janelle Monáe pubblica la nuova canzone "Say Her Name" per protestare contro la brutalità della polizia contro le donne nere

La cantante ha collaborato con l'African American Policy Forum e altri intrattenitori per creare un inno che onora 61 donne e ragazze nere che sono state uccise dalle forze dell'ordine

Heather Locklear celebra il 60° compleanno del fidanzato Chris Heisser con una foto di ritorno al passato: "Amore mio"

Heather Locklear celebra il 60° compleanno del fidanzato Chris Heisser con una foto di ritorno al passato: "Amore mio"

Heather Locklear celebra il 60esimo compleanno del fidanzato e fidanzato del liceo Chris Heisser condividendo una foto di ritorno al passato

Emergenza! Morto l'attore Tim Donnelly a 77

Emergenza! Morto l'attore Tim Donnelly a 77

Secondo quanto riferito, Tim Donnelly è morto venerdì nella sua casa del New Mexico per complicazioni dovute a un intervento chirurgico

Commutazione bidirezionale

Quando il cablaggio delle luci diventa un puzzle di logica

Commutazione bidirezionale

La matematica è ovunque nella nostra vita quotidiana, dai film d'animazione alle attività bancarie, dalla musica allo sport. Non sorprende che sia ancora più presente nei diversi campi della scienza.

Quali sono i componenti di un perfetto microgioco WarioWare?

Ci vogliono solo sette secondi per essere completati, ma ci sono molte cose che li rendono divertenti!

Quali sono i componenti di un perfetto microgioco WarioWare?

È uno dei grandi misteri del mondo dei videogiochi. Chiudi gli occhi, immagina WarioWare e cosa ti viene in mente (voglio dire, oltre a chiederti perché Nintendo non ci darà semplicemente un remake di Paper Mario: The Thousand Year Door, ovviamente, poiché quella risposta sarebbe troppo ovvia).

I co-fondatori della prima B Corp europea accelerano "l'evoluzione naturale del business"

I leader Nativa usano esperienza e connessioni per espandere la comunità B Corp italiana

I co-fondatori della prima B Corp europea accelerano "l'evoluzione naturale del business"

Dalle sue origini come idea discussa davanti a bicchieri di buon vino fino alla sua adozione come legge italiana, il movimento delle società benefit - o società benefit - è cresciuto fino a includere più di 1.000 aziende, un salto impressionante rispetto a meno di 500 solo un anno fa. Paolo Di Cesare ed Eric Ezechieli, le due persone coinvolte in quella conversazione iniziale basata sul vino, sono entusiasti di vedere più persone che abbracciano un cambiamento nella mentalità aziendale e più leader aziendali che si rendono conto che non possono continuare a operare come "solito" ma devono considerare il loro impatto ambientale e sociale dell'azienda.

Musica ladina e identità culturale sefardita

Musica ladina e identità culturale sefardita

Introduzione "Adío ..." La parola inquietante cresce dal silenzio, tremando di vibrato mentre si allontana. "Adío, kerida" ritorna con maggiore convinzione, la sua voce si spezza con ornamenti di flamenco.

Language