Empleados de Google exigen el fin de la colaboración de la compañía con el Departamento de Defensa

• Los empleados dirigieron una carta al CEO Sundar Pichai, diciendo que Google no debería "dedicarse a la guerra", instando a la empresa a detener su trabajo en el análisis de IA de las imágenes de los drones.
• Google afirma que la tecnología, como parte del Proyecto Maven, "salvará vidas y evitará que las personas realicen trabajos tediosos".

Google está enfrentando fuertes críticas de sus propios empleados después de revelarse que la compañía tecnológica está colaborando con el Departamento de Defensa en el Proyecto Maven, un esfuerzo para utilizar software de reconocimiento de imágenes de inteligencia artificial (IA) para clasificar imágenes de drones y de seguridad.

La carta de los empleados

"No podemos externalizar la responsabilidad moral de nuestras tecnologías a terceros", escribieron en una carta firmada por 3.100 empleados. "Construir esta tecnología para ayudar al Gobierno de EE.UU. en la vigilancia militar -y posiblemente en resultados letales- no es aceptable".

La indignación ha ido en aumento dentro de Google desde que se anunció el acuerdo con el Pentágono el año pasado. El trato involucra el software TensorFlow de Google, que, según la carta, se está adaptando en un "motor de vigilancia de IA personalizado que utiliza datos de 'Imágenes de Movimiento de Área Amplia' capturados por drones del Gobierno de EE.UU. para detectar vehículos y otros objetos, rastrear sus movimientos y proporcionar resultados al Departamento de Defensa".

La respuesta de Google

En un comunicado, Google dijo que el proyecto es para "fines no ofensivos" y que solo tenía la intención de "salvar vidas y evitar que las personas realicen trabajos tediosos".

"Cualquier uso militar del aprendizaje automático naturalmente plantea preocupaciones válidas", dijo Google en la declaración. "Estamos participando activamente en una discusión integral en toda la empresa sobre este importante tema y también con expertos externos, mientras seguimos desarrollando nuestras políticas en torno al desarrollo y uso de nuestras tecnologías de aprendizaje automático".

No está listo para situaciones de combate

Tanto Google como el Pentágono han enfatizado que la tecnología no está lista para ser utilizada en situaciones de combate, el Coronel de la Marina Drew Cukor dijo a la audiencia en la conferencia Defense One Tech Summit 2017 que "la IA no seleccionará un objetivo [en combate]... en el futuro cercano. Lo que hará la IA es complementar al operador humano".

Cómo empezar con el aprendizaje automático en Raspberry Pi: guía completa y opciones disponibles

Pero el Coronel Cukor también dijo que cree que el Departamento de Defensa "está en una carrera armamentística de IA" y reconoció que "las cinco grandes compañías de Internet están persiguiendo esto intensamente".

Cukor agregó más tarde: "Hay que juntar elementos clave... y la única forma de hacerlo es con socios comerciales junto a nosotros".

El uso de la IA en el Gobierno de EE.UU.

Según el Wall Street Journal, el Departamento de Defensa gastó $7.4 mil millones en tecnología que involucra IA el año pasado y Google, Microsoft y Amazon están abiertamente compitiendo por una variedad de contratos de defensa que involucran computación en la nube y otro software.

Sin embargo, la carta de los empleados argumenta que Google está dañando su marca al trabajar en el Proyecto Maven y contribuir a "los crecientes temores de una IA sesgada y armamentizada".

"El argumento de que otras empresas, como Microsoft y Amazon, también están participando, no hace esto menos arriesgado para Google", dice la carta. "La historia única de Google, su lema No Seas Malvado y su alcance directo en la vida de miles de millones de usuarios, lo hacen diferente".

El origen del Proyecto Maven

El Proyecto Maven comenzó en abril del año pasado, con el objetivo declarado de utilizar máquinas para aprovechar las vastas cantidades de datos recopilados por el Departamento de Defensa a través de imágenes de drones y operaciones de vigilancia. La IA ya es utilizada por otras partes del ejército y desde 2014 se utiliza ampliamente en las fuerzas policiales.

Cómo IBM Watson está transformando 10 industrias clave

El Departamento de Justicia ahora promueve el uso de software de IA para realizar "evaluaciones de riesgo" sobre la probabilidad de que una persona juzgada cometa un crimen en el futuro. A menudo, estos puntajes se entregan a los jueces y afectan las sentencias en todo el país, teniendo efectos desastrosos. Según ProPublica, los acusados negros tenían un 77% más de probabilidades de ser considerados "en mayor riesgo de cometer un delito violento en el futuro" y el 45% tenía "mayor probabilidad de que se predijera que cometería un delito en el futuro de cualquier tipo".

Google ha intentado aplacar las preocupaciones sobre entregar software de reconocimiento de IA vital al Departamento de Defensa, el ex presidente ejecutivo de Alphabet, Eric Schmidt, admitió el año pasado en una entrevista que "hay una preocupación general en la comunidad tecnológica de que el complejo militar-industrial use sus cosas para matar personas incorrectamente, por así decirlo".

Pero Schmidt continuó diciendo en esa entrevista que era vital que él y otros líderes de la industria tecnológica se mantuvieran en comunicación con el ejército "para mantener segura al país".

A pesar de esto, muchos de los empleados de Google no estuvieron de acuerdo, comenzando la carta con: "Creemos que Google no debería dedicarse a la guerra".

Cómo la inteligencia artificial está ayudando a resolver los problemas ambientales

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial, allí encontraras muchos artículos similares a Empleados de Google exigen el fin de la colaboración de la compañía con el Departamento de Defensa , tenemos lo ultimo en tecnología 2023.