Mises Wire

Home | Wire | Los peligros de la inteligencia artificial financiada por el Estado

Los peligros de la inteligencia artificial financiada por el Estado

  • ai.JPG
0 Views

03/30/2019

La inteligencia artificial se considera una tecnología estratégica y, por lo tanto, ha generado planes nacionales de desarrollo de países de todo el mundo para promover su progreso. Durante bastante tiempo, los Estados Unidos han estado notoriamente en la línea lateral. La comunidad de investigadores estadounidenses de la IA ha lamentado, en general, la falta de liderazgo federal en este espacio, y muchos piden un plan de «fuga de la luna» al estilo de Kennedy que saldrá de Washington para cimentar el liderazgo estadounidense en el espacio de la IA. El mes pasado, la Casa Blanca de Trump publicó la Orden Ejecutiva sobre el mantenimiento del liderazgo estadounidense sobre inteligencia artificial para brindar orientación y apoyo para el avance tecnológico en este espacio.

La respuesta a la orden ejecutiva de la comunidad de investigación ha sido silenciada en el mejor de los casos. Lejos de recibir el lunar solicitado con la financiación necesaria y las agencias de apoyo, esta orden ejecutiva en su mayoría establece principios para el desarrollo de AI que deben seguir los departamentos federales. Dirige a las agencias hacia la priorización de la IA mediante el uso de fondos existentes y para buscar esfuerzos de colaboración. Además, dirige al Comité Selecto de Inteligencia Artificial del Consejo Nacional de Ciencia y Tecnología (entre otras agencias) para que elabore planes y coordine los esfuerzos entre las agencias federales para desarrollar subvenciones, propuestas de proyectos e informes sobre áreas de desarrollo y colaboración dentro del próximos 180 dias Más allá de eso, hay muy pocas acciones concretas establecidas en la OE, por lo que ha sido tan criticado por los miembros de la comunidad de investigación.

En otras palabras, la comunidad de investigación aparentemente siente que la OE no va lo suficientemente lejos.

En verdad, sin embargo, incluso esta orden ejecutiva limitada va demasiado lejos.

Sí, la IA ha sido aclamada como una familia transformadora de tecnologías que brindará un nivel de vida radicalmente mejorado para las personas de todo el mundo. Por otro lado, existen numerosos usos potenciales de esta tecnología para infligir un daño increíble a las personas , y el riesgo de abuso aumenta a medida que la investigación de AI es financiada o dirigida por agencias gubernamentales. La mala inversión (o «malciencia», en este caso) es fomentada por el financiamiento político de la I+D, y el Pentágono ha declarado explícitamente que intentan utilizar esta tecnología en aplicaciones militares. En lugar de no ir lo suficientemente lejos, la Orden Ejecutiva de Trump ya ha ido demasiado lejos al llevar explícitamente esta tecnología al ámbito político porque el Estado es simplemente demasiado peligroso para otorgar un papel de liderazgo en el desarrollo de la IA.

El espectro de la AI china

El trasfondo obvio de la nueva orden ejecutiva de Trump es la gran cantidad de artículos e informes que salen de China en relación con las inversiones de alto perfil del Partido Comunista Chino (PCCh) y los planes plurianuales para el dominio de la IA. El más notable es el Plan de Desarrollo de Inteligencia Artificial de Nueva Generación (AIDP, por sus siglas en inglés) de China, lanzado en julio de 2017, que hace de la tecnología una prioridad clave para la financiación gubernamental.

Citando los desafíos de una población que envejece, las preocupaciones ambientales y el crecimiento económico, el informe considera a la IA como una tecnología que «brinda nuevas oportunidades para la construcción social». El informe luego establece hitos en los próximos años: para 2020 estarán a la par con los líderes mundiales en el desarrollo de AI; para 2025 planea que las compañías chinas logren sus propios avances innovadores en el desarrollo algorítmico; para 2030 planean ser el líder indiscutible en tecnología de inteligencia artificial. Cada hito contiene objetivos para la industria principal y las empresas de apoyo que comprenden el ecosistema industrial más amplio de la IA.

Además de los objetivos industriales propuestos, el plan chino establece una serie de áreas de investigación como inteligencia de enjambres, realidad virtual y aumentada, seguridad, procesamiento de lenguaje natural, hardware de IA e infraestructura entre otros para centrar sus esfuerzos.

El plan chino es considerado como el patrón oro en los planes nacionales de inteligencia artificial; es exhaustivo, establece objetivos específicos y analiza formas de acelerar la adopción, incluso obligando a las empresas y ciudades a adoptar la tecnología. Además, ya se han asignado recursos para alcanzar estos objetivos, como el fondo de $ 15,7 asignado por la ciudad de Tianjin para desarrollar IA y los nuevos 500 millones de empresas chinas sobre IA que tienen nuevas empresas con sede en EE. UU. para recibir fondos sobre VC. El plan sobre IA de China y el enfoque de arriba hacia abajo que persigue el PCCh es una de las principales razones por las que el reciente libro de Kai-Fu Lu, AI Superpowers: China, Silicon Valley and the New World Order, hace que China tenga éxito en el escenario mundial.

Invierno de la IA y fondos del Estado

Sin embargo, los pedidos de más fondos gubernamentales por parte de investigadores de AI parecen carecer de una perspectiva histórica. La financiación federal de proyectos de inteligencia artificial no es nada nuevo. La Agencia de Proyectos de Investigación Avanzada (ahora conocida como DARPA) otorgó $ 2,2 millones en subvenciones (equivalentes a $ 18,2 millones en 2019) al MIT, Carnegie Mellon University y Stanford University en 1963.1 Estas instituciones se convirtieron en las pioneras de la investigación en IA y tuvieron grandes éxito con nuevos modelos, como un precursor temprano de las redes neuronales artificiales de hoy llamado el perceptrón. Se obtuvo un optimismo adicional por el éxito en la traducción del ruso al inglés a través de la traducción automática. Sin embargo, el optimismo inicial de la IA se agotó rápidamente cuando, en 1966, se informó que la traducción automática era incapaz de captar suficientemente los matices del ruso.2 En segundo lugar, el libro de Marvin Minksy, Perceptrons, demostró que estos modelos simples y tempranos eran incapaces de aprender mucho. Esto mató la investigación en redes neuronales para la próxima década. La gran mayoría de los fondos estaba relacionada con el gobierno, y una vez que se retiró, hundió el campo en el primer invierno de la IA.

Un resurgimiento se produjo más tarde en la década de los ochenta cuando las empresas en los EE. UU., Gran Bretaña y Japón comenzaron a invertir en sistemas expertos, programas basados ​​en normas que son precursores del movimiento actual de automatización de procesos robóticos. Esto llevó a un aumento en los laboratorios de IA en muchas compañías que pudieron automatizar muchas decisiones simples y cosechar los beneficios asociados con una mayor eficiencia. Aunque el mercado privado de inteligencia artificial creció a aproximadamente mil millones de dólares a finales de la década, se demostró que estos sistemas eran frágiles e incapaces de extenderse a dominios más desafiantes.

En 1982, el Ministerio de Comercio e Industria Internacional de Japón financió y estableció los sistemas informáticos de quinta generación, basados ​​en un plan de 10 años para desarrollar nuevos sistemas informáticos y establecer a Japón como el líder internacional. Esto generó una serie de competidores internacionales y planea mantenerse a la vanguardia de los japoneses, especialmente el Programa Estratégico Europeo sobre Investigación y Tecnología de la Información, la Iniciativa de Computación Estratégica y la Corporación de Microelectrónica y Computación en los Estados Unidos. El proyecto japonés no logró cumplir con sus elevados objetivos de desarrollar un nuevo sistema informático, ya que fue superado por Sun Systems e Intel, a pesar de los $ 400 mil millones en fondos ($ 730 mil millones en 2019).

Los proyectos en competencia de la Quinta Generación terminaron con resultados similares. Por ejemplo, la Iniciativa de computación estratégica gastó $ 1 mil millones desde 1983-1993 ($ 2,2 mil millones en 2019) para lograr inteligencia de máquina.3 Aunque hubo algunos proyectos de escisión exitosos (por ejemplo, el Navlab de Carnegie Mellon), la iniciativa en sí misma fue un fracaso y contribuyó de manera importante al segundo invierno de la IA cuando colapsó.

¡Si solo la ineficiencia fuera la única preocupación de la investigación sobre IA a gran escala financiada por el Estado! Desafortunadamente, la Casa Blanca, el Pentágono, el Congreso y otros han indicado que tienen fines mucho más destructivos en mente.

Armamentización de la IA

La Orden Ejecutiva de Trump se refiere a AI en el contexto de la «seguridad nacional» casi una docena de veces.El día después de la publicación de la Orden Ejecutiva, el Pentágono publicó su documento de estrategia de IA que exige una rápida adopción de la IA en todos los aspectos del ejército. El Pentágono había contratado previamente a Google para desarrollar el Proyecto Maven, un sistema de visión por computadora para ayudar al reconocimiento de objetos para la guerra de drones. Google acordó no renovar el contrato luego de que decenas de empleados renunciaron en protesta y miles más solicitaron a la compañía que se abstuviera de desarrollar herramientas de IA armadas. Esto llevó a Google a restringir su trabajo de defensa, pero los proyectos militares todavía están permitidos.

A pesar del rechazo que Google ha recibido, otras grandes compañías de tecnología como Microsoft, Amazon e IBM continúan trabajando en el apoyo al armamento de AI con el Pentágono. Estas empresas también han tenido que lidiar con el descontento interno y han recurrido a trasladar a los empleados a diferentes proyectos cuando se oponen. A pesar de los desafíos internos, Amazon continúa trabajando con el gobierno en programas controvertidos de reconocimiento facial y Microsoft ha continuado con un proyecto de computación en la nube conocido como JEDI.

Por ahora, el Pentágono no ha podido atraer el talento requerido para desarrollar tecnologías de inteligencia artificial internamente y, por lo tanto, ha tenido que recurrir a la asociación con empresas como las grandes empresas de tecnología. En China, la financiación y el control de estas empresas están directamente vinculados al PCC, que ha dado lugar al sistema de Crédito Sésamo. A riesgo de sonar cliché, el Crédito Sésamo es un sistema de control social orwelliano basado en la complicidad de las grandes empresas tecnológicas y la inteligencia artificial para rastrear las compras y conductas de la ciudadanía, incentivándolos a comportarse de manera aprobada por el partido y castigándolos cuando se alejan. Los castigos incluyen restricciones en viajes, préstamos, vivienda, negocios y banca. El objetivo oficial del programa es abarcar a todos los ciudadanos y «permitir que los confiables vaguen por todos lados bajo el cielo, mientras que dificulta que los desacreditados den un solo paso».

Tal vez lo más insidioso es que fomenta la ostracización social al reducir su puntaje en función de la puntuación de aquellos en su red. Por lo tanto, le recomendamos que deje a sus amigos y familiares de su vida si no se están comportando de una manera aprobada por la fiesta.

Si bien EE. UU. No es China, vivimos en un mundo donde la NSA ha eliminado los derechos de la 4ta Enmienda y donde los presidentes de los EE. UU. Afirman la autoridad legal para matar a ciudadanos de EE. UU. sin cargos ni juicio. Una estrategia nacional de inteligencia artificial que vincula aún más al gobierno de los EE. UU. Con las empresas de tecnología e investigadores nos acerca un paso más a China, pero no como líder en inteligencia artificial, sino como un país que aprovecha esta tecnología para reprimir a las personas. Solo se puede esperar que la reacción violenta asociada con el Proyecto Maven crezca con respecto a otros proyectos del Pentágono, dejando al Departamento de Defensa sin las capacidades para armar a la IA mientras buscan.

Christian Hubbs is a PhD candidate at Carnegie Mellon University working in machine learning and optimization. He blogs at datahubbs.com and co-hosts a podcast at artificiallyintelligent.tech.

Note: The views expressed on Mises.org are not necessarily those of the Mises Institute.
Image source:
Getty
When commenting, please post a concise, civil, and informative comment. Full comment policy here

Add Comment

Shield icon wire