A China le preocupa que una carrera de armamentos de la IA pueda llevar a una guerra accidental

Las normas arrogantes de la guerra cibernética podrían afectar la forma en que los ejércitos piensan acerca de los conflictos físicos.

Expertos y políticos en China están preocupados de que la prisa por integrar la inteligencia artificial en armas y equipo militar pueda conducir accidentalmente a la guerra entre naciones.

Según un nuevo informe publicado por el Centro para una Nueva Seguridad de Estados Unidos (CNAS) del think tank de seguridad nacional de EE. UU., Los funcionarios chinos ven cada vez más una dinámica de "carrera de armamentos" en AI como una amenaza para la paz mundial. A medida que los países se apresuran a cosechar los beneficios de la inteligencia artificial en varios dominios, incluido el ejército, el temor es que las normas internacionales que determinan cómo se comunican los países se vuelvan obsoletas, lo que llevará a la confusión y al posible conflicto.

"El escenario específico que me describió [por un funcionario chino anónimo] es la escalada involuntaria relacionada con el uso de un avión no tripulado", dice a The Verge Gregory C. Allen, un miembro adjunto de CNAS y autor del nuevo informe.

Como explica Allen, la operación de drones, tanto grandes como pequeños, se ha automatizado cada vez más en los últimos años. En los EE. UU., Los drones son capaces de un piloto automático básico, realizando tareas simples como volar en un círculo alrededor de un objetivo. Pero China está siendo "más agresiva en cuanto a introducir mayores niveles de autonomía más cercanos al uso letal de la fuerza", dice. Un ejemplo es el avión no tripulado Blowfish A2, que China exporta a nivel internacional y que, según Allen, se anuncia como capaz de "autonomía total hasta ataques específicos".

Debido a que los drones se controlan de forma remota, los militares tienden a ser más despistados acerca de su uso. Sin riesgo de víctimas humanas, están más dispuestos a derribarlos, pero también a desplegarlos en espacios aéreos disputados en primer lugar. Esta actitud también se puede ver en la guerra cibernética, donde los países se inmiscuirán en formas que no necesariamente arriesgarían si los humanos estuvieran involucrados.

"El punto que se me hizo fue que no está claro cómo interpretará ciertos comportamientos [con equipos autónomos]", dice Allen. "El lado que envía un avión no tripulado autónomo pensará que no es un gran problema porque no hay riesgo de muerte, mientras que el otro lado podría derribarlo por la misma razón. Pero no hay un marco acordado sobre qué mensaje está siendo enviado por el comportamiento de ambas partes ".

Los riesgos en tal escenario se vuelven mayores cuando se toma en cuenta la autonomía avanzada. Si un avión no tripulado o robot dispara un disparo de advertencia a las tropas enemigas, por ejemplo, ¿cómo se interpretará esa acción? ¿Las tropas lo entenderán como una respuesta automática o pensarán que es la decisión de un comandante humano? ¿Cómo lo sabrían en cualquier caso?

En esencia, dice Allen, los países de todo el mundo aún tienen que definir "las normas del conflicto armado" para los sistemas autónomos. Y mientras más tiempo continúe, mayor será el riesgo de "escalada involuntaria".

"Creo que es una amenaza real y legítima", dice Allen.

El resto del informe de CNAS, titulado "Entender la estrategia de AI en China: pistas sobre el pensamiento estratégico chino sobre inteligencia artificial y seguridad nacional", señala una serie de otras preocupaciones y actitudes de alto nivel en la estrategia de AI dirigida por el gobierno de China.

Los funcionarios chinos reconocen, por ejemplo, que él y Estados Unidos son los únicos dos superpoderes viables de AI . Ambos países tienen el talento, la financiación y los sectores tecnológicos que necesitan para impulsar esta tecnología, aunque cada nación también tiene sus propias fortalezas y debilidades particulares. China tiene acceso a más datos, por ejemplo, y tiene el potencial de saltar la tecnología occidental. (Muchos ciudadanos chinos pasaron de no tener teléfono a un teléfono móvil, sin obtener una línea telefónica intermedia, por ejemplo). Mientras tanto, Estados Unidos tiene una importante ventaja en el desarrollo de la tecnología de chip, un componente vital en el procesamiento de los enormes conjuntos de datos que impulsan las aplicaciones de inteligencia artificial.

El informe de CNAS señala que China está particularmente interesada en cerrar esta importante brecha. Empresas chinas como Baidu, Alibaba y Huawei han establecido nuevos proyectos para desarrollar hardware acelerador de AI; El dinero del gobierno se está vertiendo en estas iniciativas; y la industria está probando otros métodos para obtener experiencia extranjera. Estos incluyen la reciente adquisición propuesta del diseñador de chips estadounidense Qualcomm por la firma Broadcom de Singapur, que fue bloqueada por el presidente Trump por motivos de seguridad nacional.

Si bien se espera una cierta competencia entre China y los Estados Unidos, Allen dice que también se necesita cooperación, especialmente cuando se trata de estas cuestiones militares.

Señala que, aunque los funcionarios chinos con los que habló tenían un buen conocimiento del pensamiento contemporáneo de los Estados Unidos sobre temas como la guerra autónoma, los funcionarios estadounidenses tienden a estar menos informados sobre sus homólogos chinos, en parte porque muchos documentos de políticas chinas nunca se traducen al inglés. Sin entender adecuadamente las estrategias de las diferentes naciones en estos dominios, dice Allen, las posibilidades de malentendidos y conflictos aumentan.

Semrush sigue a tu competencia


Fecha actualización el 2019-02-07. Fecha publicación el 2019-02-07. Categoria: china Autor: Oscar olg Mapa del sitio Fuente: theverge
china