“Los países en desarrollo como China hacen más hincapié en el diseño estratégico y la función regulatoria del gobierno”.

El instituto de Li pertenece al Ministerio de Seguridad del Estado.

Investigación AGI de China

El alcance de la investigación de China sobre AGI se destacó en un estudio del Centro de Seguridad y Tecnología Emergente de Georgetown titulado “Investigación de IA cognitiva de China” que concluyó que China estaba en el camino correcto y pidió un mayor escrutinio de los esfuerzos chinos por parte de EE. UU.

“La investigación de la IA cognitiva de China mejorará su capacidad para desplegar robots, tomar decisiones más inteligentes y rápidas, acelerar la innovación, ejecutar operaciones de influencia y realizar otras funciones de alto nivel de manera confiable con mayor autonomía y menos costo computacional, elevando el riesgo global de la IA y el desafío estratégico. a otras naciones”, dijeron los autores en el estudio de julio.

Al examinar miles de artículos científicos chinos sobre IA publicados entre 2018 y 2022, el equipo de autores identificó 850 que, según afirman, muestran que el país está persiguiendo seriamente la AGI, incluso a través de la ciencia del cerebro, el objetivo señalado en el actual Plan Quinquenal de China.

Los estudios incluyen investigaciones sobre la visión inspiradas en las ciencias del cerebro, como las de Gao, la percepción orientada a la cognición, investigaciones sobre el reconocimiento de patrones, investigaciones sobre cómo imitar las redes neuronales del cerebro humano en las computadoras y esfuerzos que en última instancia podrían conducir a híbridos entre humanos y robots, por ejemplo mediante Colocar una simulación cerebral a gran escala en el cuerpo de un robot.

Para ilustrar esto, un informe de finales de 2022 de CCTV, la emisora ​​estatal de China, mostró a un robot manipulando la manija de una puerta para abrir un armario mientras un científico explicaba que la “cámara de profundidad” colocada en sus hombros también puede “reconocer el físico de una persona y analizar su intenciones basadas en esta información visual.”

Significativamente, dijeron los investigadores de Georgetown, “había una cantidad inusualmente grande de artículos sobre reconocimiento facial, de la marcha y de emociones” en los artículos chinos, así como análisis de sentimientos, predicción de comportamiento “errante” y aplicaciones militares.

Además de los artículos identificados en el estudio, otros vistos por Newsweek exploraron la alineación de valores entre humanos y robots, “Computación afectiva inspirada en la amígdala” (refiriéndose a una pequeña parte del cerebro que procesa el miedo), aplicaciones industriales como “Un ciclo cerrado interfaz cerebro-computadora con retroalimentación de realidad aumentada para la colaboración industrial entre humanos y robots” y, a partir de julio de 2023, “BrainCog: un motor de inteligencia cognitiva inspirado en el cerebro basado en una red neuronal para inteligencia artificial y simulación cerebral inspiradas en el cerebro”.

Un próximo estudio realizado por investigadores estadounidenses se centrará en el uso que hace China de la “interfaz cerebro-computadora” para mejorar el poder cognitivo de humanos sanos, es decir, esencialmente, para moldear su inteligencia y tal vez incluso, dado el entorno político en China, su ideología.

¿Realidad o (ciencia) ficción?

Algunos científicos ven la AGI como ciencia ficción inalcanzable. Pero Max Riesenhuber, codirector del Centro de Neuroingeniería del Centro Médico de la Universidad de Georgetown y uno de los investigadores del estudio estadounidense, cree que China está en un camino que tiene más probabilidades de éxito que los grandes modelos lingüísticos como ChatGPT, el preocupación actual en Occidente.

“ChatGPT, por diseño, no puede ir y venir en su razonamiento, se limita al pensamiento lineal”, dijo Riesenhuber en una entrevista.

En China, “hay una comprensión muy sensata de que los LLM son limitados como modelos de inteligencia real. Una forma segura de llegar a la inteligencia real es aplicar ingeniería inversa al cerebro humano, que es el único sistema inteligente que conocemos”, dijo Riesenhuber. .

Advirtió que no estaba claro si alguien, incluida China, tendría éxito en este siguiente nivel de IA. “Sin embargo, acercarse a la realidad ya tendrá beneficios”, afirmó.

En discursos y documentos estatales vistos por Newsweek , los funcionarios chinos dicen que están apuntando a una “ventaja de ser los primeros en actuar” en AGI. Los científicos dicen que la naturaleza potencialmente autorreplicante de la IA significa que eso podría darles una ventaja permanente.

“La inteligencia artificial general es el objetivo original y último de la investigación en inteligencia artificial”, dijo Zhu, fundador y director del principal instituto AGI de China, el Instituto de Inteligencia Artificial General de Beijing (BIGAI), en un evento en línea a principios de este año. “Decidí específicamente utilizar AGI como parte del nombre de la institución para distinguirla de la inteligencia artificial dedicada”, como el “reconocimiento facial, la detección de objetos o la traducción de textos”, dijo Zhu.

Zhu, como muchos otros destacados científicos de IA en China, es un ex alumno y profesor en universidades estadounidenses.

AGI con características chinas

La búsqueda de China de AGI obtuvo apoyo de políticas públicas de alto nivel en 2017, cuando el gobierno publicó un “Plan de desarrollo de IA de nueva generación” que establece un camino para liderar el campo a nivel mundial para 2030.

Los documentos públicos vistos por Newsweek revelan un amplio y profundo apoyo oficial. Uno de mayo de este año muestra que la Comisión Municipal de Ciencia y Tecnología de Beijing aprobó un esfuerzo de dos años para posicionar a la ciudad como líder mundial en investigación AGI, con importantes subsidios estatales.

Beijing se centrará en “inteligencia similar al cerebro, inteligencia encarnada… y producirá grandes modelos ilustrados e inteligencia general”, dijo. Está previsto que a finales de 2024 esté terminado un “Parque General de Innovación en Inteligencia Artificial de Beijing” de un millón de pies cuadrados.

El distrito universitario Haidian de Zhongguancun, en el noroeste de Beijing, el “Silicon Valley” de China, es un centro de investigación. Además de BIGAI, la Academia de Inteligencia Artificial de Beijing (BAAI) está en la capital, al igual que las universidades de Pekín y Tsinghua, también muy activas en la investigación de la IA. Los centros se interconectan.

Esta concentración de I+D y actividad comercial creará “un ‘punto de explosión nuclear’ para el desarrollo de la inteligencia artificial general”, según el gobierno del distrito. Los gobiernos del distrito y de la ciudad no respondieron a las solicitudes de comentarios.

Otros lugares clave para la investigación son Wuhan, Shanghai, Shenzhen, Hefei, Harbin y Tianjin.

Seguridad primero

La perspectiva de que alguien desarrolle AGI superinteligentes plantea enormes preocupaciones de seguridad, dice Nick Bostrom, director del Instituto del Futuro de la Humanidad de la Universidad de Oxford , cuando se le preguntó sobre el trabajo de China en AGI.

“Todavía no tenemos métodos confiables para la alineación escalable de la IA. Por lo tanto, si hoy se desarrollara la superinteligencia general de las máquinas, es posible que no podamos mantenerla segura y controlada”, dijo Bostrom a Newsweek .

La IA tal como es hoy ya era suficientemente preocupante con su potencial para diseñar armas químicas o biológicas mejoradas, delitos cibernéticos, enjambres de drones automatizados o su uso para la opresión totalitaria , o para propaganda o discriminación, señaló.

“En última instancia, todos estamos en el mismo barco con respecto a los riesgos más graves de AGI. Por lo tanto, lo ideal sería que, en lugar de pelearnos y pelearnos en cubierta mientras se acerca la tormenta, trabajemos juntos para que el barco esté lo más listo y en condiciones de navegar tanto como sea posible en el tiempo que nos quede”, dijo Bostrom.

Otros han cuestionado la probabilidad de que se respete un acuerdo sobre implementación ética incluso si se acuerda a nivel mundial.

“Las consideraciones éticas son sin duda un aspecto importante de la regulación de la IA en China. Sin embargo, aún no está claro si los reguladores tienen la capacidad o la voluntad de hacer cumplir estrictamente las normas relacionadas con la ética”, dijo Angela Zhang, directora del Centro Philip KH Wong para chinos. Derecho en la Universidad de Hong Kong.

“Dadas las preocupaciones políticas prevalecientes, no creo que las consideraciones éticas sean el factor dominante en las futuras decisiones de China sobre la regulación de la IA”, afirmó Zhang.

A pesar de eso, dijo que era necesario intentar llegar a un acuerdo entre China y Estados Unidos como principales potencias de la IA en el mundo, y expresó su esperanza de que eso fuera posible.

“Sería una oportunidad perdida no involucrar a China en el establecimiento de reglas y estándares universales para la IA”, afirmó Zhang.

Un experto occidental en IA que interactúa con científicos y formuladores de políticas chinos en IA dijo que si bien los funcionarios chinos estaban interesados ​​en medidas internacionales sobre seguridad o en un organismo internacional para regular la IA, debían ser parte del establecimiento de las reglas, o el esfuerzo ciertamente fracasaría. Las preguntas al Instituto para la Gobernanza Internacional de la IA de la Universidad de Tsinghua quedaron sin respuesta.

En una declaración a Newsweek, Liu Pengyu, portavoz de la embajada china en DC, dejó claro que China quería un papel “extenso” en la futura regulación de la IA. “Como principio, China cree que el desarrollo de la IA beneficia a todos los países, y todos los países deberían poder participar ampliamente en la gobernanza global de la IA”, dijo Liu.