El futuro de la IA… (I)

EL FUTURO DE LA IA (I)

Hay frases que se nos repiten en nuestra mente: “En algunos años miraremos hacia atrás y diremos este fue el momento en que todo cambio”, coincidiendo con las primeras apariciones de la IA. Soy de los que creo en que es inevitable el cambio, porque de la misma forma que no se le pueden poner “puertas al campo”, al desarrollo científico tampoco y la IA es, sin dudas, producto de un impetuoso desarrollo científico, fruto de años de trabajo con el único interés de apropiarse del futuro, es decir, del crecimiento económico, de influencias políticas y de PODER. La IA es fundamental para el poder económico y militar.

Los principales actores de ese impetuoso desarrollo, según un orden de logros, son China, EE. UU. y Europa. Una cosa debe estar clara, quien se quede a la saga, no tendrá segundas oportunidades, dicen los expertos.

Hay que luchar por evitar que la IA esté, en manos de una sola de las partes en pugna, porque si así fuera impregnará TODOS los desarrollos y terminarán por reflejar la cultura y el pensamiento filosófico de ese país.

Los pioneros en este desarrollo tecnológico partieron de Silicon Valley con aportes económicos astronómicos y sinergia de intereses en alcanzar el liderazgo mundial y, ser pioneros en desarrollo de aplicaciones^[1]. Esta dinámica no esta presente aún en los países de la UE, lo que se aprecia en la falta de una IA europea, que respete las regulaciones vigentes y sirva a sus sistemas de valores. Aunque ya hay varias empresas europeas emprendedoras en IA^[2], queda mucho por andar.

No se trata solo de crear empresas emprendedoras y dotarlas de recursos, es necesario e imprescindible educación en IA. Los sistemas pueden crearse por matemáticos, con el auxilio de máquinas, pero hay que saber cual es el enfoque de base que sustenta el desarrollo del sistema. “Necesitamos la educación para no recaer todos, en la manipulación de intereses foráneos”. Qué sucede cuando se le pregunta a la IA, por quién votar. Quién decide como responderá, puntualiza Devillers. ^[3]

El New York Times de febrero de 2023^[4] recoge las opiniones de los gigantes tecnológicos desarrolladores de la IA:

• “La carrera armamentística de la IA, está cambiando todo”.
• “La IA podría impulsar la economía mundial en más de15 billones de dólares para 2030”.

Hay una preocupación generalizada entre los principales investigadores y científicos de la IA, por la competencia entre las grandes empresas que estén creando tecnología que ya no sea controlable.

Max Tegmark^[5], dijo que deberíamos rebautizarnos y en vez de HOMO SAPIENS (https://es.wikipedia.org/wiki/Homo_sapiens), deberíamos ser, HOMO SIENTES, el ser humano sensible, eso es lo que nos hace diferente: curiosidad, propósitos y amor. Eso es lo que hace libre y diferente. El 22.03.23 Tegmark desde el FLI^[6] envió una carta a los directores de las grandes tecnológicas de la IA, diciéndoles: “Hacemos un llamamiento a todos los laboratorios de IA para que detengan inmediatamente, al menos durante 6 meses, el entrenamiento de sistemas de IA más potentes que GPT-4”

Esto hizo reflexionar y decir a Sam Altman^[7], director ejecutivo de OpenAI, lo siguiente: “Mi mayor temor es que estemos haciendo algo mal con esta tecnología y les aseguro que si algo sale mal, les aseguro que puede salir, muy mal. Me preocupa la capacidad general de estos modelos para manipular, persuadir y desinformar en una conversación directa de estos modelos, casi interactiva. Pero creo que los usuarios pueden adaptarse bastante rápido. Cuando Photoshop salió la primera vez, la gente se confundió, pero pronto empezaron a darse cuenta de que las imágenes estaban editadas con Photoshop. Será lo mismo con la IA, pero mucho más extremo. Requiere de una intervención de empresas actuando correctamente, con regulación y educación pública”^[8]

En el Centro para la Seguridad de la IA el 30.05.23, Sam Altman remarcó: “Mitigar el riesgo de extinción de la IA, debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y las guerras nucleares”.

El hecho de que fuesen las propias empresas tecnológicas las que pidiesen una regulación y, que los propios académicos pidieran la intervención del gobierno, fue un punto de inflexión en la seguridad de la IA.

El 31.5. 2023 en la Convención de Lulea, Suecia, durante la cuarta reunión ministerial del Consejo de Comercio y Tecnología UE-EE. UU.^[9], centrada en grandes modelos de inteligencia artificial tras la reciente aceleración de la IA generativa, Anthony Blinken, secretario de Estado de EE. UU., dijo: “si colaboramos ahora, es posible que la IA generativa siga desarrollándose de esta forma tan veloz”^[10].

Nadie puede ocultar el “susto” que despierta la velocidad del cambio que esta tecnología esta generando en diferentes sectores de la economía, la sociedad y la industria.

Leia el otro día que Antonio Neri de HP^[11], uno de los expertos más reconocido, dijo: “A largo plazo el empleo de una IA sin control, pudiera tener resultados catastróficos y, en muchos países, los políticos tienen miedo”.

“El rápido ritmo de crecimiento del ecosistema de la IA, obliga a mantenernos en aprendizaje todo el tiempo. Obligándonos a lograr progresos en el adiestramiento de los modelos y su desarrollo mediante gráficas, como los del movimiento bursátil, para conocer cuales son los resultados y optimizar el tiempo, mano de obra, capacidad de computo necesario, para garantizar que la comunicación entre los humanos y las máquinas sean el más intuitivo y natural” dice Han Xiao, fundador y director ejecutivo de JinaAI^[12].

En WAIC 2024 (https://www.jorgeacapote.com/the-future-is-today/), se lanzaron 30 nuevos modelos de lenguaje, algunos de Sense Time, Alibaba, o industrias o bancos, por ejemplo. Las empresas chinas se basan en otras producciones de otras empresas tecnológicas y luego lo hacen aún mejor. No dudo que, en poco tiempo, todos los modelos lideres vendrán de China.

Microsoft creo una filial en China, llamada “Microsoft Research Lab-Asia” en 1990, para crear un mejor acceso al mercado chino. En este laboratorio de investigación se entrenaron las superestrellas de la IA china. Personalidades importantes que posteriormente fundaron empresas como, Alibaba Cloud^[13], Baidu, Tencent, iFlytek, SelfTime y otras^[14], o al menos ocuparon altos cargos.

Microsoft ayudó al gobierno chino a construir la elite tecnológica de China y, esto a su vez ha permitido un sistema de vigilancia que se gestiona con la ayuda de la IA. En Pekín, Shanghai o Shenzhen, se encuentran la mayor cantidad de cámaras de circuito cerrado de todo el mundo. La opinión publica china no le ve como una intrusión en la privacidad, ha aceptado que era para que la sociedad fuera mas segura, para protegerla.

“La IA aplicada, no solo permite escuchar toda la información que las personas comparten dentro de la sociedad, sino también la capacidad cognitiva para procesar todo eso. Es un futuro muy aterrador y desafortunadamente posible”, dice Alexandre Madry^[15], jefe del Dpto. de Riesgos de OpenAI.

China sigue delante. EE. UU, persigue sus propios intereses y la Unión Europea lucha por ser independiente en desarrollos de IA. Si la UE no consigue formar parte de la vanguardia de esta tecnología del futuro, será China la que penetre en los ámbitos mas privados de una forma sin precedentes. Europa necesita empresas que no solo puedan programar, sino también construir sus propias infraestructuras de hardware, para mantener bajo control la información altamente confidencial.

 CONTINUARA….

JACA, Santander, septiembre 2024

Referencias:

[1] OpenAI está recibiendo uno 10,000 millones de dólares para incorporar a Microsoft en todos sus productos de AI. GPT-4 RECIBIO 200,000 millones de dólares. ChatGPT ha tenido apoyo de valores anglo-norteamericanos para su desarrollo.

[2] Hugging Face (Francia); Aleph Alpha (Alemania);

[3] Laurence Devillers, profesor de AI de la Universidad de la Sorbona de Paris.

[4] Una versión de este articulo aparece impresa el 17 de febrero de 2023, Sección A, pagina 13 de la edición de NY con el titular: “Microsoft dice que está considerando restricciones a la tecnología de inteligencia artificial”

[5] Max Tegmark (1967) es un cosmólogo sueco-estadounidense. Tegmark es profesor en el Instituto Tecnológico de Massachusetts y pertenece a la dirección científica del Instituto de Cuestiones Fundamentales. Fundador de Future of Life Institute.

[6] FLI – Future of Life Institute es una organización sin fines de lucro que tiene como objetivo orientar la tecnología transformadora hacia el beneficio de la vida y alejarla de los riesgos a gran escala, con un enfoque en el riesgo existencial de la inteligencia artificial avanzada. www.futureoflife.org

[7] Samuel Harris Altman, conocido como Sam Altman, es un empresario, inversionista, programador y bloguero estadounidense. Es director ejecutivo de OpenAI y expresidente de Y Combinator, y se le considera una de las figuras principales en el desarrollo de la inteligencia artificial.

[8] Durante su intervención en el Senado de los EE. UU. en mayo de 2023.

[9] El Consejo de Comercio y Tecnología UE-EE. UU. sirve de foro para que los Estados Unidos y la Unión Europea coordinen los enfoques sobre cuestiones clave del comercio mundial y la tecnología y profundicen la cooperación transatlántica en este ámbito sobre la base de valores democráticos compartidos

[10] https://digital-strategy.ec.europa.eu/es/news/eu-us-trade-and-technology-council-panel-discussion-large-artificial-intelligence-models

[11] Antonio Neri es el presidente y director ejecutivo de Hewlett Packard Enterprise (HPE), responsable de liderar el desarrollo y la entrega de servicios y soluciones tecnológicas empresariales

[12]  Las empresas chinas están tomando la delantera en IA Gen, Ver WAIC 2024 (Conferencia Internacional de IA en Shanghai 2024. JinaAI tiene oficinas en Alemania.

[13]  Alibaba Cloud creo EMO, una IA Generativa capaz de crear videos a partir de imágenes fijas.

[14] En 2017, Alibaba Cloud, Baidu, Tencent, iFlytek fueron las cuatro empresas iniciales del equipo nacional de IA de China.

[15] Es profesor de Sistemas de Diseño de Cadencia de Computación en el Departamento de Ingeniería Eléctrica, Electrónica y Computación del MIT y miembro de CSAIL