AGI, la IA con superpoderes de 2024

Ya llevamos más del 90% del año transcurrido. 2023, el año cumbre de la IA, no podía despedirse sin un gran acontecimiento: la turbulenta pelea por el poder que ha capturado la atención del mundo.

Tomemos distancia del ruido mediático y vayamos a lo principal:

¿Qué revela esta conmoción sobre el futuro de la IA y el delicado equilibrio entre el avance tecnológico y la responsabilidad ética?

Es la historia de una ambición, avance y advertencia, que trasciende las fronteras de la tecnología y toca el núcleo de nuestra coexistencia con las máquinas inteligentes.

Ahí es nada. Vayamos por partes.

El salto hacia la inteligencia general artificial (AGI)

Todavía estamos jugando con la “Inteligencia artificial generativa” y emerge otro concepto: “Inteligencia artificial general”. Según Reuters y The Information a principios de año, OpenAI, desarrolló el modelo Q* (pronunciado /kiú star/, y no confirmado por la empresa), pero las fuentes de esos medios cuentan que Q* daría la razón a los expertos que creen que llegaremos a un nivel no conocido por la humanidad: la capacidad de la IA de hacer cualquier tarea humana. Por contra otros expertos opinan que es una evolución del modelo estadístico, sin más (¡ni menos!).

La AGI se define como un sistema automático que podría ejecutar cualquier tarea intelectual que los humanos realizan con igual o mayor exactitud y eficiencia.

Los modelos de esta naturaleza estarían habilitados para realizar juicios, razonar, comunicarse en lenguaje natural y aprender de su entorno. Vendría a ser un tipo de IA que no está pre entrenada para una tarea, por ejemplo jugar al ajedrez, si no sería “como un humano” al que se le podría enseñar a jugar al ajedrez, y a muchas cosas más. El ejemplo de AGI actual sería el coche autónomo nivel 5 que toma decisiones totales de conducción.

El modelo Q* y su proeza matemática

Q* no sería otra IA más, sería una ventana a un futuro donde las máquinas procesan datos, y además entienden y resuelven problemas complejos. Este modelo habría demostrado una habilidad notable para resolver problemas matemáticos que no había encontrado antes, un desafío que ha sido históricamente difícil para la IA.

La capacidad de Q* para navegar en el mundo de las matemáticas, un dominio donde hay respuestas definitivas y lógica estricta, es un indicativo de su avanzado nivel de razonamiento, similar al humano​​.

Mi intuición es que OpenAI está cerca de ofrecer AGI de una manera accesible a las personas, pero de ahí a que esa AGI cambie el paradigma humano-máquina queda un largo trecho. Ese puede ser el gran cambio, como lo ha sido el avance de la computación en estás últimas décadas, el acceso universal a la AGI puede producir un gran cambio en cómo nos relacionamos y trabajamos.

A vueltas con la ética mientras la tecnología avanza

La innovación y el rápido avance de OpenAI no han estado exentos de controversias y preocupaciones en la propia empresa:

• Por un lado están los investigadores “amarrateguis” que expresaron inquietudes sobre la rapidez de estos desarrollos, y si la empresa tiene las medidas de seguridad adecuadas para manejar modelos de IA tan avanzados.
• Por otro lado, el despido temporal de Sam Altman y la lucha por el poder en la junta directiva han flameado preguntas sobre la estabilidad y la dirección futura de la empresa​​​​.

La carrera hacia la AGI no es solo un desafío tecnológico, sino también ético porque viene con una gran responsabilidad: garantizar que estas máquinas actúen en interés de la humanidad y no se conviertan en herramientas de manipulación o destrucción.

Encontrar un equilibrio entre innovación y seguridad es fundamental​​.

¿Superinteligencia?

No creo que se construya una superinteligencia, ni que la humanidad esté en peligro, en ocasiones creo que la personas somos muy catastróficas. 

Durante la cumbre de Cooperación Económica Asia-Pacífico, un día antes del despido, Altman comentó que «cuatro veces en la historia de OpenAI, la más reciente fue en las últimas dos semanas, he estado en la sala en la que empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia adelante. Poder hacerlo es un honor profesional”. Fuentes citadas por The Information aseguran que se refería a Q* sin decirlo.

Mi punto de vista: Altman está emocionado y honrado de estar en OpenAI, eso lo creo, pero no creo que su descubrimiento sea la sumisión del ser humano a la inteligencia artificial.

📌¿Qué enseñanzas nos deja?

1. La AGI redefine el potencial de la inteligencia artificial: la aparición del modelo Q* y el avance hacia la Inteligencia General Artificial (AGI) destacan cómo la IA está evolucionando más allá de tareas especializadas, acercándose a una capacidad de razonamiento y adaptación más humana.
2. La matemática como piedra angular del avance en IA: la habilidad de Q* para resolver problemas matemáticos complejos demuestra que el progreso significativo en la IA podría depender más de la matemática pura que de la comprensión del lenguaje humano.
3. Preocupaciones éticas y de seguridad son cruciales: a medida que la tecnología de la IA avanza rápidamente, surgen importantes cuestiones éticas y de seguridad. La responsabilidad de desarrollar estas tecnologías de manera segura y ética es fundamental.
4. El poder y la responsabilidad de la IA en manos humanas: el conflicto interno en OpenAI y el despido temporal de Sam Altman ilustran que el poder y la dirección de la IA están firmemente en manos humanas, subrayando la importancia de la gobernanza y la toma de decisiones responsables.
5. El futuro de la IA: cautela frente al alarmismo: Mientras que algunos temen que los avances en IA puedan llevar a una «superinteligencia» peligrosa, es importante equilibrar esta visión con una perspectiva más equilibrada y menos alarmista, enfocándose en el desarrollo responsable y los beneficios potenciales de la tecnología.

📚 Lecturas interesantes seleccionadas para ti:

• The Information siempre tiene las fuentes más fiables en las empresas tech. En este caso Jon Victor y Amir Efrati destacan por la publicación a la que se han referido la mayoría de los medios: ”OpenAI logró un gran avance en IA antes del despido de Altman”.

• Anna Tong, Jeffrey Dastin y Krystal Hu de Reuters también aportaron luz con su noticia: “Los investigadores de OpenAI advirtieron a la junta sobre el avance de la IA antes de la destitución del CEO”.

• Wired se centra en la gobernanza más que en los aspectos tecnológicos en el artículo de Peter Guest y Morgan Meaker: “La segunda venida de Sam Altman genera nuevos temores sobre el apocalipsis de la IA”,

 

El evento de IA del que todos hablan

Quedan pocas plazas.

¿Tienes claro cómo aplicar la IA al trabajo de tu equipo de marketing?

¿Sabes cómo puede mejorar la IA el trabajo con tus agencias?

¿O cómo puede ayudarte la IA a conocer mejor a tu consumidor?

30 noviembre de 2023, a las 13:30 en Findasense

👉  RESERVA TU PLAZA YA

ℹ️ ¿Cómo hago Buzzwords?

He utilizado la mayor cantidad de fuentes posibles, particularmente me gustan: The Information, Reuters, Wired, Protocol, Ad Age, AdWeek. Aparte utilizo inteligencia artificial, como GPT-4, para traducir y mejorar los textos.