🐈‍⬛ ¿Quién le pone el cascabel a la IA? ¿Por qué gusta tanto la regulación?

La Inteligencia Artificial (IA) ha experimentado un rápido crecimiento que ha generado una enorme preocupación sobre su regulación y seguridad. La moratoria propuesta por expertos en IA, incluido el dueño de Tesla y Twitter, Elon Musk, sugiere limitar temporalmente el desarrollo de nuevas tecnologías de Inteligencia Artificial. Sin embargo, poner restricciones a la investigación y el desarrollo en este campo es como «poner puertas al campo». Determinar qué aspectos específicos de la IA se limitarían, qué empresas se verían afectadas y en qué países se aplicaría la moratoria son cuestiones que podrían complicar su implementación.

¿Por qué asusta tanto un futuro en el que la Inteligencia Artificial tenga poderes desbocados? Vamos a tratar de poner esta compleja materia en contexto en un campo que avanza día a día a un ritmo vertiginoso.

1.- Menos privacidad: La IA puede afectar a nuestra privacidad futura mediante el desarrollo de tecnologías de reconocimiento facial en espacios públicos. Aunque estas tecnologías pueden ayudar a identificar a delincuentes y mejorar la seguridad, también pueden invadir o anular la privacidad de las personas al recopilar y almacenar datos sobre sus movimientos y actividades sin su consentimiento. Además, el uso indebido de estos datos por parte de gobiernos o empresas podría concluir en la vigilancia masiva de los ciudadanos y en una violación de derechos fundamentales. Una auténtica distopía orwelliana.

2.- Discriminación por sesgo: Imaginemos que la contratación de personal se implemente en base a algoritmos. Si un algoritmo se entrena con datos históricos que reflejan sesgos raciales o de género, podría perpetuar estos sesgos al recomendar candidatos para los puestos de trabajo. Por ejemplo, si el algoritmo aprende que los empleados hombres han tenido un mejor desempeño en ciertos roles, podría favorecer a candidatos masculinos en el futuro, discriminando a las mujeres que solicitan el mismo puesto.

3.- Un mayor riesgo para la seguridad: Un ejemplo relacionado con la seguridad es el uso de la IA en ciberataques. Los hackers pueden utilizar algoritmos de IA para generar ataques de phishing más sofisticados, diseñando correos electrónicos y sitios web fraudulentos que engañan a las personas para que revelen sus datos personales y contraseñas. Además, la IA también podría utilizarse para identificar y explotar vulnerabilidades en sistemas de seguridad y redes, lo que podría poner en riesgo la información confidencial y la infraestructura crítica.

4.- Desplazamiento laboral: La IA ya está haciendo posible la automatización de empleos en la industria manufacturera. La implementación de robots y sistemas de IA capaces de realizar tareas repetitivas y rutinarias con mayor precisión y velocidad que los humanos ha llevado a la pérdida de empleos para los trabajadores en fábricas. Eso es ya ocurre en el presente. Aunque como sostengo en el libro “¿Qué robot se ha llevado mi queso?” la historia ha demostrado siempre que la tecnología no elimina puestos de trabajo pues, aunque algunas profesiones se vuelven obsoletas, aparecen otras nuevas.

Pero a medida que la IA continúa avanzando, es probable que también afecte a otros sectores, como el transporte, la atención al cliente y la medicina, lo que podría aumentar el desempleo y la desigualdad económica.

5.- Responsabilidad y transparencia en la toma de decisiones: ¿Y si los algoritmos son los que toman decisiones médicas? Si un sistema de IA recomienda un tratamiento inadecuado para un paciente, podría ser difícil determinar quién es responsable último del error: ¿el médico que siguió la recomendación del algoritmo? ¿los desarrolladores del sistema de IA? ¿los proveedores de datos utilizados para entrenar el algoritmo? Además, la falta de transparencia en el funcionamiento de los algoritmos de IA puede dificultar la comprensión y la explicación de por qué se tomaron ciertas decisiones, lo que podría socavar la confianza en la tecnología y la rendición de cuentas.

La batalla de las visiones regulatorias de IA: ¿Quién será el campeón mundial?

Imagina un viaje alrededor del mundo explorando cómo diferentes países están regulando la inteligencia artificial (IA). ¡Suena emocionante, ¿no?! Empezamos en Europa, donde el AI Act está en proceso y se espera que en 2025 exista un sistema regulatorio en todo el Espacio Económico Europeo (y quizás Suiza). 
EE. UU. se centra en estándares voluntarios y ciberseguridad, China busca liderar y regular la IA mediante experimentación y regulación en áreas sensibles, Japón confía en la colaboración para desarrollar la «sociedad 5.0», Canadá lidera en regulación del sector público y evalúa normas para el sector privado. México, Australia, Singapur e India observan las iniciativas globales y adaptan sus normas actuales. La regulación de la IA varía desde estándares voluntarios hasta ambiciosos planes de liderazgo.

En el mundo de la regulación de la inteligencia artificial (IA), hay dos partidos en juego, ¡y la tensión es alta!

La UE busca normas aplicables a todos en su territorio, mientras que EE. UU. y China evitan regulaciones detalladas, esperando que sus estándares voluntarios se conviertan en referencia. 

El tiempo juega en contra de Europa, con EE. UU. publicando estándares pronto y la UE tardando al menos dos años en tener legislación aplicable, lo que podría dejar sus normas obsoletas al entrar en vigor.

¿Qué podemos hacer?

Desde una perspectiva pro consumidor y mercado, creo que grandes regulaciones pueden no ser la mejor solución para abordar las preocupaciones que surgen con la inteligencia artificial. En lugar de imponer prohibiciones y restricciones estrictas, se deberían considerar otras alternativas. Me atrevo a sugerir algunas…

Fomentar la autorregulación e incentivar a las empresas y organizaciones a desarrollar y adoptar sus propias pautas éticas y de responsabilidad en la investigación y el uso de IA. Establecer estándares y prácticas voluntarias para la industria de la IA. Promover la transparencia y la colaboración para compartir información sobre los avances y enfoques en IA. Esto permitiría a los interesados aprender unos de otros y desarrollar soluciones conjuntas a los problemas que enfrenta el campo. Y, por último, invertir en educación y concienciación. Asegurar que la sociedad en general esté informada sobre los desafíos y oportunidades que presenta la IA, lo que permitiría un debate más informado y equilibrado sobre cómo abordar las preocupaciones relacionadas con la tecnología.

¿Y a mi esto que me aporta?

Algunas pinceladas:

• En el terreno del marketing y comunicación, la regulación y autorregulación de la inteligencia artificial puede aportar un marco normativo que garantice la transparencia, la privacidad y la ética en el uso de estas tecnologías. Por ejemplo, al regular el uso de algoritmos de IA en la segmentación de audiencias y publicidad, se pueden prevenir prácticas invasivas o discriminatorias, como la exclusión injusta de ciertos grupos demográficos. Al establecer límites y responsabilidades, fomentamos un entorno en el que las campañas de marketing y comunicación sean más responsables, justas y efectivas.

• En el terreno de los negocios y el emprendimiento, la regulación y autorregulación puede proporciona un marco que promueve la responsabilidad, la equidad y la transparencia en la adopción y uso de tecnologías de IA. Al establecer pautas y responsabilidades en la implementación de IA, la regulación protege a las empresas y a los empleados, asegura la confianza de los consumidores y promueve un ecosistema empresarial ético y sostenible en el que las empresas puedan innovar y crecer de manera responsable.

• En el terreno personal, la regulación y autorregulación de sectores puede aportar protección y seguridad a los individuos en su interacción con tecnologías de IA en la vida cotidiana. Un ejemplo concreto es la protección de la privacidad y los datos personales en las redes sociales y aplicaciones de mensajería, donde la regulación de algoritmos de IA ayuda a evitar la manipulación indebida de información, el uso no autorizado de datos y la difusión de información falsa. Al proporcionar un marco regulatorio para la IA, se garantiza el respeto de los derechos y libertades individuales y se fomenta el uso responsable y ético de las tecnologías de IA en nuestra vida diaria.

Lecturas complementarias, seleccionadas y resumidas para ti:

• El artículo de Nature de Ehsan Nabavi aborda el uso de la inteligencia artificial (IA) en la lucha contra la corrupción, destacando cómo la IA puede detectar y prevenir actividades corruptas mediante el análisis de datos. Por contra también subraya la importancia de enfrentar desafíos éticos y legales, como privacidad y la transparencia, para garantizar un uso responsable y eficaz de estas tecnologías.
• Joana J. Bryson, en Wired, escribió hace un año el artículo “Europe Is in Danger of Using the Wrong Definition of AI”. Bryson cuestiona el enfoque regulatorio de la UE para la IA, argumentando que clasificar aplicaciones según el riesgo y las regulaciones específicas podrían obstaculizar la innovación. Sugiere adaptar leyes existentes y fomentar la colaboración internacional en lugar de imponer regulaciones rígidas y burocráticas.
• En HBR, Reid Blackman, destaca la importancia de establecer comités de ética en IA en las organizaciones para abordar riesgos éticos, legales y de reputación. Estos comités promueven la adhesión a principios éticos y fomentan la responsabilidad y confianza, asegurando un uso responsable y sostenible de la IA en los negocios.
• Melissa Heikkilä, Senior Reporter en MIT Technology Review, aborda los desafíos de los éticos de IA y ofrece consejos para superarlos, como colaborar con equipos multidisciplinarios y comunicarse eficazmente. Estas estrategias pueden ayudar a garantizar un desarrollo y uso responsable de la IA en las organizaciones.
• Uno de los medios en español con más tráfico, Infobae, analiza si la IA puede desarrollar ética, abordando desafíos como enseñar valores humanos y evitar sesgos. Aunque se mencionan enfoques como comités de ética y transparencia, para el autor aún queda mucho por hacer para lograr que la IA sea verdaderamente ética y alineada con los valores humanos.

Libros complementarios: seleccionados para ti:

• AI Ethics de Mark Coeckelbergh. Este libro del filósofo belga ofrece una introducción accesible y completa a las cuestiones éticas relacionadas con la inteligencia artificial. Coeckelbergh examina temas como la responsabilidad, la privacidad, la justicia y la gobernanza en el contexto de la IA, ofreciendo un enfoque práctico y filosófico sobre cómo abordar estos problemas.
• Human Compatible: Artificial Intelligence and the Problem of Control de Stuart Russell. Este informático y profesor de Berkeley analiza los riesgos potenciales que presenta la inteligencia artificial si no se abordan adecuadamente las cuestiones éticas. Russell propone un nuevo enfoque para diseñar sistemas de IA que sean compatibles con los valores humanos y garantizar que las máquinas sigan siendo beneficiosas para la humanidad en el futuro.