Resumen
Resumen editorial
Rafael Tamames analiza los límites de la transparencia algorítmica, la regulación por riesgo y el equilibrio entre rendición de cuentas, seguridad e innovación.
Columna firmada por Rafael Tamames y trasladada íntegramente desde la publicación original.
Publicación original
La inteligencia artificial no solo transforma empresas y empleos: también redefine el modo en que la sociedad exige rendición de cuentas. La reciente sentencia del Tribunal Supremo de 11 de septiembre de 2025 (*), que ordena a la Administración facilitar a la Fundación Ciudadana Civio el acceso al código fuente de la aplicación informática BOSCO, con la finalidad de que pueda conocer las operaciones diseñadas para la concesión del bono social y comprobar que se ajustan a la norma, marca un paso importante en el camino correcto: la transparencia.
Comprender cómo funcionan los sistemas automatizados que influyen en decisiones públicas es, sin duda, una forma de mantener la confianza y acercar la tecnología a la ciudadanía. Habrá unanimidad en coincidir que se trata de una buena noticia que la propia sociedad sepa con mayor transparencia cómo se toman las decisiones. Sin embargo, en este caso, explicaremos por qué puede ser un arma de doble filo.
La decisión del Tribunal Supremo establece que el "derecho de acceso a la información pública trasciende a su condición de principio objetivo rector de la actuación de las Administraciones públicas, para constituir un derecho constitucional ejercitable, como derecho subjetivo, frente a las Administraciones públicas". Con ello, se refuerza la transparencia en aquellos casos en que el software utilizado por la Administración afecta directamente a los derechos de las personas, en especial derechos sociales. Sin embargo, la interpretación amplia de esta doctrina podría extender esa obligación a todos los algoritmos del sector público, generando un precedente complejo.
EFECTOS SECUNDARIOS
Aunque pueda verse como una buena medida, tiene sus efectos secundarios. En este caso, el riesgo es que, por miedo o por exceso de celo, las administraciones terminen optando por soluciones tecnológicas más simples o abiertas solo para evitar posibles conflictos legales. Los modelos más potentes y precisos del mercado —los que garantizan eficiencia y resultados reales— no están obligados por el Reglamento de Inteligencia Artificial a exponer su código fuente, aunque sí se fomentan en la norma europea aquellos sistemas de código abierto, al rebajarse la carga regulatoria. Con lo decidido por el Tribunal Supremo, publicar el código fuente, como derecho general, supondrá limitar los derechos de propiedad intelectual y comprometer la seguridad de los sistemas.
Si la transparencia se interpreta de manera literal, sin equilibrio, podría derivar en un uso extendido de sistemas mediocres únicamente para cumplir la norma. No por falta de voluntad, sino por exceso de precaución.
Ya ha ocurrido antes. Hace dos décadas, la promesa del software de código abierto quiso democratizar la informática pública. Pero muchos de esos proyectos se estancaron por falta de mantenimiento, de interoperabilidad o de recursos. El ideal era noble, pero la realidad técnica terminó imponiéndose. El resultado fue una combinación de burocracia, lentitud y soluciones de compromiso que nunca llegaron a estar a la altura de las necesidades.
La tecnología, como la medicina, necesita competencia, no dogma. Y en este debate sobre la inteligencia artificial parece que estamos olvidando una distinción esencial: la diferencia entre Ética y pseudoética.
La Ética -con mayúscula- no necesita leyes para existir; nace de la responsabilidad, del propósito y de la conciencia del impacto que tienen nuestras decisiones. La pseudoética, en cambio, se disfraza de virtud, pero busca, sobre todo, evitar críticas. Es la ética de la complacencia, la que se contenta con parecer correcta, aunque no funcione. Y si dejamos que esa lógica guíe el desarrollo de la inteligencia artificial, acabaremos premiando la mediocridad tecnológica con el sello de "ética aprobada".
En el terreno de la inteligencia artificial, esta pseudoética se traduce en una obsesión regulatoria que confunde control con desconfianza. Disfrazar de ética la mediocridad tecnológica es una forma de retroceso.
LA PREGUNTA DE ALTMAN
En su reciente conversación con el economista Tyler Cowen, en la Progress Conference de octubre de 2025, Sam Altman, CEO y cofundador de OpenAI, ha planteado con claridad este dilema regulatorio. Altman defiende un enfoque de regulación por umbrales de riesgo: no todos los sistemas de IA deben someterse al mismo nivel de supervisión, pero sí aquellos agentes capaces, con una probabilidad seria, de causar daños masivos —por ejemplo, replicarse de forma autónoma en internet o atacar infraestructuras críticas.
Su pregunta es incómoda, pero pertinente para este debate europeo: ¿debería ser legal "soltar" a un agente de IA a lo salvaje, sin propietario identificable ni trazabilidad? El propio Altman compara el problema con la ciberdelincuencia actual: actores hostiles que utilizan recursos ilegítimos de internet y que los Estados ya tratan de perseguir, aislar y sancionar. La IA, advierte, será una versión agravada de ese mismo problema, lo que exige soluciones preventivas urgentes, sí, pero también focalizadas en esos escenarios de alto riesgo, y no en una exposición indiscriminada del código de cualquier sistema público.
Este enfoque por umbrales encaja mejor con el espíritu del ya malo Reglamento de Inteligencia Artificial que con una lectura maximalista de la transparencia algorítmica: se trata de elevar el nivel de supervisión allí donde el riesgo es sistémico —agentes autónomos difíciles de apagar, infraestructuras críticas, modelos capaces de ataques financieros o cibernéticos— y no de imponer una desnudez técnica generalizada que debilite la seguridad y la propiedad intelectual sin añadir garantías reales.
El Reglamento Europeo de Inteligencia Artificial (AI Act), en vigor desde el 1 de agosto de 2024 y plenamente aplicable a partir del 2 de agosto de 2026, aunque bajo revisión respecto de su despliegue completo en esa fecha, no exige publicar el código ni los algoritmos. Sí impone, en cambio, obligaciones de transparencia, documentación técnica y evaluación de riesgos para los sistemas de alto impacto. Es una regulación que parte todavía de una visión defensiva: trata la inteligencia artificial más como un riesgo que como una oportunidad.
El problema no está en lo que la ley dice, sino en lo que calla. Europa ha optado por regular primero y experimentar después, dejando a sus empresas atrapadas en informes, auditorías y advertencias que consumen más energía que la propia innovación.
Mientras Estados Unidos acelera y Asia invierte, Europa se examina a sí misma. El resultado no es seguridad, sino lentitud. Y en tecnología, la lentitud es otra forma de perder soberanía.
Si las políticas nacionales la interpretan sin equilibrio, el resultado será un ecosistema público que teme equivocarse y que, por tanto, renuncia a innovar.
Regular no es sinónimo de desconfiar; significa establecer límites claros sin asfixiar la innovación. La confianza no se construye desde la sospecha, sino desde la rendición de cuentas, la transparencia explicada y la responsabilidad compartida.
La ley puede imponer transparencia, pero solo la Ética verdadera garantiza progreso. Y si confundimos transparencia con exposición total, acabaremos limitando las herramientas más potentes en nombre de una virtud mal entendida.
Lo otro -esa pseudoética que confunde control con desconfianza- nos llevaría de vuelta al lugar donde tantas veces terminan las buenas intenciones: a la frustración, al miedo y al estancamiento.
Rafael Tamames es emprendedor y tecnólogo
