Compartimos nuestra contribución a la nueva revista de Internet Ciudadana. Este nuevo número, el 16, llega con artículos sobre la inteligencia artificial, la falacia de la neutralidad o la “ingenuidad tecnológica”, un término que bautiza este artículo y que pronunció alguien impensado.
“Desde hace tiempo existen múltiples pruebas de que algoritmos proyectados para maximizar la implicación en las redes sociales —redituable para las plataformas— premian emociones rápidas y penalizan en cambio expresiones humanas que necesitan tiempo, como el esfuerzo por comprender y la reflexión. Encerrando grupos de personas en burbujas de fácil consenso y fácil indignación, estos algoritmos debilitan la capacidad de escucha y de pensamiento crítico y aumentan la polarización social.A esto se sumó una confianza ingenuamente acrítica en la Inteligencia Artificial como ‘amiga’ omnisciente, dispensadora de toda información, archivo de toda memoria, ‘oráculo’ de todo consejo. Todo esto puede desgastar aún más nuestra capacidad de pensar de modo analítico y creativo, de comprender los significados, de distinguir entre sintaxis y semántica.
Aunque la IA puede proporcionar apoyo y asistencia en la gestión de tareas comunicativas, eludir el esfuerzo de pensar por nosotros mismos y conformarnos con una recopilación estadística artificial, a la larga corre el riesgo de erosionar nuestras capacidades cognitivas, emocionales y comunicativas.”
Esta cita no es nuestra. Tampoco pertenece a Evgeny Morozov, Shoshana Zuboff o algún otro acérrimo crítico del actual sistema sociotécnico y sus plataformas digitales. Aunque no lo creas, estos párrafos son parte del “Mensaje del Santo Padre León XIV para la 60a jornada mundial de las comunicaciones sociales”. Una misiva plagada de párrafos contundentes que alertan sobre los riesgos de las actuales TIC digitales y los desafíos a los que nos enfrentamos como humanidad por la adopción acrítica de la Inteligencia Artificial.
A pesar de profesar un profundo ateísmo, más si se trata de una institución como la Iglesia Católica, no podemos estar más de acuerdo con las afirmaciones del Santo Padre. ¿Se habrá convertido León XIV en un ciberpesimista? ¿Estará apostatando de la tecnología? ¿Perdió la fe en las redes sociales? ¿En un agnóstico de la Inteligencia Artificial?
Nada de eso. Robert Prevost, nombre bautismal del Papa León XIV, solo analiza críticamente los riesgos del actual modelo de desarrollo de las tecnologías digitales de comunicación e información. Un modelo impulsado por un puñado de magnates autoritarios y financiado por poderosos fondos de inversión especulativa que, guiados por un afán desmesurado e ilimitado de riqueza, ignoran las repercusiones sociales de su avaricia, algunas de ellas señaladas por el Papa y por las que ya están enfrentando a la justicia.1
Muy probablemente, al abordar este tema de ese modo, el Papa se sienta como Juan el Bautista: un predicador en el desierto. O como Moisés, indignado ante una sociedad embriagada de tecnomisticismo que idolatra a ChatGPT o se postra ante la última aplicación de moda.
Sin embargo, León XIV no se amedrenta en su carta y, al igual que hizo Jesús cuando agarró el látigo para expulsar a los mercaderes del templo, azota directamente a los falsos profetas de esta nueva religión binaria: los fundadores de un “puñado de empresas” que, aprovechando el control oligopólico de los algoritmos y los sistemas de Inteligencia Artificial, son “capaces de orientar sutilmente los comportamientos e incluso reescribir la historia de la humanidad”.22
“Confianza ingenuamente acrítica en la Inteligencia Artificial”
Ciertamente, es muy sencillo claudicar y dejarse seducir por este nuevo becerro de oro que nos maravilla con sus prodigiosas capacidades de procesamiento informático. Sin embargo, el Papa alerta de los peligros de confiar ciega e ingenuamente en las promesas que acompañan el despliegue de la Inteligencia Artificial. Promesas tecnofetichistas que no son nuevas. Los mismos argumentos que hoy repiten los medios de comunicación, ponentes en webinarios académicos o tu cuñado en la cena familiar, son los que a finales de los 90 acompañaron el despliegue de Internet y, una década después, el desarrollo de las redes sociales y las plataformas 2.0.
También entonces depositamos en aquellos sistemas la esperanza para: democratizar la comunicación y conformar una esfera pública más plural, diversa e informada; empoderar a la ciudadanía para una participación política más activa; reducir la brecha digital; educar de forma innovadora y más eficiente mejorando las posibilidades de los estudiantes más desfavorecidos; aumentar la transparencia y la rendición de cuentas de gobiernos y empresas que serían fiscalizadas por la ciudadanía; o la creación de comunidades globales que nos permitieran alcanzar mayor equidad y justicia social.
Sería demagógico afirmar que nada de esto se alcanzó. Evidentemente, Internet y sus aplicaciones, posibilitan la producción colaborativa de conocimiento, permiten comunicarnos con una inmediatez impresionante, articular con personas de cualquier parte del planeta o aprender y divertirnos con memes y videos, entre otras muchas cosas.
Pero si profundizamos el análisis, ¿cuáles de aquellas promesas se cumplieron realmente?, ¿qué hemos logrado transformar estructuralmente?, ¿tenemos sociedades más democráticas y justas o creció la exclusión y la inequidad? Casualmente, la acertada carta del Papa coincidió con dos noticias globales que aportan respuestas concretas a estas preguntas.
Noticia 1: prohibiciones
La primera es que Francia y España, siguiendo los pasos de Australia, prohibirán el uso de redes sociales a menores de 15 y 16 años, respectivamente.3 Esta controvertida medida fue aprobada por mayoría en la Asamblea Nacional francesa –130 votos a favor frente a 21 en contra– y cuenta con el respaldo del 79% de los adultos y de un 67% de los jóvenes que la consideran justificada.
Estas leyes se aprobaron para mitigar los daños, evidentes y probados, que provocan en la salud mental de jóvenes (y adultos): “estas redes sociales prometían conectar, fragmentaron. Prometían informar, saturaron. Prometían divertir, encerraron.”, afirmó una de las diputadas que respaldó la iniciativa.
El presidente español, Pedro Sánchez, anunció que las plataformas como Instagram, Facebook, TikTok, Snapchat, X o Twitch, tendrán que implementar obligatoriamente mecanismos de verificación de la edad de quien accede. De esta forma, aspira a proteger a los menores del “salvaje Oeste digital” donde abunda la pornografía, la manipulación y desinformación, la violencia o los abusos.
Al anunciar las restricciones –que la Unión Europea está estudiando implementar en todos los países miembros porque “enganchan a los niños a algoritmos manipuladores”– Sánchez apuntó contra los “amos del algoritmo”, gobernantes de “Estados fallidos” donde no se respetan legislaciones ni se persiguen los delitos. Y señaló particularmente a uno de estos tecnooligarcas: Elon Musk y su Inteligencia Artificial Grok, investigado por la creación de millones de imágenes pornográficas de mujeres sin su consentimiento: “los directores generales de estas plataformas tecnológicas se enfrentarán a responsabilidades penales por no eliminar contenidos ilegales o que inciten al odio. Se acabó ocultarse bajo el código y decir que la tecnología es neutra”. Sus declaraciones le valieron los insultos de “tirano y traidor” por parte de Musk.
Noticia 2: rentabilidad
La segunda noticia que coincidió con la carta del Pontífice, fue el anuncio del crecimiento exagerado de las ganancias de las Big Tech, alimentado por las inversiones en IA Generativa. Tesla/X, Alphabet, Amazon, Meta, Nvidia, Oracle y Microsoft alcanzaron en 2025 “cifras inéditas” que no solo aumentan su ya inmensa riqueza –los dueños de estas empresas integran la lista de las diez personas más ricas del mundo, en el orden que las citamos– sino que consolidan su descomunal poder. Un poder que les autoriza a insultar presidentes o ignorar leyes.
“Tal vez lo más llamativo es lo sencillo que ha sido este proceso de transformación de la utopía en distopía tecnológica. Lo familiar y coherente que nos ha resultado esta situación de indefensión colectiva y dependencia digital extrema”. César Rendueles, Redes vacías Tecnología catastrófica y el fin de la democracia.
¿Será que estamos usando mal las tecnologías?
No. El presidente español, en sus declaraciones, apuntó en la dirección adecuada al recordar que la tecnología no es neutra. Una falacia que, de tanto repetirla, se ha convertido en una especie de virtud teológica tecnocientífica.
Un mito muy útil ya que deriva la responsabilidad sobre quienes usan la tecnología y no sobre quienes la producen: “No son ellos a quienes hay que señalar, sino a esos traficantes que con sus algoritmos crean adicciones. Hay que neutralizarlos”, alegó el diputado francés Rodrigo Arenas, al oponerse a la ley aprobada en su país por creer que culpabiliza a las familias y profesores, cuando son las víctimas de las plataformas.
No existe la “neutralidad técnica”, ni siquiera de objetos sencillos como un martillo o un cuchillo. Desde una concepción instrumental y funcional, ciertamente estos artefactos pueden ser usados para algo bueno o malo. Eso no significa que sean neutras, porque cualquier tecnología está imbuida de valores humanos, empezando por los principios y la visión de mundo de quienes diseñan o financian. En ese diseño influyen también otros factores externos como el contexto social, económico, político.
Por lo tanto, no son solamente herramientas sin implicaciones éticas. Todas encarnan valores, principalmente cuando se integran dentro de un sistema tecnológico más amplio que modela los comportamientos sociales y consolida estructuras de poder.
No hay que perder la fe
El Papa León XIV termina su misiva con una recomendación: ser escépticos y no dejarnos dominar por la ingenuidad. Sin embargo, esa penitencia no implica perder la fe y dejar de creer en la tecnología.
Negar la neutralidad nos permite reconocer que todo desarrollo se rige por ciertas reglas, valores y normas que están presentes en el diseño de los objetos técnicos. Estas especificaciones integran lo que el filósofo canadiense Andrew Feenberg llama el “código técnico”. Este código naturaliza las decisiones de dominación como si fueran puramente técnicas o relacionadas con la eficiencia, neutrales, cuando son profundamente sociopolíticas y económicas. En el caso de las TIC y la IA, este código lo redactan los hombre (blancos, del Norte Global, heteronormativos) más ricos del planeta.
Feenberg, al igual que León XIV, nos invita a un “involucramiento táctico”. Esto significa apropiarse de los “elementos técnicos” para diseñar tecnologías desde otros paradigmas y alejarnos así de los códigos opresores. Solo evaluando seriamente sus impactos sociopolíticos o medioambientales podremos construir tecnologías con un verdadero fin democrático y liberador.
Por ejemplo, los elementos técnicos que permiten las creación de redes sociales se puede regir por un código técnico que favorece los intereses de un personaje como Elon Musk que nos traiciona entregando nuestros datos por varios puñados de monedas de plata o por otro que crea redes libres y diversas como las del Fediverso.4 Y así con cada una de las TIC digitales.
León XIV tiene claro que el código técnico que rige el desarrollo actual de la Inteligencia Artificial no augura un futuro prometedor para la humanidad. Sorprendentemente, su opinión coincide con la de Dario Amodei, que nada tiene que ver con la religión. Amodei es el director ejecutivo de Anthropic/Claude, una empresa fundada por exempleados de OpenIA (ChatGPT) que abandonaron la compañía debido a las polémicas decisiones de su presidente Sam Altman.
En un extenso manifiesto publicado en enero de 2026, Amodei afirma que “la humanidad debe despertar ante los peligros de la IA”5 . Y esboza cinco áreas críticas de riesgo: que la IA escape del control humano; que se use con fines destructivos; que se profundice la exclusión económica y se concentre más la riqueza debido a los cambios en el ámbito laboral que implica esta tecnología; que sea controlada por actores irresponsables y autoritarios concentrando el poder;6 y que no podamos enfrentarnos a los efectos imprevisibles de la IA. Cómo “única solución”, Amodei aboga por legislación y propone una “Constitución de la IA” definiendo claramente qué podrán hacer, y qué no, los algoritmos que rigen su funcionamiento.
Pareciera que la Inteligencia Artificial logró algo impensado: poner de acuerdo a ciencia y religión. Tanto la fe como los postulados científicos coinciden en recomendarnos que evitemos la confianza ingenua y acrítica en la Inteligencia Artificial y en todas las promesas que la rodean. Ojalá como humanidad estemos a la altura de dar respuesta a este desafío sin tener que esperar al Juicio Final.
Notas y referencias
- “Los gigantes tecnológicos se enfrentan a un juicio histórico en EE. UU. por acusaciones de adicción a las redes sociales”. Meta, YouTube y TikTok acusados de crear productos intencionadamente adictivos y perjudiciales para los jóvenes. Meta, incluso, es consciente de que muchos de sus anuncios son engañosos o, directamente, estafas. Así lo evidencian documentos internos de la compañía que calculan que el 10% de sus ingresos se obtienen por estos anuncios fraudulentos, unos 15.000 millones de anuncios fraudulentos al día. Sin embargo, evitan tomar medidas porque eso implicaría perder miles de millones de ingresos por publicidad.
︎ - Este empeño autoritario por reescribir la historia llevó a Elon Musk a ofrecer millones de dólares a Wikipedia para que cambie su enfoque, acusando a la enciclopedia colaborativa de ser “woke”. Al ignorar su propuesta, Musk anunció su propia alternativa Grokipedia, alimentada por su inteligencia artificial. ︎
- Medidas polémicas sobre las que no se ha cerrado el debate pero que tienen su correlato en el mundo fuera de línea con prohibiciones para el acceso de los jóvenes a otros productos dañinos como la venta de alcohol o tabaco o el acceso a las apuestas deportivas. ︎
- “Las redes sociales existentes se adaptan mucho mejor al programa iliberal que a un proyecto emancipador. Cuanto más disparatada sea la campaña, cuanto menos dependa de la construcción de lazos políticos sólidos, mejor es la relación entre esfuerzo invertido y resultados. Dedicando una hora al día a Twitter puedes convencer a millones de que la Tierra es plana y de que Hillary Clinton participa en una red de pedofilia satánica en una pizzería de Washington. Hacen falta vidas enteras de huelgas y asambleas para convencer a la gente de que el jefe que los explota es un explotador”, afirma el sociólogo César Rendueles en su último libro titulado “Redes vacías. Tecnología catastrófica y el fin de la democracia”. ︎
- Hace dos años ya publicó otro con bastante repercusión sobre los posibles ámbitos donde impactaría la IA. ︎
