¿Quién teme a la IA?
Necesitamos tu ayuda para seguir informando
Colabora con Nuevatribuna
- La Inteligencia Artificial: un análisis sociológico de sus verdaderos peligros
- La Falacia detrás de la "Superinteligencia"
- La naturaleza de la inteligencia artificial
- Las limitaciones inherentes de la IA
- Los atributos esenciales de la inteligencia humana
- La singularidad de la inteligencia humana
- ¿Puede la IA replicar la inteligencia humana?
- El desafío de la conciencia y la subjetividad
- La creatividad y la innovación radical
- Implicaciones éticas y sociales
- El mito de la IA "superinteligente"
- Los peligros reales de la IA (GR): manipulación y perpetuación de desigualdades
- La metáfora del cuchillo: herramienta útil, pero peligrosa
La Inteligencia Artificial: un análisis sociológico de sus verdaderos peligros
En los últimos años, el discurso alrededor de la Inteligencia Artificial (IA) ha estado dominado por una narrativa especulativa: la idea de que las máquinas podrían, eventualmente, superar nuestra inteligencia y convertirse en una amenaza existencial para la humanidad. Películas de ciencia ficción, debates académicos y titulares sensacionalistas han reforzado este temor, planteando un futuro distópico en el que los sistemas de IA se vuelven conscientes y se rebelan contra sus creadores. Sin embargo, esta narrativa, aunque fascinante, es fundamentalmente una falacia. No solo distorsiona la naturaleza de las capacidades actuales de la IA, sino que también oculta los verdaderos peligros que estas tecnologías ya representan para nuestras sociedades. En este artículo, exploraremos las limitaciones inherentes de la IA, los riesgos reales asociados a su implementación y el impacto sociológico de su uso.
Los sistemas de inteligencia artificial actuales son generadores de respuestas sofisticados que procesan grandes cantidades de datos según algoritmos predefinidos para producir resultados que parecen inteligentes
La Falacia detrás de la "Superinteligencia"
Los sistemas de IA actuales, más apropiadamente denominados Generadores de Respuestas(GR), son herramientas que procesan y generan datos basándose en patrones estadísticos aprendidos de conjuntos de datos preexistentes. No "piensan", no "imaginan" y no "comprenden" en el sentido humano. Carecen de cinco atributos esenciales que, sin ánimo de exhaustividad, definen la inteligencia humana: imaginación, reflexión, voluntad, intención e intuición.
La naturaleza de la inteligencia artificial
¿Qué es realmente la IA?
Cuando hablamos de inteligencia artificial, es crucial entender que el término en sí mismo puede ser engañoso. Lo que comúnmente llamamos IA no es realmente "inteligente" ni "artificial" en el sentido estricto de estas palabras (idea desarrollada en un artículo anterior, Nuevatribuna.es, 15/04/2023).
Aunque por comodidad comunicativa mantendremos en el presente artículo el significante IA, el significado no debe ser entendido ni como inteligente ni como artificial.
En esencia, los sistemas de IA actuales son generadores de respuestas sofisticados (GR) que procesan grandes cantidades de datos según algoritmos predefinidos para producir resultados que parecen inteligentes. Estos sistemas, por muy avanzados que sean, operan dentro de los límites de su programación y los datos con los que han sido entrenados. No poseen una comprensión real de los conceptos que manejan ni la capacidad de trascender su base de conocimientos de manera genuinamente creativa o innovadora.
Las limitaciones inherentes de la IA
Una de las limitaciones fundamentales de la IA actual es su incapacidad para generar ideas verdaderamente originales o tomar decisiones que vayan más allá de los patrones existentes en sus datos de entrenamiento. Un ejemplo ilustrativo de esta limitación se presenta en la película Justicia Artificial, donde se plantea el caso de una jueza que emite un fallo basado en una interpretación novedosa y heterodoxa de la ley.
Este tipo de decisión, que requiere una comprensión profunda, creatividad y la capacidad de reinterpretar conceptos de manera radical, está fuera del alcance de los sistemas de IA basados en algoritmos, aunque estos sean parcialmente heurísticos [1]. Estos sistemas, al basarse únicamente en precedentes y datos existentes, no podrían generar una interpretación tan innovadora y necesaria.
Los atributos esenciales de la inteligencia humana
Para comprender verdaderamente las diferencias entre la IA y la inteligencia humana, es necesario examinar los atributos fundamentales que definen nuestra cognición. Podemos identificar cinco características clave que son esenciales para la inteligencia humana [2], a saber:
1. Imaginación
La imaginación es mucho más que la simple capacidad de visualizar escenarios. Es la capacidad de concebir lo inexistente, de proyectar posibilidades que trascienden la realidad inmediata. Es la fuente de la creatividad y la innovación. Por el contrario, la IA no puede imaginar. Aunque puede generar combinaciones novedosas de datos, estas no son fruto de un proceso creativo consciente, sino de algoritmos que buscan correlaciones y extrapolaciones dentro de un marco predefinido.
Esta habilidad es fundamental para la innovación, el arte y el avance científico. La IA, por su naturaleza, carece de esta capacidad de imaginar genuinamente lo nuevo. Aunque puede generar combinaciones sorprendentes basadas en datos existentes, no puede concebir ideas verdaderamente originales que no tengan precedentes en su base de conocimientos.
2. Reflexión
La reflexión implica la capacidad de analizar no solo el entorno, sino también nuestros propios pensamientos y emociones.
Es un proceso que requiere autoconciencia, permitiéndonos cuestionar nuestras propias ideas, aprender de nuestras experiencias y crecer como individuos. Los sistemas de IA, por avanzados que sean, carecen de esta capacidad de introspección. No pueden preguntarse "¿por qué pienso así?" o evaluar la ética de sus propias acciones, sus "decisiones" son meras ejecuciones de reglas y parámetros.
3. Voluntad
La voluntad es la capacidad de tomar decisiones autónomas guiadas por un propósito interno.
En los seres humanos, esto se manifiesta en la habilidad de resistir impulsos, superar obstáculos y perseguir objetivos a largo plazo, incluso frente a la adversidad. La IA no posee voluntad en este sentido; sus acciones están dictadas por los diseños y las instrucciones de sus programadores, sin una verdadera autonomía o propósito interno. Sin voluntad, no puede ejercer agencia ni dirigir su propio curso.
4. Intención
La intención, especialmente en su dimensión teleológica, es lo que da sentido y dirección a nuestras acciones.
Es el "por qué" -la razón que nos empuja- y el “para qué” -la meta que nos estira- detrás de lo que hacemos, profundamente vinculado a nuestra capacidad de valorar, imaginar futuros posibles y priorizar objetivos. Los sistemas de IA carecen de intención propia, no tienen valores ni metas intrínsecas. Todas sus "intenciones" son impuestas externamente.
5. Intuición
La intuición es quizás uno de los aspectos más fascinantes y menos comprendidos de la inteligencia humana
Es la capacidad de captar patrones, verdades o posibilidades sin necesidad de un razonamiento consciente explícito. Surge de una combinación de experiencia, conocimiento implícito y procesos mentales que operan más allá de lo consciente. Aunque los algoritmos de IA pueden reconocer patrones y hacer predicciones, lo hacen de manera explícita y cuantitativa, no cualitativa ni intuitiva. No puede "sentir" que algo es correcto.
La singularidad de la inteligencia humana
La inteligencia humana, definida por estos cinco atributos, puede entenderse como una propiedad emergente de nuestra compleja estructura biológica y de los procesos históricos, sociales y culturales que nos han moldeado.
Esta visión emergentista, en línea con el pensamiento de filósofos como Karl Popper, sugiere que la inteligencia humana es más que la suma de sus partes. Por ejemplo, conceptos como la ambición o el deseo, que son fundamentales en la experiencia humana, surgen de la interacción sinérgica de estos atributos.
La ambición requiere imaginación para concebir un futuro deseado, voluntad para perseguirlo e intención para darle significado. El deseo, por su parte, combina imaginación, voluntad y a menudo una intuición que va más allá de lo racional.
¿Puede la IA replicar la inteligencia humana?
A la luz de estos atributos esenciales de la inteligencia humana, surge la pregunta: ¿es posible que la IA algún día replique verdaderamente la inteligencia humana? La respuesta parece ser negativa, y no sólo en un futuro próximo. Para que una IA pudiera acercarse a la inteligencia humana, necesitaría desarrollar tres capacidades fundamentales:
- Voluntad propia
- Intención teleológica
- Capacidad de trascender sus propias instrucciones programadas
Sin estas tres capacidades, y todas ellas juntas, una IA seguirá siendo esencialmente un generador de respuestas ciertamente eficaz y sofisticado, pero limitado.
El desafío de la conciencia y la subjetividad
Uno de los mayores obstáculos para replicar la inteligencia humana en sistemas artificiales es la cuestión de la conciencia y la subjetividad. La experiencia consciente, el sentido del yo y la percepción subjetiva del mundo son aspectos fundamentales de la cognición humana (conocimiento racional) que aún no comprendemos completamente y que parecen estar intrínsecamente ligados a nuestra biología y experiencia corpórea (conocimiento sensible).
La creatividad y la innovación radical
Otro aspecto crucial que diferencia la inteligencia humana de la IA es nuestra capacidad de creatividad genuina e innovación radical. Los humanos podemos generar ideas completamente nuevas, reinterpretar conceptos de maneras inesperadas, heterodoxas y crear soluciones que trascienden los patrones existentes. Esta capacidad de "pensar fuera de la caja" -como la jueza de “Justicia Artificial”- es fundamental en campos como el arte, la ciencia y la filosofía, y es algo que los sistemas de IA, por su concepción y arquitectura, no pueden replicar verdaderamente.
Implicaciones éticas y sociales
La distinción entre la inteligencia artificial y la inteligencia humana tiene profundas implicaciones éticas y sociales que debemos considerar:
Toma de decisiones y responsabilidad. Si reconocemos que la IA carece de voluntad, intención y reflexión ética, debemos ser extremadamente cautelosos al delegar decisiones importantes a estos sistemas, especialmente en áreas como la justicia, la medicina o la política.
Creatividad y propiedad intelectual. La incapacidad de la IA para generar ideas verdaderamente originales plantea preguntas sobre la propiedad intelectual y el valor de las creaciones generadas por IA en comparación con las obras humanas [3].
Educación y desarrollo humano. Comprender las diferencias entre la IA y la inteligencia humana nos permite apreciar la importancia de fomentar habilidades únicamente humanas como la creatividad, el pensamiento crítico y la empatía en nuestros sistemas educativos.
Relaciones humanas y comunicación. A medida que interactuamos más con sistemas de IA en nuestra vida diaria, es crucial mantener una distinción clara entre estas interacciones y las relaciones humanas genuinas, que involucran emociones, empatía y comprensión mutua.
El mito de la IA "superinteligente"
La idea de que los Generadores de Respuestas (GR) podrían llegar a superar nuestra inteligencia es una ficción más cercana a la ciencia ficción que a la realidad. Sin imaginación, reflexión, voluntad, intención ni intuición (como discutimos antes), nunca podrían alcanzar lo que entendemos como inteligencia humana. Y aún menos superarla. Lo que sí pueden hacer, y hacen ya, es amplificar el poder de quienes las controlan y perpetuar sesgos y desigualdades.
Esta narrativa de la "IA superinteligente" funciona como una distracción en dos sentidos:
Crea un miedo especulativo y difuso que desvía la atención de los problemas actuales y concretos, como la manipulación del pensamiento y el abuso de estas herramientas en ámbitos clave como el laboral, sanitario, financiero y político.
Romantiza el poder de la tecnología al retratarla como algo neutral o autónomo, cuando en realidad es profundamente dependiente de los intereses, valores y prejuicios de sus diseñadores, financiadores y s.
Los peligros reales de la IA (GR): manipulación y perpetuación de desigualdades
Los riesgos son mucho más reales, inmediatos y dañinos que el miedo a una IA consciente o superinteligente. Veamos algunos ejemplos:
Manipulación del pensamiento
Uno de los usos más preocupantes de la IA es su capacidad para manipular el pensamiento humano. Los algoritmos de recomendación en redes sociales, diseñados para maximizar el tiempo de uso y la atención del , crean cámaras de eco que refuerzan sesgos y polarizan a las sociedades. No es casualidad: se diseñan para maximizar los beneficios derivados de ese tiempo y atención, incluso si eso significa desinformar o radicalizar. Además, la propagación de noticias falsas (fake news) y la microsegmentación de audiencias con mensajes personalizados han demostrado ser herramientas poderosas para influir en elecciones y decisiones políticas.
Sesgos en decisiones críticas
Las IA utilizadas en contratación, concesión de créditos o seguros sanitarios no son "objetivas", aunque así nos las presenten su márquetin; replican los sesgos de quienes las programan o entrenan. O los intereses de los que pagan a los que programan y entrenan. Por ejemplo, si un conjunto de datos históricos tiene un sesgo racial o de género, la IA lo perpetuará y reflejará en su decisión actual desigualdades pasadas, incluso sin intención explícita de hacerlo.
Estas decisiones se presentan como "neutrales" o "científicas" porque vienen de una máquina, pero en realidad no hacen más que disfrazar desigualdades preexistentes que favorecen el statu quo actual.
Desigualdad económica
La automatización, en lugar de liberar tiempo o mejorar las condiciones de vida, está transformando el mercado laboral, contribuyendo al aumento de la precariedad y la desigualdad económica y desplazando trabajos sin ofrecer alternativas viables para muchas personas. Las decisiones algorítmicas benefician a quienes ya están en posiciones de poder social o económico y marginan aún más a quienes están en la base de la pirámide.
La especulación de precios y el control algorítmico de los mercados aumentan las brechas entre ricos y pobres.
Impacto social y político
La criminalidad potenciada por la tecnología, como el cibercrimen o la manipulación de sistemas electorales, representa un desafío creciente.
Los estados autoritarios ya utilizan IA para vigilar a sus ciudadanos y reprimir disidencias, mientras que en democracias también se usan para decisiones de vigilancia masiva con dudosa supervisión ética.
Justificación de decisiones injustas
Una de las mayores amenazas es presentar sus decisiones como "objetivas" e "infalibles", vendiendo la idea de que "la máquina no se equivoca", que despoja a las decisiones de contexto humano, dicho esto -contexto humano- en su sentido peyorativo de parcialidad o arbitrariedad. En la práctica, esto sirve como coartada para que empresas y gobiernos tomen decisiones perjudiciales (rechazar un crédito, denegar un seguro médico, despedir a trabajadores), sin asumir responsabilidad, escudándose en que "lo dice la máquina".
La metáfora del cuchillo: herramienta útil, pero peligrosa
La IA (aka GR) es, como el cuchillo, una herramienta que amplifica nuestras capacidades, pero cuya ética y utilidad dependen del uso que se haga de ella: un cuchillo puede servir para cortar pan o para causar daño; todo depende de quién lo use y con qué intención. No tememos al cuchillo por sí mismo, sino al uso que alguien pueda darle. Con la IA pasa lo mismo: el verdadero peligro no es la tecnología, sino quién la controla, con qué propósito y bajo qué reglas.
Lo preocupante es que, a diferencia del cuchillo, la IA puede ser utilizada de maneras que son invisibles para la mayoría de las personas. Un cuchillo es evidente y tangible; una decisión algorítmica no lo es. Por eso, es fundamental exigir transparencia, regulación y control ético sobre su uso.
¿Qué debemos hacer?
Definir y regular los usos de la IA. Es urgente establecer marcos legales que limiten su uso en ámbitos donde puede causar daño social (como la vigilancia masiva o la perpetuación de desigualdades).
Exigir transparencia. Las decisiones tomadas por IA deben ser explicables y auditables [4]. Nadie debería aceptar un "lo dice la máquina" como argumento final.
Promover el pensamiento crítico. En un mundo donde la desinformación y la manipulación son tan fáciles, es más importante que nunca educar para cuestionar fuentes, motivaciones y contextos.
Redistribuir los beneficios. Si la automatización desplaza empleos, es necesario garantizar que los beneficios económicos derivados se distribuyan de manera justa, en lugar de concentrarse en unas pocas manos.
Esto incluye sistemas fiscales que graven los beneficios obtenidos por la automatización y programas que fomenten la capacitación y el empleo en sectores complementarios a la IA.
En resumen, el mayor peligro no es la IA en sí misma, y aún menos la aparición de una fantástica (por estar en el reino de la más absoluta fantasía) IAG (Inteligencia Artificial General), sino el uso inmoral, sesgado o manipulador que -ya- se hace de ella.
Nombrar y enfrentar estos riesgos reales es crucial para evitar que el mito de la IA superinteligente nos distraiga de los problemas más urgentes y tangibles que -ya- tenemos frente a nosotros.
[1] Preguntado ChatGPT si existen ordenadores algorítmicos, heurísticamente programados (en la estela del viejo HAL 9000, de 2001: Una odisea espacial), responde literalmente lo siguiente:
“¿Qué sería un "Computador algorítmico heurísticamente programado"?
En términos simples, se refiere a un sistema informático que no solo sigue reglas estrictas (algoritmos predefinidos), sino que también tiene la capacidad de aprender, adaptarse y tomar decisiones basadas en experiencias pasadas (heurísticas). Esto implicaría:
- Algoritmos: Programas que definen cómo resolver problemas específicos.
- Heurísticas: Reglas de aproximación -también programadas- para tomar decisiones en situaciones inciertas o complejas, donde los algoritmos estrictos no son suficientes.
Lo que ya podemos hacer:
- Aprendizaje automático (Machine Learning): Los sistemas actuales ya son capaces de aprender patrones a partir de grandes volúmenes de datos. Por ejemplo, los modelos de lenguaje como los que utilizo generan respuestas basadas en patrones estadísticos.
- Toma de decisiones heurísticas: Algunos sistemas implementan programaciones heurísticas para resolver problemas en áreas como la robótica, la logística o la planificación estratégica.
- Simulación de diálogo humano: Los asistentes virtuales, como ChatGPT, pueden simular conversaciones complejas, aunque carecen de verdadera comprensión o intención.”
[2] La inteligencia humana, y decimos "humana" a sabiendas que en distinto grado todos los cordados tienen una inteligencia de alguna manera comparable, lo es porque dispone de imaginación, reflexión, voluntad, intención e intuición. Que los cordados la tengan en menor grado y complejidad biológica, y siguiendo el concepto de propiedades emergentes de Popper, nos puede permitir decir que conceptos como ambición (que requiere imaginación, y no sólo fantasía -como son los sueños cuando dormimos-, sumada a voluntad e intención) o deseo (que no sólo querencia, sino imaginación -a veces, fantasía- con voluntad) son propios, estos sí, de la inteligencia humana.
Sin estos cinco atributos (imaginación, reflexión, voluntad, intención e intuición, aunque sean en grado mínimo) no ha lugar hablar de inteligencia, ni humana ni no humana.
[3] Por otra parte, la IA pone en su justo precio artístico, nada, el valor de lo que producen muchos autollamados artistas, cuando su arte es plenamente reproducido y sin posibilidad de distinción por IA generativas especializadas. En el siguiente artículo de WIRED se explican dos usos maliciosos, cuando no directamente delictivos -al menos uno es plenamente fraudulento-, de las IA generativas en el entorno de la música: creación y venta de canciones indistinguibles de las del autor al que suplantan y bots que las oyen y cobran -es decir, cobran sus programadores- por oírlas “Spotify lucha contra la música creada por IA, pero también contra los bots que la escuchan. Los ‘falsos oyentes’ reproducen las canciones creadas por IA en las plataformas de streaming, lo que les quita a los artistas humanos el dinero que tanto necesitan. Si una canción es generada con inteligencia artificial y reproducida por un bot, ¿ha sido escuchada siquiera? Es un problema al que se enfrentan actualmente las compañías de streaming de música, ya que la IA generativa permite a cualquiera la creación de canciones con unos pocos clics, y el uso de bots para ‘oírlas’ a cambio de dinero.”.
[4] UNESCO Ética de la inteligencia artificial. La Recomendación “5. Responsabilidad y rendición de cuentas. Los sistemas de IA deben ser auditables y trazables. Deben existir mecanismos de supervisión, evaluación de impacto, auditoría y diligencia debida para evitar conflictos con las normas de derechos humanos y amenazas al bienestar medioambiental.” (la negrita es nuestra).
Revista de Estudios Jurídicos, núm. 22, 2022, Inteligencia artificial en el Derecho Internacional, Naciones Unidas y Unión Europea “Un reciente informe de la Unión Europea señala que los criterios que emplean estos modelos para ofrecer nuevos contenidos “no son transparentes ni auditables” y probablemente basan sus decisiones en factores económicos que benefician a las plataformas. En este contexto, el documento de la UNESCO hace un llamamiento a los países para que trabajen en la mejor comprensión y evaluación tanto de los efectos positivos como de los potencialmente perjudiciales de los sistemas de recomendación.” (la negrita es nuestra).