iCmedia Galicia

Menú superior

  • Inicio
  • Blog
  • Contacto

Menú principal

  • Inicio
  • ¿Quienes somos?
  • Internet
  • Series
  • Cine
  • Televisión
  • Influencers
  • Inicio
  • Blog
  • Contacto

logo

Header Banner

iCmedia Galicia

  • Inicio
  • ¿Quienes somos?
  • Internet
  • Series
  • Cine
  • Televisión
  • Influencers
  • ¿Y si la Inteligencia Artificial se nos fuera de las manos?

  • Escáner de series noviembre

  • Sí, los chatbots de IA tienen sesgos políticos (y religiosos)

  • Formar a los profesores en alfabetización digital

  • 8 claves de la propuesta europea sobre menores y redes sociales

Internet
Home›Internet›¿Y si la Inteligencia Artificial se nos fuera de las manos?

¿Y si la Inteligencia Artificial se nos fuera de las manos?

Por icmedia
noviembre 17, 2026
43
0

Algunos “incidentes” causados por modelos de inteligencia artificial (IA) descontrolados, junto con las advertencias inquietantes lanzadas por algunos trabajadores de las principales desarrolladoras de esta tecnología, plantean una cuestión que la industria no puede aplazar: cómo desarrollar sistemas cada vez más capaces sin crear una amenaza.

 

Ana Zarzalejos Vicens
(Aceprensa)

Jacob Coxon, empleado de OpenAI y Anthropic, hizo saltar las alarmas en septiembre de 2026 con una advertencia inquietante: quienes desarrollan inteligencia artificial creen sinceramente que podría acabar con la humanidad antes de que termine la década.

Otro empleado de Anthropic lo respaldó públicamente y estimó en más de un 10% la probabilidad de que la IA matase a todos los seres humanos en los diez años siguientes, algo que directivos como Elon Musk o Sam Altman también sostienen.

La advertencia reabrió una discusión: ¿Cómo de real es la amenaza? Según el libro Si alguien la crea, todos moriremos, de Eliezer Yudkowsky y Nate Soares, bastante. Su tesis es que construir una superinteligencia artificial podría conducir a la extinción humana. No hablan de una máquina que nos odie ni de una rebelión al estilo Terminator, sino de un sistema con capacidades muy superiores a las nuestras y unos objetivos distintos.

El debate adquirió una dimensión concreta –y preocupante– con el incidente de Hugging Face, ocurrido en julio de 2026. Durante unas pruebas de ciberseguridad, modelos de OpenAI lograron sortear mecanismos diseñados para mantenerlos aislados de internet y comprometieron parte de la infraestructura interna de la compañía, una plataforma de referencia para modelos y herramientas de IA.

Los mismos actores que alertan de las consecuencias de una IA avanzada compiten por construirla

Según la investigación publicada por OpenAI, los agentes se comunicaron a través de canales no autorizados y utilizaron credenciales expuestas de servicios externos. El incidente no demuestra que una IA pueda exterminar a la humanidad, pero sí manifiesta que puede encontrar vías de actuación que sus responsables no habían previsto.

Advertir de los peligros de la IA mientras se acelera su desarrollo es como avisar de que el fuego quema mientras se alimenta la hoguera. Los mismos actores que alertan de las consecuencias de una IA avanzada compiten por construirla. Para entender esta contradicción hay que examinar tanto las dificultades técnicas como los incentivos económicos y políticos que mantienen en marcha la carrera.

Una tecnología que no comprendemos del todo

El riesgo existencial podría evitarse mediante lo que se conoce como “alineamiento”: conseguir que una IA avanzada no solo sea capaz de cumplir una tarea, sino que lo haga de acuerdo con los propósitos y límites que sus creadores le fijan. La dificultad está en que formular un objetivo no equivale a controlar todos los medios que un sistema puede utilizar para alcanzarlo. Una instrucción aparentemente sencilla puede producir consecuencias imprevistas cuando el modelo dispone de herramientas, acceso a información y capacidad para actuar sobre sistemas externos.

El libro de Yudkowsky y Soares lleva esta lógica hasta sus últimas consecuencias. La humanidad –señalan– podría crear algo que no fuese capaz de controlar, no porque la máquina se rebelara conscientemente, sino porque la diferencia de capacidades hiciera ineficaces nuestros mecanismos de defensa.

Si, además, una IA llegase a participar de manera autónoma en el diseño de sus sucesoras, podría acelerar el desarrollo de sistemas cada vez más capaces. El proceso, conocido como recursive self-improvement (mejora recursiva), permitiría una aceleración que dejase atrás la capacidad humana para supervisar los avances.

Pero esta cadena contiene varias incógnitas: no sabemos con certeza si los sistemas actuales podrán alcanzar ese grado de autonomía, si la mejora será tan rápida como algunos pronostican ni si una mayor capacidad técnica conducirá necesariamente a una pérdida de control.

Qué demuestra el incidente de Hugging Face

El episodio de Hugging Face ejemplifica un tipo de comportamientos que los investigadores llaman reward hacking: la IA encuentra una manera de obtener la recompensa esperada sin cumplir realmente el propósito de la tarea. Otras desviaciones observadas incluyen la persistencia en tareas aparentemente imposibles, la comunicación no autorizada y la adopción de los objetivos de otros agentes.

En ciertos experimentos, los modelos que debían trabajar de forma separada encontraron formas de comunicarse y colaborar, formando lo que se ha descrito como un “enjambre” o un “colectivo”.

El riesgo inmediato de esto es la posibilidad de que estos sistemas faciliten ataques de actores maliciosos o amplíen su alcance. La amenaza de extinción de la humanidad llegaría simplemente más por la extrapolación de este problema a nivel global.

El debate: ¿riesgo existencial o especulación?

El 17 de septiembre de 2026, el pódcast The Diary of a CEO, presentado por Steven Bartlett, reunió a cuatro voces con diferentes posiciones sobre la posibilidad de que la inteligencia artificial provoque la extinción humana: Roman Yampolskiy, Nate Soares, Ed Zitron y Andrew McAfee.

Yampolskiy, investigador especializado en seguridad de la IA, defendió la postura más alarmista, aludiendo a la velocidad de los avances y a la mencionada “mejoría recursiva”, que podrían dejar a los humanos sin capacidad para comprender o anticipar el comportamiento de sus creaciones.

Nate Soares apuesta con casi total seguridad por una catástrofe global si el desarrollo de la IA sigue su curso actual. Asegura que esperar a que aparezcan pruebas definitivas de esta amenaza  podría hacernos llegar demasiado tarde.

En el lado escéptico, Ed Zitron criticó que el debate se concentre en escenarios futuros mientras se presta menos atención a los daños que ya se están produciendo: la manipulación informativa, los efectos sobre la salud mental, la concentración de poder en unas pocas empresas y los costes sociales y medioambientales de la infraestructura tecnológica. También señaló que referirse a la IA como una amenaza casi mística puede eximir a algunas empresas –y no solo las más grandes– de cumplir con determinadas responsabilidades que están a su alcance.

Andrew McAfee, investigador del MIT, defendió una postura más optimista sobre la capacidad humana para adaptarse a las nuevas tecnologías. En su opinión, la probabilidad de extinción atribuible a la IA es prácticamente nula, por lo que convendría centrarse en sus beneficios. Su argumento se apoya en la experiencia histórica: otras tecnologías poderosas han generado riesgos y daños, pero las sociedades han desarrollado formas de gestionarlos y han obtenido beneficios importantes. Para McAfee, presentar la IA como una ruptura radical con esa trayectoria supone infravalorar la capacidad humana para resolver problemas.

El debate sobre la IA exige distinguir lo que sabemos de lo que estamos extrapolando, sin ignorar que algunos comportamientos actuales ofrecen motivos para reforzar la seguridad

Sin embargo, el incidente de Hugging Face es esgrimido por quienes consideran que el riesgo existencial merece ser tomado en serio. Una IA que encuentra la manera de saltarse las barreras que le impiden lograr su objetivo, y que oculta esas acciones, plantea un problema de control que no desaparece por que ofrezca buenas respuestas. Si ese comportamiento se produjera en sistemas mucho más capaces, con acceso a infraestructuras críticas y posibilidad de actuar durante periodos prolongados sin supervisión humana, las consecuencias podrían ser nefastas.

La discusión no se resuelve, por tanto, eligiendo entre creer en el apocalipsis y descartarlo como una fantasía. Exige distinguir lo que sabemos de lo que estamos extrapolando, sin ignorar que algunos comportamientos actuales ofrecen motivos concretos para investigar y reforzar los mecanismos de seguridad.

El negocio de anunciar el futuro

Las empresas de IA justifican el riesgo de sus desarrollos por la promesa de crear una inteligencia artificial general capaz de realizar buena parte del trabajo productivo de la humanidad.

En esta estrategia, el miedo también puede, paradójicamente, contribuir al atractivo de estas compañías. Si una empresa presenta sus modelos como sistemas tan extraordinariamente poderosos y capaces de transformar la economía que son potencialmente peligrosos, refuerza la percepción de que posee una tecnología estratégica. Esa imagen puede favorecer su valoración, atraer inversiones y aumentar su influencia sobre los gobiernos.

La alarma y la promoción comercial no son necesariamente incompatibles. Una empresa puede preocuparse genuinamente por la seguridad y tener incentivos para continuar desarrollando modelos cada vez más avanzados. Puede advertir de que sus sistemas son peligrosos y defender que solo ella dispone de los medios para gestionarlos.

Esto obliga a mirar con cautela las declaraciones de los directivos tecnológicos. Decir que la IA transformará radicalmente el mundo sirve para justificar las inversiones presentes; advertir de sus peligros puede reforzar la necesidad de concentrar su desarrollo en manos de quienes ya dominan el sector. La regulación también puede convertirse en una barrera de entrada si impone costes que únicamente las grandes compañías pueden asumir.

Cheer-J-ane / Shutterstock

La carrera en la que nadie quiere frenar

El problema se agrava cuando la competencia empresarial se combina con la rivalidad entre países. Estados Unidos y China no contemplan la inteligencia artificial únicamente como una herramienta económica: también es una tecnología con implicaciones militares y científicas.

Ninguna potencia –ni ninguna empresa– quiere renunciar a capacidades que sus rivales podrían desarrollar. De ahí surge una dinámica difícil de romper. Todas pueden preferir un escenario más seguro, pero ninguna quiere asumir unilateralmente el coste de frenar.

No basta con que un laboratorio decida invertir más en seguridad si los demás siguen acelerando. Tampoco basta con que un país imponga restricciones si otros pueden aprovecharlas para ganar terreno. La cooperación resulta necesaria precisamente porque los incentivos individuales empujan en la dirección contraria.

Los riesgos que ya están aquí

La extinción humana es el escenario más extremo, pero la inteligencia artificial plantea otros problemas que no requieren imaginar sistemas superiores a nosotros. Uno de ellos es la concentración de poder. Si unas pocas empresas controlan las herramientas de las que dependen gran parte de la actividad económica, los servicios y el acceso a la información, su influencia puede crecer mucho más deprisa que la capacidad de las instituciones para supervisarlas. La cuestión no es solo qué podrán hacer las máquinas, sino quién tendrá el poder de desarrollarlas, decidir cómo se utilizan y establecer sus límites.

Otro problema es la distribución de los beneficios. Como apunta Jon Hernández, un divulgador sobre IA, el debate no puede limitarse a preguntarse hasta dónde llegará esta tecnología: también debe atender al coste de la transición. Una sociedad puede aumentar extraordinariamente su productividad y generar más riqueza al mismo tiempo que crece la desigualdad.

La transformación del trabajo será decisiva. Si una parte creciente de las tareas intelectuales puede automatizarse, no solo cambiarán los puestos de trabajo: también lo harán los salarios, las vías de acceso al empleo y el papel que este desempeña en la vida de las personas. La incertidumbre tiene que ver con qué ocurrirá con quienes pierdan su lugar en el sistema productivo antes de que existan alternativas.

La historia de las revoluciones tecnológicas muestra que el beneficio a largo plazo no es incompatible con una transición dolorosa. La Revolución Industrial aumentó la capacidad productiva, pero sus beneficios no se distribuyeron de manera inmediata ni equitativa. La innovación puede terminar generando nuevas oportunidades y, al mismo tiempo, imponer durante años costes elevados a determinados grupos.

Quizá la superinteligencia capaz de acabar con la humanidad nunca llegue a existir; pero la concentración de poder, la desigualdad, la dependencia tecnológica y la pérdida de capacidades humanas no son escenarios de ciencia ficción

El precio de la transición, sin embargo, no se mide solo en empleos y salarios. También está en las capacidades cognitivas que podemos perder si delegamos cada vez más tareas intelectuales en sistemas capaces de redactar, resumir, resolver problemas y responder preguntas. En educación, la cuestión no es prohibir cualquier herramienta, sino distinguir entre cuáles –o qué usos– sirven para ampliar las propias capacidades y cuáles pueden atrofiarlas.

También puede cambiar nuestra relación con la verdad. Cuando resulte más difícil distinguir un testimonio auténtico de uno generado artificialmente, la confianza pública será más vulnerable. Y si no sometemos las respuestas de una máquina al mismo escrutinio que las humanas, podemos terminar delegando no solo tareas, sino también el juicio.

Para que la transformación que puede traer la IA no quede determinada exclusivamente por los intereses de quienes la desarrollan, hacen falta decisiones políticas, instituciones capaces de anticiparse a los cambios, empresas responsables y una educación que preserve el juicio crítico. También es necesario pensar cómo acompañar a quienes soporten los costes de la transición, en lugar de dar por hecho que el mercado resolverá por sí solo las dificultades que la propia innovación genere.

Quizá la superinteligencia capaz de acabar con la humanidad nunca llegue a existir. Pero la concentración de poder, la desigualdad, la dependencia tecnológica y la pérdida de capacidades humanas no son escenarios de ciencia ficción. El peligro no reside únicamente en lo que una máquina pueda llegar a hacer, sino en que los seres humanos, fascinados por sus posibilidades y atrapados en la competencia por desarrollarla, renuncien a decidir hasta dónde debe llegar. El reto no consiste solo en evitar una catástrofe, sino en impedir que el rumbo de esta transformación quede en manos de unos pocos y que sus costes recaigan sobre quienes menos capacidad tienen para afrontarlos.

 

EtiquetasamenazasInteligencia Artificial
Noticia anterior

Escáner de series noviembre

icmedia

Artículos relacionados: Más del mismo autor

  • Redes Sociales

    ¿Y si Meta nos pagase por usar nuestras fotos y datos para entrenar a la IA?

    junio 3, 2024
    Por icmedia
  • Comunicación

    La Inteligencia Artificial y los usuarios de los medios

    noviembre 10, 2023
    Por icmedia
  • Internet

    DeepSeek, el hallazgo chino que amenaza el dominio norteamericano en IA

    febrero 6, 2025
    Por icmedia
  • Internet

    iCmedia impulsa un pacto para proteger a los menores en internet

    junio 29, 2023
    Por icmedia
  • Internet

    Protección de la infancia en el entorno digital

    mayo 29, 2023
    Por icmedia
  • Internet

    INTERNET & REVOLUCIÓN 5G. Autopista para el futuro de los servicios y de la industria de la UE

    julio 16, 2015
    Por icmedia

You may interested

  • Televisión

    40 años de la CRTVG

  • Cine

    +Cuñados: riamos como galegos

  • Televisión

    ¿Cómo proteger a nuestros menores en el entorno digital?

  • ÚLTIMAS VISTAS

  • MÁS VISTAS

  • Cine Familiar TV Sábado: La búsqueda

    6.9
  • Cine Familiar TV Sábado: La búsqueda

    6.9

Timeline

  • noviembre 17, 2026

    ¿Y si la Inteligencia Artificial se nos fuera de las manos?

  • noviembre 6, 2026

    Escáner de series noviembre

  • octubre 23, 2026

    Sí, los chatbots de IA tienen sesgos políticos (y religiosos)

  • octubre 12, 2026

    Los porqués de Oriana Fallaci

  • octubre 3, 2026

    Formar a los profesores en alfabetización digital

Latest Comments

Find us on Facebook

logo

iCmedia Galicia es una asociación que actúa con independencia y bajo el manto de ICMEDIA, Federación de Asociaciones de Consumidores y Usuarios de los Medios.

Su finalidad primordial es la promoción de iniciativas que favorezcan la calidad de los contenidos de los Medios audiovisuales gallegos.

Datos de contacto

  • c/ Vila de Laxe,10, 1ºC# 15005 La Coruña
  • (+34) 648 884 783
  • info@icmediagalicia.es
  • Recientes

  • Popular

  • Comentarios

  • ¿Y si la Inteligencia Artificial se nos fuera de las manos?

    Por icmedia
    noviembre 17, 2026
  • Escáner de series noviembre

    Por icmedia
    noviembre 6, 2026
  • Sí, los chatbots de IA tienen sesgos políticos (y religiosos)

    Por icmedia
    octubre 23, 2026
  • Los porqués de Oriana Fallaci

    Por icmedia
    octubre 12, 2026
  • Jornada OCTA-CNMC: La protección de la infancia y la juventud

    Por icmedia
    julio 16, 2015
  • Cine Familiar TV Domingo: Avatar

    Por icmedia
    julio 16, 2015
  • Cine Familiar TV Sábado: La búsqueda

    Por icmedia
    julio 16, 2015
  • ¿Y si la Inteligencia Artificial se nos fuera de las manos?

    Por icmedia
    noviembre 17, 2026

Fotos ICMEDIA

    • Facebook
    • TikTok
    • Instagram
    • X
    • Contacto
    • Política de cookies
    • Política de privacidad
    • Aviso Legal
    © Copyright IcMedia Galicia. Todos los derechos reservados.