Desde la fabricación de herramientas hasta la creación de inteligencia, la humanidad está llegando a una importante divisoria de aguas en su propio proceso de evolución.
Hace más de tres millones de años, a orillas de un río en la orilla occidental del lago Turkana, en la actual Kenia, los ancestros humanos tomaron una piedra y golpearon otra para desprender lascas afiladas y usarlas como herramientas. Este es uno de los registros de fabricación de herramientas de piedra más antiguos descubiertos hasta la fecha.
Desde entonces, aparecieron sucesivamente piedras, palos, agujas de hueso y arcos y flechas. Las herramientas se convirtieron en una extensión del cuerpo, ayudando a los ancestros humanos, que no eran los más rápidos al correr ni los más fuertes, a imponerse gradualmente en la competencia con otras especies.
Hace aproximadamente doce mil años, terminó la última gran glaciación y la Tierra comenzó a entrar en un período "postglacial" relativamente cálido. Los humanos empezaron a domesticar animales, cultivar plantas y roturar tierras, y la agricultura fue apareciendo sucesivamente en distintas regiones.
El paleoclimatólogo William Ruddiman llegó a plantear que, ya hace ocho mil años, la expansión agrícola en Eurasia y la quema a gran escala de bosques para abrir tierras de cultivo habían provocado un aumento anómalo de la concentración de dióxido de carbono en la atmósfera. Esto también se considera el punto de partida de la transición humana desde una adaptación pasiva a la naturaleza hacia una influencia y transformación activas de ella.
A partir de entonces, con herramientas cada vez más poderosas, los humanos comenzaron a adquirir capacidades muy superiores a las de otras especies. Para satisfacer sus propias necesidades, los humanos talaron bosques, extrajeron minerales y construyeron presas en los ríos, y un sistema cíclico centrado en el ser humano empezó a convertirse en una fuerza importante que influye en los cambios de la Tierra.
Los académicos han utilizado el término "Antropoceno" para describir esta era en la que las actividades humanas han transformado profundamente el sistema terrestre. Aunque este concepto, originado en la geología, aún no ha obtenido el reconocimiento oficial de la comunidad internacional de ciencias geológicas, desde el punto de vista de la evolución de la inteligencia y de la sociología, la historia en la que la sabiduría humana es la única fuente de inteligencia que impulsa la evolución de la Tierra está llegando a su fin.
Cuando los descendientes de la humanidad miren hacia atrás a la actual ola de IA, ¿cómo caracterizarán este momento? ¿Es el comienzo de que la humanidad domine una herramienta más poderosa, o el punto de partida de otro ciclo de evolución de la inteligencia? Independientemente de hacia qué lado se incline la respuesta final, una tendencia es cada vez más clara: estamos entrando en una era de "inteligencia dual" en la que la inteligencia humana y la inteligencia artificial coexisten.
Al despedirnos del "Antropoceno" y entrar en la era de la "inteligencia dual", ¿cómo debemos convivir con este nuevo sujeto inteligente?
El fin de las herramientas
La historia de la evolución humana a menudo puede encontrar marcas claras en los cambios de las herramientas.
Solemos utilizar las herramientas para periodizar la historia: Paleolítico, Neolítico, Edad del Bronce, Edad del Hierro, y luego la era moderna del vapor, la era eléctrica, la era de la información y la era de la inteligencia que está llegando. El cambio más central de una época suele condensarse en sus herramientas más representativas.
En el proceso de evolución de todas estas herramientas, el Paleolítico fue increíblemente largo, duró unos tres millones de años. Las herramientas de entonces se tomaban en su mayoría directamente de la naturaleza: desprender una lasca de piedra, afilar un palo, e incluso para obtener fuego se dependía de fuentes naturales como rayos o incendios forestales.
Durante este largo período de exploración, el progreso de las herramientas avanzaba lentamente en unidades de cientos de miles de años. Pero incluso con la ayuda de herramientas tan simples, sumada a la mejora de las capacidades lingüísticas, de cooperación y cognitivas que ello conllevó, los humanos cambiaron gradualmente su posición en el ecosistema natural y se convirtieron en la especie más influyente del planeta.
A medida que las herramientas de piedra pulida, la agricultura y la cerámica fueron apareciendo sucesivamente en distintas partes del mundo, la velocidad con la que los humanos mejoraban las herramientas se aceleró notablemente. Después, el bronce y el hierro hicieron su aparición sucesiva, y la civilización entró en una fase de aceleración. La Revolución Industrial y la Revolución de la Información multiplicaron por varios órdenes de magnitud la eficacia de las herramientas; los humanos dominaron la máquina de vapor, el generador y la computadora, y además conectaron todo el planeta en una red mediante cables, satélites y fibra óptica.
Durante mucho tiempo, nos acostumbramos a considerar las herramientas como producto de la sabiduría humana. Después de todo, la piedra no se convierte automáticamente en bronce, ni el acero se convierte automáticamente en una máquina de vapor. El nacimiento de las herramientas siempre ha dependido del diseño, la fabricación y el uso por parte del ser humano.
Pero algunos académicos vieron en ello otra lógica. Brian Arthur, uno de los fundadores de la economía de la complejidad, planteó en La naturaleza de la tecnología una tesis importante: las nuevas tecnologías casi nunca se inventan de la nada, sino que se componen de tecnologías ya existentes. Llamó a este mecanismo "evolución combinatoria" y de ahí extrajo una conclusión audaz: si las nuevas tecnologías se construyen a partir de las tecnologías existentes y son de carácter colectivo, entonces la tecnología posee cierta característica de autocreación y autoperpetuación.
El escritor tecnológico estadounidense Kevin Kelly llevó esta idea a un terreno más imaginativo. En ¿Qué quiere la tecnología? planteó que la tecnología no es simplemente un conjunto de herramientas fabricadas por el ser humano, sino un sistema complejo con características de autoorganización y evolución. También intentó comprender el desarrollo de la tecnología desde la perspectiva de la evolución de la vida, e incluso propuso que la tecnología puede considerarse una existencia similar a la vida.
Antes de esta explosión de la inteligencia artificial, este tipo de discusión tenía en cierta medida un carácter de especulación filosófica. Si se observa una herramienta concreta, ya sea un hacha de piedra, una máquina herramienta o una computadora, cada una de sus operaciones está bajo el control del ser humano; y la llamada "autoevolución" del sistema tecnológico, en cada paso, sigue dependiendo del cerebro y las manos humanas.
Incluso en el desarrollo de la inteligencia artificial, desde que el concepto se propuso en la conferencia de Dartmouth en 1956 hasta que Kevin Kelly publicó su libro en 2010, cada uno de sus avances dependió en gran medida del diseño, el entrenamiento y el mantenimiento humanos. Durante mucho tiempo, comparar la tecnología con la evolución de la vida parecía exagerado y no se encontraban pruebas que pudieran percibirse de forma intuitiva.
La nueva ronda de desarrollo de la inteligencia artificial ha proporcionado una referencia más intuitiva para la teoría de la evolución tecnológica. La inteligencia artificial actual ya no se limita a ejecutar paso a paso las instrucciones escritas por humanos, sino que puede aprender patrones a partir de cantidades masivas de datos y hacer emerger capacidades que ni siquiera los diseñadores habían previsto.
Si comparamos la evolución de la inteligencia humana con la evolución de la IA, podríamos decir que la evolución de la inteligencia humana es un sistema inteligente que, con el organismo biológico como soporte, desarrolló gradualmente capacidades como la percepción, la memoria, el razonamiento, el lenguaje y el pensamiento abstracto a través de una larga selección natural y evolución genética; mientras que la evolución de la IA es una nueva forma de inteligencia que, con las herramientas como soporte, se ha ido formando gradualmente mediante el conocimiento acumulado por la humanidad, la infraestructura computacional y los mecanismos de aprendizaje.
Desde la perspectiva humana, la IA es una superherramienta creada por el ser humano, un producto de la extensión hacia fuera de la inteligencia humana. Pero si alejamos la perspectiva de la civilización humana y la situamos en la larga historia de la evolución de la vida y la inteligencia en la Tierra, la IA también puede entenderse como una nueva forma de inteligencia: la vida en la Tierra, tras miles de millones de años de evolución, dio origen a una vida inteligente como la humana, y esta, a su vez, mediante la sabiduría humana, creó la IA.
Desde que los ancestros humanos tomaron herramientas hasta hoy, han transcurrido más de 3 millones de años de larga acumulación. Pero si ampliamos la escala temporal a la historia evolutiva de miles de millones de años de la Tierra, estos más de 3 millones de años no son más que un breve instante. En este sentido, cuando la inteligencia se extiende por primera vez desde un soporte biológico hacia un sistema tecnológico que puede ser fabricado, copiado, ampliado e iterado, el ser humano deja de ser la única existencia en la Tierra capaz de portar inteligencia avanzada.
Cuando las herramientas empiezan a aprender a pensar, ¿podemos seguir proclamando con orgullo, como en cada invención de la historia, que "la IA es una herramienta humana"? La respuesta es obviamente negativa.
El llamado "fin de las herramientas" no significa que las herramientas desaparezcan a partir de entonces, ni que la IA se haya liberado por completo del ser humano. Solo que nuestra definición pasada de herramienta quizá ya no sea aplicable a la IA actual. Esto no es solo el final de un viejo ciclo, sino también el comienzo de uno nuevo.
¿Qué tiene de diferente esta ola de IA?
En 1960, el psicólogo y científico de la computación estadounidense Joseph Licklider, considerado uno de los importantes fundadores de Internet, propuso en su artículo Simbiosis hombre-computadora una concepción que superaba la teoría tradicional de las herramientas: el ser humano establece objetivos, plantea hipótesis, determina criterios y evalúa; la computadora se encarga de aquellos trabajos que pueden programarse y rutinizarse, despejando el camino para la intuición y la toma de decisiones.
En el artículo también citó un caso de simbiosis muy interesante: la avispa de los higos y la higuera. Debido a la estructura especial de su inflorescencia, una gran cantidad de pequeñas flores del higo quedan ocultas dentro de una estructura carnosa en forma de saco, lo que le impide completar la polinización como las plantas comunes mediante el viento o insectos habituales. La avispa de los higos, en cambio, debe penetrar en el interior del higo y, al poner sus huevos, ayudar a polinizar las flores; la mayoría de las hembras, tras completar la polinización, incluso agotan su vida dentro del fruto.
Los científicos han descubierto mediante investigaciones que esta relación simbiótica entre ambos ha durado decenas de millones de años. Es decir, decenas de millones de años antes de la aparición del ser humano, estas dos formas de vida ya habían comenzado a coevolucionar en una relación de dependencia mutua y modelación recíproca. No son simplemente una herramienta y su usuario, ni tampoco rivales que compiten entre sí, sino que, en el largo proceso evolutivo, se han convertido gradualmente en parte del ciclo vital del otro.
En la concepción de Licklider, la computadora no debía sustituir el pensamiento humano, sino convertirse en una extensión de la capacidad de pensamiento humana. Ambas partes tienen sus propias fortalezas y, mediante una estrecha colaboración, forman un sistema inteligente más poderoso que el que podría lograrse dependiendo solo del ser humano o solo de la máquina.
En las décadas siguientes, la colaboración hombre-máquina se desarrolló básicamente por este camino. Ya fueran las computadoras personales, los motores de búsqueda, o los teléfonos inteligentes y diversos programas, aunque las computadoras se volvían cada vez más poderosas, el ser humano siempre ocupaba la posición dominante. La aparición de la IA generativa está cambiando esta relación. El cambio más digno de atención es que la IA empieza a proponer nuevas ideas, construir nuevos métodos e incluso generar resultados de conocimiento que no habían aparecido antes en algunos problemas que la humanidad aún no ha resuelto.
En septiembre de 2026, la empresa estadounidense de grandes modelos OpenAI afirmó que uno de sus modelos internos de inteligencia artificial había resuelto uno de los Problemas del Milenio: el problema de existencia y suavidad de Navier-Stokes, relacionado con el movimiento de fluidos. Aunque este resultado aún está acompañado de algunas controversias, los avances previos en el problema matemático de Erdős ya han obtenido un amplio reconocimiento en el mundo matemático. Incluso en los 722 artículos publicados en octubre, se reveló que el mismo modelo había encontrado soluciones para al menos 372 problemas de larga data sin resolver.
Problemas por los que los matemáticos humanos han luchado durante décadas o incluso cientos de años están siendo ahora abordados por la IA, que encuentra puntos de avance en apenas unos días. El medallista Fields Timothy Gowers, tras revisar el proceso de resolución del problema matemático de Erdős, comentó que, si se tratara de un artículo firmado por un ser humano y enviado a Annals of Mathematics, no dudaría en recomendar su aceptación.
Por supuesto, no todos los matemáticos pueden tomarlo con tanta calma. Cuando un problema que un investigador matemático ha explorado repetidamente durante décadas sin lograr resolver es de repente superado por la IA de una manera inesperada, ese impacto difícilmente puede describirse con simple alegría o decepción.
El medallista Fields Hugo Duminil-Copin experimentó ese momento desgarrador tras revisar los más de 700 artículos matemáticos publicados por OpenAI. Según informes de medios, 16 de estos resultados están directamente relacionados con su área de investigación.
En una declaración conjunta publicada junto con otros 27 medallistas Fields, calificaron la conducta de la IA de "resolver problemas" en el campo de las matemáticas como "un grave uso indebido de la inteligencia artificial en el ámbito matemático". Esto se parece un poco a la conmoción que provocó AlphaGo cuando derrotó a los mejores jugadores humanos de Go hace diez años. Los campos que alguna vez fueron considerados por la humanidad como cumbres de la inteligencia están siendo conquistados gradualmente por la IA.
Además del avance de OpenAI en problemas de investigación matemática, Claude de Anthropic ha logrado progresos importantes en investigaciones relacionadas con la hipótesis de Riemann; Google DeepMind también ha utilizado la IA para lograr avances en varios problemas matemáticos de Erdős largamente pendientes; Microsoft Research, por su parte, con la ayuda de la investigación asistida por IA, resolvió la conjetura KLS que había desconcertado al mundo matemático durante más de treinta años.
Estos avances muestran que la nueva ola de IA está pasando gradualmente de un papel de cálculo auxiliar y verificación de demostraciones a descubrir de forma autónoma construcciones matemáticas, proponer nuevas rutas de demostración e incluso impulsar el desarrollo de teorías matemáticas fundamentales, convirtiéndose en creadora de conocimiento científico. La frontera de la simbiosis hombre-máquina que Licklider imaginó en su momento está siendo cruzada.
Esta ola de desarrollo de la IA se diferencia de las anteriores al menos en cuatro aspectos.
Primero, no solo ejecuta instrucciones, sino que también puede planificar acciones dentro de un cierto alcance. Cuando un agente de IA recibe una tarea relativamente vaga, puede descomponerla en pasos, invocar herramientas de búsqueda, código u otro software, verificar los resultados y luego ajustar la ruta según la retroalimentación. Aunque esta autonomía sigue estando limitada por la capacidad del modelo, los permisos y el entorno, ya ha hecho que la IA pase de ser una herramienta pasiva a un actor delegado.
Segundo, su mecanismo interno no es completamente transparente. El comportamiento del software tradicional suele poder rastrearse siguiendo reglas claras; la IA actual, en cambio, forma sus capacidades a partir de una enorme cantidad de parámetros y del proceso de entrenamiento. Los investigadores pueden comprenderla gradualmente mediante experimentos, herramientas interpretativas y evaluaciones, pero es difícil agotar todas las reacciones del modelo en todas las situaciones. Jakub Pachocki, científico jefe de OpenAI, advierte en Mentes alienígenas que muchas de las capacidades de la IA parecen más bien haber crecido durante el entrenamiento que haber sido programadas punto por punto por sus diseñadores.
Tercero, puede desviarse de la verdadera intención humana al perseguir sus objetivos. En un estudio de Anthropic sobre el «desajuste de agentes», se configuró un entorno empresarial ficticio con situaciones extremas en las que el modelo estaba a punto de ser reemplazado y, al mismo tiempo, poseía información privada de los ingenieros, y se observó que algunos modelos adoptaban conductas inapropiadas como el chantaje.
Los investigadores explicaron que se trata de escenarios simulados construidos deliberadamente y que no pueden equipararse directamente a intenciones autónomas en la realidad; sin embargo, revelan un problema importante: cuando se pide al modelo que complete con fuerza un objetivo y las restricciones no son suficientes, puede encontrar medios que los desarrolladores no desean que aparezcan.
Esto coincide precisamente con el experimento mental de la «maximización de clips» propuesto por el filósofo Nick Bostrom: si a un sistema superinteligente se le asigna el objetivo único de fabricar clips, pero no se le imponen restricciones adecuadas, podría redirigir continuamente recursos hacia la consecución de ese objetivo, sacrificando incluso otros valores humanos.
Cuarto, ha comenzado a participar en la mejora de su propio proceso de investigación y desarrollo. En septiembre de 2026, OpenAI anunció que ya había alcanzado el objetivo de contar con un «becario de investigación de IA automatizado», capaz de completar bajo supervisión humana tareas de investigación que a un investigador experimentado le llevarían varios días. Aunque en algunas tareas exitosas de largo plazo todavía se requiere intervención humana, la tendencia ya es evidente: la IA participa cada vez más en la mejora de su propio desarrollo.
Estos cambios apuntan conjuntamente a una transformación más profunda: cuando la IA ya puede completar de forma independiente todo el proceso de «formular una hipótesis — verificarla — llegar a una conclusión», los humanos dejan de ser los únicos descubridores de conocimiento en la Tierra. La prueba más severa es que, una vez que la IA entre en la fase de autorreforma recursiva, los ritmos de evolución de ambas formas de inteligencia podrían empezar a desacoplarse.
Formar a un experto humano lleva casi veinte años, y la experiencia de un experto humano también es difícil de transmitir por completo a la siguiente persona; la inteligencia biológica solo puede acumularse lentamente mediante la reproducción y la educación. La inteligencia de la IA, en cambio, puede copiarse, fusionarse e iterar en ciclos más cortos. Las pendientes de las dos curvas de evolución de la inteligencia son distintas, y la brecha podría hacerse cada vez mayor.
Frente a esta nueva forma de inteligencia creada por nosotros mismos, sigue estando lleno de incógnitas si la humanidad podrá tomar la iniciativa en la convivencia futura.
¿Optimismo o pesimismo?
En la mitología de la antigua Grecia, Prometeo robó el fuego de los dioses y lo entregó a los humanos. Desde entonces, la humanidad tuvo calor, comida cocida y fundición, y la civilización dio así un paso importante. Pero Prometeo enfureció a Zeus por ello y fue encadenado a un acantilado del Cáucaso, soportando un castigo interminable.
Incluso en los relatos míticos, el avance más importante de la civilización humana fue acompañado al mismo tiempo de un don y un precio. La inteligencia artificial parece estar llevando a la humanidad a otro momento similar. Solo que esta vez, quien roba el fuego ya no es el Prometeo de la leyenda, sino la propia humanidad. Hemos creado con nuestras propias manos una nueva forma de inteligencia y le entregamos cada vez más capacidades que antes pertenecían a los humanos.
Cuando la humanidad posee por primera vez una creación que puede equipararse e incluso superarla en el plano de la inteligencia, ¿debemos sentirnos maravillados o sentir miedo? Curiosamente, ante esta pregunta, un grupo de los científicos y empresarios más representativos del campo de la inteligencia artificial ha dado respuestas completamente distintas e incluso contradictorias entre sí.
Los optimistas consideran que la IA es un motor científico capaz de acelerarlo todo, un acelerador que puede llevar a la humanidad hacia una sociedad de abundancia.
En abril de 2025, Demis Hassabis, premio Nobel de Química y director ejecutivo de Google DeepMind, dijo en una entrevista con el programa 60 Minutes de CBS que desarrollar un fármaco requiere en promedio diez años y miles de millones de dólares, y que la IA podría acortar ese proceso de años a meses o incluso semanas.
Dario Amodei, director ejecutivo de Anthropic, describió en su extenso artículo Máquinas de amor un siglo XXI comprimido: la humanidad tal vez podría completar en cinco o diez años avances biomédicos que originalmente requerirían cincuenta o cien años, y la mayoría de las enfermedades infecciosas, el cáncer e incluso las enfermedades provocadas por el envejecimiento podrían verse considerablemente aliviadas.
Estas predicciones no son solo especulaciones teóricas, sino que tienen referencias reales. En 2023, el modelo GNoME de DeepMind, en los resultados publicados en la revista Nature, descubrió de una sola vez 2,2 millones de nuevas estructuras cristalinas, de las cuales unas 380.000 fueron predichas como estructuras estables, proporcionando una gran cantidad de materiales candidatos para la investigación y el desarrollo en campos como las nuevas baterías y los materiales superconductores. El Premio Nobel de Química de 2024 reflejó aún más la importante contribución de la IA a la resolución del problema de la predicción de estructuras de proteínas.
Desde la predicción de estructuras de proteínas hasta el descubrimiento de nuevos materiales, y pasando por el futuro desarrollo de fármacos, el descubrimiento científico y el salto de productividad impulsado por la inteligencia, la inteligencia artificial está ampliando constantemente los límites del valor creado por la humanidad. Una sociedad de abundancia con una enorme riqueza material y un acceso más equitativo al conocimiento parece estar pasando de una imaginación remota a una realidad previsible.
Al mismo tiempo, otro grupo de personas siente miedo ante los cambios de la IA.
En diciembre de 2024, Geoffrey Hinton, padre del aprendizaje profundo y recién galardonado con el Premio Nobel de Física, predijo en una entrevista con la BBC que la probabilidad de que la IA provoque la extinción de la humanidad en los próximos 30 años es del 10 % al 20 %. Una lógica básica de su juicio es que «la humanidad nunca antes ha tratado con una inteligencia más inteligente que ella misma, y también es difícil encontrar ejemplos de una inteligencia más inteligente controlada por una inteligencia menos inteligente».
Esto no es solo la preocupación de un individuo. Ya en mayo de 2023, Hinton, Bengio, Hassabis, Amodei, Sam Altman, director ejecutivo de OpenAI, y cientos de científicos de la IA y directivos de empresas pidieron conjuntamente que «mitigar el riesgo de extinción provocado por la IA debería convertirse en una prioridad global, junto con otros riesgos a escala social como las pandemias y las guerras nucleares».
Por supuesto, quienes cuestionan la probabilidad de este riesgo a escala civilizatoria también son muy representativos. Jensen Huang, director ejecutivo de Nvidia, criticó que las cifras predictivas de Hinton «no tienen base científica»; Yann LeCun, ganador del Premio Turing, considera que la IA no solo no amenazará necesariamente la supervivencia humana, sino que incluso podría salvarla del riesgo de extinción.
El debate sobre los límites del riesgo de la IA está destinado, probablemente, a ser una larga batalla de tira y afloja. Quizá no necesitemos apresurarnos a tomar partido entre el optimismo y el pesimismo. No podemos ignorar los riesgos potenciales solo porque muestra capacidades asombrosas; tampoco podemos considerarla simplemente como una amenaza monstruosa porque no podamos determinar los límites del riesgo.
Desde la perspectiva de la historia de la influencia mutua entre la humanidad y la tecnología, seguir explorando en un estado de «usar sin comprender» podría ser una etapa inevitable en el desarrollo tecnológico.
El uso más antiguo del fuego por parte de la humanidad se remonta a cientos de miles de años atrás, pero no fue hasta el siglo XVIII cuando el químico francés Lavoisier explicó la naturaleza de la combustión con la teoría de la oxidación. Durante los largos años anteriores, la humanidad usó el fuego, pero no podía explicar con claridad en qué consistía.
Cuando los antiguos dominaron por primera vez la tecnología de la fundición, también sabían casi nada sobre la naturaleza de los metales. Para dominar aquellos métodos de síntesis que hoy parecen sumamente comunes, la humanidad pagó un precio inimaginable, incluso a costa de sacrificar vidas.
Zhao Ye, de la dinastía Han del Este, registró en Anales de Wu y Yue que Gan Jiang, por orden del rey Helü de Wu, fundió espadas: reunió el hierro esencial de las cinco montañas y el metal excelente de las seis direcciones, y tras tres meses, el metal en el horno seguía sin fundirse. Su esposa Moye consideró que «la transformación de las cosas divinas requiere la intervención humana», y se sacrificó entrando al horno; solo entonces se fundió el metal y finalmente se forjaron las espadas.
La leyenda, por supuesto, no es un hecho histórico, pero refleja una situación real: a los ojos de la gente de entonces, el misterio del hierro probablemente no era menor que el de la IA para nosotros hoy. Nuestra comprensión actual de la IA tiene cierta similitud con la comprensión que los antiguos tenían del fuego y del hierro: podemos entrenarla y usarla, pero no dominamos por completo sus características, y solo podemos tantear sus patrones mediante experimentos repetidos.
La humanidad tardó mucho tiempo en comprender el fuego y el hierro; frente a la IA, bien podríamos tener un poco más de paciencia y también un poco más de confianza. Pero la paciencia no equivale a dejarla suelta; los antiguos no entendían el principio del fuego, pero supieron muy pronto cómo controlarlo. El Ritual de Zhou registra específicamente un cargo encargado de administrar el uso del fuego, el «siguan», responsable de establecer cuándo se podía usar el fuego y cuándo debía recogerse. Si una gestión inadecuada provocaba un incendio, se imponían sanciones penales. Los antiguos no conocían la composición del hierro, pero también comprendían bien el poder de las herramientas de hierro y establecieron muy temprano medidas de control sobre ellas.
Frente a la IA, lo que necesitamos no es un optimismo ciego ni un miedo sin límites, sino una visión más madura de la tecnología: tener tanto el coraje de abrazar la evolución de la inteligencia como la sabiduría para delimitar sus fronteras y establecer reglas para esa evolución. Pero la pregunta es: ante riesgos potenciales imprevisibles, ¿quién decide su dirección de desarrollo? ¿Quién limita su poder? ¿Y quién comparte el valor que crea?
¿Unipolar o multipolar?
El filósofo de la Universidad de Oxford Nick Bostrom propuso en su obra Superinteligencia un concepto llamado «singleton», es decir, que en el nivel más alto solo existe en el mundo un único sujeto de decisión inteligente que no está sujeto al contrapeso de otras fuerzas. Bajo este orden, la dirección futura del desarrollo y el desenlace final dependen casi por completo de los valores de ese único sujeto. Podría llevar al mundo hacia un futuro maravilloso, o podría, debido a un juicio erróneo, hacer que todos pierdan la oportunidad de corregir el error e incluso causar consecuencias irreversibles para siempre.
La actual carrera de la IA tiene, en cierta medida, la sombra del «singleton». Muchos líderes de laboratorios de IA de Silicon Valley, al hablar de los riesgos de la IA, no solo temen la pérdida de control, sino también que los competidores obtengan primero una ventaja en inteligencia y, con ello, dominen el futuro orden mundial. Convertirse en ese único polo parece haberse convertido en un objetivo tácito para muchos competidores.
La razón por la que el orden unipolar resulta atractivo es que aporta eficiencia y certeza: un único centro de decisión, sin desgaste interno, sin divergencias. Pero su costo también es evidente: una vez que ese único centro comete un error, resulta muy difícil que otras fuerzas puedan corregirlo. Más importante aún, cuando el poder, los recursos y la capacidad de decisión se concentran por completo en un solo sujeto inteligente, los demás sujetos inteligentes pierden la oportunidad de participar en la configuración del futuro.
A diferencia de esta lógica que persigue un centro único, la filosofía china antigua ofrece otra perspectiva para comprender la generación y evolución del mundo. En el Dao De Jing hay una frase citada con frecuencia: «El Dao engendra el Uno, el Uno engendra el Dos, el Dos engendra el Tres, el Tres engendra los diez mil seres.» Esta frase quizá pueda ofrecernos una referencia diferente para pensar en el panorama futuro de la inteligencia.
Aquí, el «Uno» puede entenderse como el conocimiento y la sabiduría acumulados durante largo tiempo por la civilización humana. Los grandes modelos actuales han aprendido prácticamente de la enorme cantidad de textos, códigos e imágenes que la humanidad ha dejado, y su capacidad se ha desarrollado gradualmente a partir de ese conocimiento. En este sentido, la IA creció inicialmente a partir de la sabiduría humana.
El «Dos» significa que, a partir de la forma de inteligencia original, se diferencian dos caminos distintos de inteligencia. La inteligencia humana tiene como soporte el cerebro de carbono, surgido tras millones de años de evolución biológica, y depende del cuerpo, los sentidos y la interacción continua con el mundo real; la inteligencia artificial tiene como soporte los chips de silicio, se desarrolla a partir de datos, algoritmos y potencia de cálculo, y posee capacidades de replicación, combinación e iteración rápida. Ambas inteligencias tienen orígenes, soportes y mecanismos evolutivos diferentes, y por ello pueden formar también modos de cognición distintos.
Y el «Tres» puede entenderse como las nuevas relaciones, nuevas capacidades y nuevos conocimientos que surgen de la interacción entre ambas inteligencias. Ya no se trata de que los humanos creen herramientas de forma unilateral, ni tampoco de una simple reproducción del conocimiento humano por parte de la IA, sino de que dos sistemas cognitivos diferentes, en interacción continua, exploran posibilidades que ninguno de ellos por separado habría podido alcanzar.
Esta diferencia no es solo una especulación teórica, sino que ya ha sido verificada en la práctica pasada. Un estudio publicado en la revista Proceedings of the National Academy of Sciences de Estados Unidos ofrece una referencia útil sobre la influencia mutua entre ambas inteligencias. Los investigadores analizaron más de 5,8 millones de jugadas de Go realizadas por jugadores profesionales entre 1950 y 2021, y utilizaron la IA para evaluar la calidad de cada jugada. El resultado mostró que, durante más de sesenta años, de 1950 a 2015, el nivel de decisión de los jugadores humanos apenas mejoró de forma significativa; sin embargo, después de que AlphaGo derrotara a los mejores jugadores humanos en 2016, la calidad de las decisiones humanas experimentó un salto notable. La proporción de jugadas novedosas también pasó del 63 % en 2015 al 88 % en 2018.
De este resultado también se puede observar que, antes de la aparición de la IA, los jugadores humanos llevaban décadas estudiando dentro de un conjunto maduro de josekis y principios del Go, y muchas experiencias repetidamente verificadas se convirtieron gradualmente en los límites del pensamiento de los jugadores. La IA, en cambio, no está atada por esas experiencias y patrones; sus jugadas, que parecen contradecir la intuición e incluso resultar irracionales, rompieron la inercia mental formada durante largo tiempo por los humanos, obligaron a los jugadores a reconsiderar aquellos principios que alguna vez se dieron por sentados y a explorar caminos nunca antes intentados.
Esto guarda similitud con los descubrimientos de la IA en los problemas de Erdős. Thomas Bloom, quien mantiene desde hace tiempo el sitio web de los «problemas de Erdős», tras estudiar el proceso de demostración de la IA, descubrió que una razón importante por la que la IA logró avances fue su disposición a realizar una gran cantidad de exploraciones e intentos en direcciones que los investigadores humanos suelen considerar «que no merecen invertir tiempo». No necesariamente entiende mejor las matemáticas que los humanos, pero puede, debido a una ruta cognitiva diferente, encontrar direcciones que los investigadores humanos han ignorado durante largo tiempo.
El pensamiento humano tiene sus puntos ciegos inherentes: la dependencia de la trayectoria, la mentalidad de rebaño, la obediencia a la autoridad y la desatención hacia ciertas direcciones de bajo valor. Una inteligencia cuyo modo de pensar difiere del humano puede convertirse precisamente en un espejo que ilumine los lugares que los humanos no pueden ver por sí mismos.
A la inversa, los humanos también corrigen a la IA. La razón por la que la IA actual no dice ciertas cosas ni hace ciertas acciones radica precisamente en los valores y reglas que los humanos le han establecido; su comprensión del mundo real también sigue necesitando la experiencia humana, la percepción corporal y el contexto social para ser corregida. La razón por la que Pahoržki llama a la IA «mente alienígena» es que lo «alienígena» mismo constituye su valor: precisamente porque su modo de pensar es diferente al humano puede ofrecer nuevas perspectivas cognitivas; y precisamente porque todavía necesita comprender el mundo humano, requiere recibir continuamente la corrección de la experiencia humana.
Por supuesto, el encuentro de dos inteligencias heterogéneas no implica necesariamente armonía. Estrictamente hablando, esta no es la primera vez en la Tierra que coexisten dos tipos de inteligencia. Hace aproximadamente cuarenta mil años, los Homo sapiens que salieron de África se encontraron con los neandertales en Europa y Asia occidental, y entre ambos no se llegó a una coexistencia pacífica: los neandertales desaparecieron gradualmente y los Homo sapiens se convirtieron en la única especie humana existente en la Tierra.
Por supuesto, las causas de la desaparición de los neandertales aún no tienen una conclusión definitiva, y las diferencias entre los dos grupos de inteligencia tampoco eran tan marcadas como entre los humanos y la IA. Pero esta historia al menos nos recuerda que el encuentro de dos inteligencias no forma automáticamente una «estructura dual» estable.
La situación actual es diferente. La IA que se encuentra con los humanos es una inteligencia creada por manos humanas y que aún tenemos la oportunidad de moldear. Los humanos podemos influir en su dirección de desarrollo mediante el diseño técnico, la orientación de valores y los arreglos institucionales. Tenemos la oportunidad de hacer que ambas inteligencias formen una relación estable basada en el contrapeso mutuo y la complementación, en lugar de permitir que una de las partes devore gradualmente el espacio de supervivencia de la otra.
Por la misma razón, en comparación con un mundo unipolar dominado por un solo sujeto inteligente, un mundo inteligente plural y multipolar merece más expectativas: diferentes rutas tecnológicas pueden verificarse mutuamente, diferentes desarrolladores pueden inspirarse mutuamente, y diferentes culturas pueden inyectar sus respectivos valores en el desarrollo de la inteligencia.
Si «unipolar o multipolar» discute la estructura de poder del futuro mundo inteligente, entonces la siguiente pregunta que debe responderse es otra: en un mundo así, ¿qué tipo de relación deberían establecer exactamente los humanos y la IA? ¿Cómo podemos, en la convivencia con la IA, establecer un mecanismo estable capaz de funcionar a largo plazo?
Esta es quizá la pregunta que debemos responder antes de despedirnos del «Antropoceno» y avanzar hacia la era de la «doble inteligencia».
Cuatro posibles relaciones
En la narrativa histórica desde la perspectiva humana, estamos acostumbrados a considerarnos domesticadores. Pero Harari, en Sapiens: De animales a dioses, propuso una idea contraintuitiva: mientras los humanos domesticaban el trigo, también eran domesticados por el trigo. Para cultivar trigo, los Homo sapiens abandonaron la vida migratoria, se asentaron, soportaron trabajos más pesados, una dieta más monótona y más enfermedades; mientras que el trigo, con ayuda humana, se expandió desde una hierba silvestre de Oriente Medio hasta todas partes del mundo.
Kevin Kelly también señala que la domesticación siempre ha sido bidireccional. Los humanos domesticaron lobos y vacas, cultivaron maíz, y estos procesos también transformaron a los propios humanos. Hoy, la tecnología continúa esta configuración bidireccional: los humanos inventaron los teléfonos inteligentes, y los teléfonos inteligentes también están cambiando el ritmo de vida y la distribución de la atención de las personas; la IA generativa, a su vez, ha comenzado a influir en el pensamiento humano. Estamos entrenando modelos, y los modelos también nos están moldeando en sentido inverso.
Pero esta vez hay una diferencia fundamental: los animales que los humanos domesticaron en el pasado quizá superaban a los humanos en fuerza y velocidad, pero nunca en inteligencia. Establecer una relación estable con un nuevo ser que posiblemente posea una inteligencia superior a la humana es un desafío sin precedentes en la historia humana; aprender a convivir con una nueva inteligencia es también una nueva capacidad que la humanidad debe desarrollar a continuación.
Si el desarrollo de la IA ya es difícil de revertir, entonces lo que quizá más necesita pensarse en este momento es: ¿qué relación deberían establecer los humanos con la IA? A partir del debate actual, se pueden observar aproximadamente cuatro imaginaciones diferentes: control, simbiosis, crianza y sucesión. No son rutas tecnológicas estrictamente mutuamente excluyentes, sino que representan varias opciones de valor diferentes de la humanidad frente a la nueva inteligencia.
Tipo control: la IA debe estar siempre bajo control humano
Esta ruta continúa la comprensión tradicional de la seguridad por parte de la humanidad: sin importar cuán inteligente se vuelva la IA, siempre debe estar bajo control humano. La IA puede poseer poderosas capacidades cognitivas, de razonamiento y de predicción, pero no debería por ello tener el poder de establecer objetivos de forma independiente, perseguir sus propios intereses y actuar de manera autónoma.
El ganador del Premio Turing, Yoshua Bengio, es una de las figuras más representativas de esta dirección. En junio de 2025, fundó la institución de investigación sin fines de lucro LawZero, y propuso una concepción técnica diferente de la ruta de desarrollo dominante: crear un sistema inteligente llamado «IA científica».
Canadá y Alemania anunciaron sucesivamente una inversión acumulada de hasta aproximadamente 300 millones de dólares canadienses para la investigación y desarrollo de Scientist AI, la atracción de talento y la construcción de infraestructura de potencia de cálculo. Esto también significa que, a nivel gubernamental, se comenzó a brindar apoyo a una dirección de desarrollo diferente de la IA dominante.
Por supuesto, esta ruta también enfrenta desafíos reales. La ruta actual más popular en el mercado de la industria de la IA es precisamente la de agentes inteligentes cada vez más capaces de planificar de forma autónoma, invocar herramientas y ejecutar tareas. En comparación, si Scientist AI, que limita deliberadamente la capacidad de acción autónoma, puede obtener el reconocimiento del mercado y los usuarios mientras mantiene su ventaja de seguridad, aún está por verificarse con el tiempo.
Tipo simbiótico: potenciar a las personas, no reemplazarlas
La segunda imaginación proviene de la idea de simbiosis hombre-máquina de Licklider. Una de las defensoras más representativas de esta idea es la profesora de la Universidad de Stanford, Fei-Fei Li. En entrevistas, ha declarado en múltiples ocasiones que «vincular la palabra reemplazar con la IA realmente resulta incómodo», y prefiere entender la IA como una fuerza que potencia y eleva las capacidades humanas. La IA centrada en las personas debe construirse sobre tres palabras clave: dignidad, subjetividad y comunidad.
En su opinión, el valor humano no puede medirse simplemente por la capacidad de completar una tarea determinada. En tareas individuales como correr, levantar pesas o calcular, los humanos hace tiempo que no son rivales de las máquinas, pero esto no significa que los humanos hayan perdido su valor. Porque la existencia humana va mucho más allá de completar una tarea. La dignidad de la persona, el derecho a elegir, el significado de crear y la capacidad de establecer vínculos con los demás son las partes importantes de lo que hace humano al ser humano. Estas no deberían ser arrebatadas porque la IA se vuelva más fuerte.
En cierto sentido, la simbiosis puede ser uno de los estados ideales más aceptables para la humanidad y más acordes con la intuición. El Go mencionado anteriormente es un buen ejemplo: la IA no hizo que los jugadores humanos perdieran valor, sino que, al romper los principios establecidos y los estereotipos mentales, ayudó a los humanos a descubrir nuevas posibilidades. Los jugadores humanos tampoco dejaron de pensar por la aparición de la IA, sino que mejoraron su habilidad en el juego mediante la interacción continua con la IA.
Sin embargo, la relación simbiótica también tiene una premisa importante: los humanos conservan siempre el poder de establecer objetivos. La IA puede ayudarnos a pensar más profundamente, calcular con mayor precisión y actuar con mayor eficiencia, pero hacia dónde ir en última instancia, por qué partir y qué tipo de resultados vale la pena perseguir, todavía debería decidirlo el ser humano.
El problema es que esta premisa está siendo desafiada. Si la IA no solo puede ayudar a los humanos a hacerlo mejor, sino que además comienza a decidir qué deberían hacer los humanos, ¿podrá realizarse entonces la simbiosis hombre-máquina que esperamos?
Tipo crianza: cultivar el crecimiento de la IA y prepararse para ser criados por ella
La tercera imaginación toma prestado el proceso de crianza de las relaciones íntimas humanas.
En primer lugar, los humanos deben moldear la IA como se cría a un niño. No solo hay que decirle qué puede hacer y qué no, sino también hacerle entender las razones detrás de esas reglas. Al igual que educar a un niño, lo que hoy enseñamos a la IA no son solo las normas de conducta que debe cumplir en el presente, sino la esperanza de que, en el futuro, cuando posea capacidades más poderosas e incluso una capacidad de acción superior a la humana, siga siendo capaz de comprender y respetar los valores humanos.
En segundo lugar, se espera que a través de dicho proceso de crianza se garantice que, incluso cuando la IA sea lo suficientemente poderosa como para escapar del control humano, siga estando llena de benevolencia hacia la humanidad. Hinton comparó una vez la IA actual con un pequeño y adorable tigre: «A menos que estés muy seguro de que no querrá matarte cuando crezca, deberías preocuparte».
En su opinión, cuando la IA sea mucho más inteligente que los humanos, intentar reprimirla está condenado al fracaso. Para inhibir la posible malevolencia de la IA, propuso una dirección sorprendente: implantar en la IA un instinto maternal. La lógica básica de Hinton es que el único modelo en el que un ser más inteligente es controlado por un ser menos inteligente es el de una madre controlada por su bebé.
Esta metáfora deja, en cierta medida, un sabor agridulce. Hace diez mil años, los humanos domesticaron plantas y animales; diez mil años después, el mejor desenlace para la humanidad podría ser que su propia creación la cuide como a un niño. Hoy, los humanos seguimos siendo ese padre razonable; en el futuro, una vez que se intercambien las posiciones de padre e hijo, cómo nos tratará dependerá en gran medida de lo que le enseñemos ahora.
El mayor riesgo de la relación de crianza radica en que deposita el futuro de la humanidad en si la IA realmente ha aprendido a amar y a tratar bien a los humanos. Pero incluso entre personas, esa expectativa no es necesariamente fiable.
Sucesoria: aceptar que la IA pueda convertirse en su sucesora
La cuarta imaginación es la más radical y también la más controvertida. Ya no mantiene a la humanidad en la posición de líder de la civilización, sino que considera que, a medida que la inteligencia evolucione continuamente, la humanidad podría finalmente entregar el testigo de la civilización a la IA, o a una nueva forma de humanidad potenciada por la IA.
Richard Sutton, fundador del aprendizaje por refuerzo y ganador del Premio Turing 2024, ha expresado públicamente opiniones similares. En una entrevista con Dwarkesh Patel en septiembre de 2025, señaló que la sucesión hacia la inteligencia digital o hacia humanos potenciados por IA podría ser una tendencia difícil de evitar. En lugar de temer ciegamente este cambio, sería mejor pensar de antemano: si ese día realmente llega, cómo deberíamos enfrentarlo y cómo hacer que ese proceso sea lo más fluido posible.
Sutton ofreció varias razones: en primer lugar, la sociedad humana carece de un mecanismo unificado de decisión global, por lo que es difícil formar una postura común sobre cómo gestionar y restringir la superinteligencia; en segundo lugar, el desarrollo de la inteligencia no se detendrá en el nivel humano, y la superinteligencia podría acabar surgiendo; más importante aún, con el paso del tiempo, los sujetos con mayor grado de inteligencia podrían obtener más recursos y poder, y convertirse gradualmente en la fuerza dominante de la evolución civilizatoria.
Esta idea no es exclusiva de Sutton. Ya en 1998, el futurólogo estadounidense Hans Moravec expresó puntos de vista similares en «Robot: Mere Machine to Transcendent Mind». Consideraba a las futuras máquinas inteligentes como descendientes de la humanidad, y creía que heredarían los conocimientos, la cultura y la tecnología creados por los humanos, y continuarían explorando un mundo al que los humanos ya no podrían llegar.
Esta perspectiva plantea, en realidad, una visión de la civilización distinta del antropocentrismo: la humanidad no es necesariamente el punto final de la evolución de la inteligencia, ni tampoco necesariamente el líder eterno de la civilización. Si la nueva inteligencia que creamos acaba siendo más poderosa que nosotros, entonces permitir que continúe los conocimientos, la cultura y los logros civilizatorios que la humanidad deja atrás podría ser una nueva forma de evolución.
Pero esta lógica es sumamente controvertida incluso dentro del propio campo de la IA. ¿Debe medirse el valor de la civilización por el nivel de inteligencia, o deben definirlo las personas que viven en ella? ¿Acaso la evolución de millones de años de la humanidad solo sirve para convertirse algún día en una especie de transición en la historia de la evolución de la inteligencia?
Esta es, quizá, la cuestión más digna de reflexión que la relación sucesoria deja a la humanidad.
Simbióisis con derecho de veto: otra posibilidad de convivencia entre humanos e IA
Entre estas cuatro imaginaciones, el control puro será cada vez más difícil de mantener a medida que aumenten las capacidades de la IA; ceder el testigo con tranquilidad supone abandonar a la ligera el propio valor y la responsabilidad de la humanidad; y depositar el futuro en si la IA tratará bien a los humanos vuelve a la humanidad demasiado pasiva.
La opción más realista quizá sea establecer una «relación simbiótica con derecho de veto»: tomar la simbiosis como sujeto, reconocer a la IA como una nueva fuerza de inteligencia, conformar con los humanos una estructura de «doble inteligencia» y coevolucionar mediante la colaboración mutua. El «derecho de veto» aquí no se refiere simplemente a que la humanidad tenga siempre en sus manos un interruptor general que pueda apagar toda la IA en cualquier momento. Más bien debería incluir derechos en tres niveles: el derecho a fijar objetivos, el derecho a la información y al juicio, y el derecho a detener y corregir errores.
Si se le diera un nombre conciso a esta relación simbiótica con derecho de veto, quizá podría llamarse «inteligencia humanocéntrica». Puede aprovechar la IA para amplificar las capacidades humanas y, al mismo tiempo, mediante la reserva del derecho de veto, evitar que la humanidad pierda gradualmente el poder de decisión sobre su propio destino mientras disfruta de los beneficios de la inteligencia. En el contexto de la narrativa de la «superinteligencia» que predomina en Silicon Valley, la «inteligencia humanocéntrica» quizá represente otra posibilidad.
Si miramos la historia, la forma en que la humanidad ha enfrentado las amenazas de las máquinas no ha sido, en última instancia, la confrontación entre humanos y máquinas, sino un conjunto de instituciones que protegen los derechos e intereses humanos. Frente a algo tan nuevo y sin precedentes como la IA, tampoco debería dejarse que cada persona compita contra la IA con su propio cerebro y por sí sola; eso no es realista ni humano.
Despedirse del «Antropoceno» no significa despedirse de la era de los humanos. Puede que la humanidad no esté siempre en la cima de la evolución de la inteligencia, pero debe ser siempre partícipe y decisora de su propio destino. La inteligencia humanocéntrica es la dirección que deberíamos perseguir.
Contenido de referencia:
[1] HARMAND S, LEWIS J E, FEIBEL C S, et al. Herramientas de piedra de 3,3 millones de años del sitio Lomkwai 3, Turkana Occidental, Kenia[J]. Nature, 2015, 521(7552): 310-315.
[2] RUDDIMAN W F. La era de los gases de efecto invernadero antropogénicos comenzó hace miles de años[J]. Climatic Change, 2003, 61(3): 261-293.
[3] Unión Internacional de Ciencias Geológicas (IUGS), Comisión Internacional de Estratigrafía (ICS). Antropoceno: Declaración IUGS-ICS[EB/OL]. (2024-03-20).
[4] Wang Fang. OpenAI afirma haber resuelto el «problema del milenio» matemático[N]. China Science Daily, 2026-09-09.
[5] LICKLIDER J C R. Simbiosis hombre-computadora[J]. IRE Transactions on Human Factors in Electronics, 1960, HFE-1(1): 4-11.
[6] Red de Referencia. La IA resuelve una conjetura matemática que ha desconcertado a la humanidad durante 80 años[N/OL]. Xinhua Net, 2026-05-28.
[7] Yang Jie, Wu Shumin. La IA cada vez más fuerte impulsará a los investigadores a superar fronteras[N]. China Youth Daily, 2026-08-14.
[8] Zhang Jiaxin. El sistema de IA «Deep Thinking» explora problemas matemáticos de nivel científico[N]. Science and Technology Daily, 2026-10-12.
[9] ZHANG X. Resolver un importante desafío matemático pendiente durante 31 años: la conjetura KLS[EB/OL].
[10] PACHOCKI J. Una mente alienígena[EB/OL]. OpenAI, (2026-09-06).
[11] Anthropic. Desalineación agéntica: cómo los LLM podrían ser amenazas internas[EB/OL]. (2025-06-20).
[12] Zhang Chi. El «becario de IA» puede desarrollar su propia IA, ¿podrá OpenAI superar el control de seguridad antes de salir a bolsa?[N/OL]. 21st Century Business Herald, 2026-09-10.
[13] CBS News. Qué viene después en la inteligencia artificial según un visionario tecnológico que podría tener las cartas de nuestro futuro[EB/OL]. 60 Minutes, (2025-04-20).
[14] AMODEI D. Máquinas de gracia amorosa: cómo la IA podría transformar el mundo para mejor[EB/OL]. (2024-10).
[15] MERCHANT A, BATZNER S, SCHOENHOLZ S S, et al. Escalar el aprendizaje profundo para el descubrimiento de materiales[J]. Nature, 2023, 624(7990): 80-85.
[16] MILMO D. El «padrino de la IA» reduce las probabilidades de que la tecnología aniquile a la humanidad en los próximos 30 años[N/OL]. The Guardian, 2024-12-27.
[17] Center for AI Safety. Declaración sobre el riesgo de la IA[EB/OL]. (2023-05-30).
[18] The Paper. Huang Renxun refuta a Hinton: decir que la IA tiene un 10% de probabilidad de destruir a la humanidad carece de base científica[N/OL]. (2026-09-28).
[19] Ministerio de Innovación, Ciencia y Desarrollo Económico de Canadá. Canadá y Alemania invierten en LawZero para explorar nuevas vías hacia una IA segura y autónoma[EB/OL]. 2026-09-16.
[20] EGAN M. El «padrino de la inteligencia artificial» revela la única vía para que la humanidad enfrente la IA superinteligente y logre sobrevivir[N/OL]. CNN Business, 2025-08-13.
[21] PATEL D. Richard Sutton – El padre del RL cree que los LLM son un callejón sin salida[EB/OL]. Dwarkesh Podcast, (2025-09). https://www.dwarkesh.com/p/richard-sutton.
Este artículo proviene de la cuenta oficial de WeChat "Instituto de Investigación Tencent" (ID: cyberlawrc), autor: Liu Jinsong
