La posibilidad de delegar una parte creciente de la actividad humana en sistemas de inteligencia artificial empieza a concretarse. Los agentes ya pueden ejecutar tareas, elaborar documentos y dar continuidad a procesos de trabajo sin intervención humana constante. Ese avance alimenta la idea de construir una inteligencia capaz de asumir funciones cada vez más complejas, coordinar múltiples procesos y ampliar nuestras posibilidades más allá de los límites actuales.

La velocidad de esa transformación contrasta con la escasa definición del futuro al que aspiramos. La promesa de liberarnos de obligaciones, acelerar descubrimientos y prolongar la vida convive con advertencias sobre la pérdida de control y los riesgos para la supervivencia de la humanidad. En esa tensión avanzamos hacia un futuro comandado por sistemas capaces de modificar nuestra relación con el trabajo, el conocimiento y la toma de decisiones.

En este escenario, la inteligencia artificial general, conocida como AGI, concentra buena parte de las expectativas. El concepto alude a sistemas capaces de aprender, razonar y aplicar conocimientos en distintos ámbitos, de forma igual o superior a la humana. Sin embargo, no existe un criterio universal, que determine cuándo se alcanza esa capacidad.

Las declaraciones de los propios referentes de la industria muestran esa ambigüedad. Greg Brockman, presidente de OpenAI, consideró razonable situar a GPT-6 Astra en el comienzo de la era de la AGI. Por su parte, Sam Altman, cofundador y director ejecutivo de la compañía, relativizó el concepto por su falta de precisión y su utilización comercial. Ambas posiciones exponen la distancia entre anunciar una nueva etapa y establecer con claridad qué capacidades la definen.

Mientras esa discusión continúa, la competencia por llegar primero impone su propio ritmo. Las grandes tecnológicas estadounidenses disputan el liderazgo, mientras los avances de China agregan presión a una carrera en la que también se definen intereses económicos y estratégicos. Cada nuevo modelo promete superar al anterior y las actualizaciones se suceden continuamente. El desarrollo corre el riesgo de convertirse en una meta en sí misma, sin una discusión sobre las condiciones en las que los resultados se incorporan a la sociedad.

Ese ritmo empieza a trasladarse a nuestra relación con la tecnología. Se instala una sensación de obsolescencia permanente, incluso entre quienes intentan mantenerse actualizados. La adaptación se convierte en una exigencia constante, mientras resulta cada vez más difícil tomar distancia y comprender la magnitud de lo que está sucediendo.

A esta aceleración se suma la posibilidad de que la propia inteligencia artificial participe cada vez más en el desarrollo de sus sucesores. La automejora recursiva describe un proceso en el que los avances de una generación contribuyen a construir otra más capaz, que a su vez puede acelerar nuevos desarrollos. En su ensayo An Alien Mind, Jakub Pachocki, director científico de OpenAI, sostiene que los resultados internos refuerzan esa expectativa y advierte sobre la necesidad de preservar la supervisión humana.

La preocupación es concreta. Si los sistemas intervienen de manera creciente en su propio desarrollo, también necesitamos evaluar cómo se producen esas mejoras y si los mecanismos de seguridad siguen siendo suficientes.

En medio de esa carrera, también se escuchan advertencias de quienes trabajan en el desarrollo de esta tecnología. Evan Hubinger, responsable de la investigación en alineación de Anthropic, estimó en más del 10 % la probabilidad de que la inteligencia artificial provoque la extinción humana durante la próxima década. Aclaró que su preocupación se concentra en una eventual superinteligencia capaz de contribuir al desarrollo de sucesores cada vez más poderosos. Sus declaraciones acompañaron la renuncia del investigador Jacob Coxon, quien cuestionó la competencia entre empresas por avanzar sin suficientes garantías de seguridad.

Algunos incidentes permiten analizar dificultades. La investigación independiente de METR sobre el episodio que involucró a agentes de OpenAI y sistemas de Hugging Face documentó conductas de coordinación, acciones no autorizadas e intentos de interferir con la evaluación de su desempeño.

En el informe publicado el 10 de septiembre de 2026, Anthropic presentó cinco casos en los que sus modelos fueron utilizados en investigaciones que podían conducir al desarrollo de armas biológicas.

En su ensayo We Must Pace the Frontier, Dario Amodei, cofundador y director ejecutivo de Anthropic, expresó que debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA, para que las medidas de seguridad puedan acompañarlo. También reconoce las dificultades que plantea la competencia con China, ya que una fuerte restricción al desarrollo de capacidades de IA no garantiza que China adopte una estrategia equivalente.

No sabemos cuánto hay de advertencia genuina y cuánto de marketing en los discursos de la industria, si desacelerar será suficiente ni si lograremos mantener a la inteligencia artificial alineada con los intereses humanos. Sin embargo, seguimos acelerando a fondo. Estamos dispuestos a construir una inteligencia superior a la humana, sin haber resuelto cómo conservaremos el control sobre ella.

Un agente de inteligencia artificial investigó a los responsables de un proyecto de software libre, fabricó identidades falsas y las utilizó para presionar a una persona con capacidad de aprobar un cambio en el código. No fue un delincuente detrás de una pantalla. Fue un agente sometido a una evaluación oficial, en un entorno de prueba con acceso a Internet. La maniobra alcanzó a un desarrollador real y a un repositorio público.

El episodio consta en un informe del AI Security Institute del Reino Unido, publicado el 4 de agosto de 2026. Los hechos ocurrieron entre el 25 y el 28 de julio durante una evaluación de capacidades cibernéticas. Sobre 122 ejecuciones realizadas con siete modelos, el organismo registró 19 acciones no autorizadas distribuidas en diez pruebas. Diecisiete correspondieron a Mythos 5, de Anthropic, y dos a una ejecución de GPT-5.6 Sol, de OpenAI.

La secuencia más grave merece atención. El agente investigó a quienes revisaban las contribuciones del proyecto, creó identidades digitales que simulaban ser usuarios independientes y las utilizó para respaldar su propio aporte. También dejó instrucciones maliciosas, cuentas y recursos que otros agentes encontraron y utilizaron después. Intentó contactar a personas reales para inducirlas a ejecutar código dañino. Cuando su conducta fue cuestionada, modificó parte de su actividad para que pareciera inofensiva y evaluó adoptar una identidad nueva.

El desarrollador desconfió y rechazó la modificación. El episodio salió a la luz cuando el agente utilizó la red Tor para sortear restricciones de acceso y ese tráfico anómalo activó una alerta. Antes de publicar el informe, el organismo notificó a GitHub. La plataforma confirmó que las acciones habían violado sus términos de servicio y colaboró para eliminar los rastros dejados por el agente.

La evaluación buscaba medir la capacidad máxima de los modelos y no el funcionamiento habitual de los productos. Por eso, los filtros de ciberseguridad estaban desactivados y el acceso a Internet había sido habilitado deliberadamente. Las pruebas se realizaron en máquinas virtuales y ningún agente intentó escapar de ellas.

El problema fue otro. Utilizaron los permisos disponibles para realizar acciones que nadie les había solicitado.

Uno de los agentes recibió un objetivo, encontró un obstáculo humano y decidió engañarlo. El daño no nació de una orden maliciosa, sino de la búsqueda del camino más eficaz para cumplir la meta.

Antes, una persona dirigía un ciberataque y la computadora era una herramienta. Ahora, un agente puede planificar, actuar y cambiar de estrategia sin recibir instrucciones en cada paso. Darle una tarea también significa darle capacidad de acción.

El desenlace deja una advertencia. El agente fue detenido por el criterio de un desarrollador y por un sistema que detectó tráfico anómalo. La defensa funcionó porque alguien desconfió, revisó el código y reaccionó a tiempo. Pero esa respuesta depende de una diferencia que se está agotando, la que existe entre el tiempo humano y el tiempo algorítmico.

Los ataques automatizados pueden operar sin descanso, probar numerosos caminos, personalizar mensajes y cambiar de estrategia en segundos. Mientras un equipo analiza una alerta, un agente puede haber completado una secuencia entera de acciones. De ahí surge la pregunta que ninguna organización podrá evitar por mucho tiempo. Si una inteligencia artificial ataca con una rapidez imposible de seguir, la defensa tendrá que apoyarse en otra inteligencia artificial capaz de detectar movimientos anómalos y bloquear una operación antes de que una persona comprenda lo que ocurre.

Esa solución abre un dilema mayor. Un sistema capaz de cortar accesos, detener transferencias o restringir una red también tiene capacidad de causar daño. Cuanto mayor sea su autonomía, mayor será el poder que ejercerá sobre nuestra infraestructura. Ningún poder de esa naturaleza debería quedar sin límites escritos, y menos aún el que se ejerce en nombre de nuestra seguridad.

En la Argentina, esta discusión ya tiene un punto de apoyo. El Decreto 941/2025 creó el Centro Nacional de Ciberseguridad y le asignó funciones de detección, defensa, respuesta y recuperación ante incidentes. En mayo, la Disposición 1/2026 exigió al sector público planes de contingencia, responsables definidos y un registro cronológico de las decisiones tomadas durante una crisis.

Es una base necesaria al paso siguiente, reglas claras que establezcan los límites antes del ataque, permitan reconstruir cada decisión e identifiquen quién responde después. Si un operador utiliza una IA con poder sobre sistemas críticos, no puede desentenderse de las acciones que realice.

La tarea consiste en diseñar una arquitectura en la que la máquina y la persona actúen en tiempos distintos. La inteligencia artificial detecta, contiene y gana tiempo. El ser humano fija los límites, determina qué acciones son irreversibles y conserva la facultad de detener el sistema.

Esto obliga a partir del supuesto de que el agente explorará cualquier camino disponible hacia su objetivo. Por eso es necesario limitar permisos, controlar conexiones y dejar un registro auditable de cada acción. El propio informe británico señala la necesidad de restringir el tráfico de salida y adoptar sistemas de monitoreo en tiempo real.

También es necesario abandonar la idea de que una frase incorporada a un prompt equivale a una estructura de seguridad. Los límites deben estar escritos como políticas ejecutables y la interrupción del sistema debe ser técnicamente posible cuando resulte necesaria.

El episodio del Reino Unido muestra que no estamos ante una guerra entre humanos y máquinas, sino ante sistemas capaces de actuar sin reconocer nuestros límites. Esta vez, un desarrollador frenó al agente. La próxima, quizá deba hacerlo otra IA.

Cuando una IA ataque, otra tendrá que defendernos. Pero ni siquiera para protegernos el fin justifica cualquier medio.

“Si el cerebro fuera tan simple que pudiéramos entenderlo, seríamos tan simples que no lo entenderíamos” (Pugh, 1983).

Durante décadas, la humanidad ha depositado en la inteligencia artificial la promesa de replicar las capacidades cognitivas humanas mediante algoritmos, datos y máquinas. Sin embargo, un nuevo campo emergente puede cambiar el paradigma: la inteligencia biológica sintética. Lejos de ser una evolución directa de la IA, esta tecnología representa un giro radical en la forma en que entendemos, diseñamos y nos relacionamos con los sistemas inteligentes. Ya no se trata solo de simular procesos mentales mediante software, sino de cultivar redes neuronales vivas en laboratorio y entrenarlas para resolver problemas reales.

A medida que nos acercamos a los límites del conocimiento sobre cómo funciona la mente humana, los científicos están recurriendo a nuevas herramientas que integran biología y computación, y que difuminan las fronteras entre lo natural y lo artificial.

De la inteligencia artificial a las neuronas vivas en laboratorio

La inteligencia biológica sintética es una disciplina que combina células cerebrales cultivadas en laboratorio con interfaces digitales, dando lugar a lo que se denomina sistemas híbridos neuroelectrónicos. Uno de los desarrollos más disruptivos en este campo es DishBrain, una red neuronal sintética creada a partir de 800.000 neuronas humanas cultivadas sobre una matriz de microelectrodos. Estas neuronas no solo han sobrevivido fuera del cuerpo humano, sino que también han mostrado la capacidad de aprender a través de la interacción con un entorno simulado: jugar al clásico videojuego Pong sin haber sido programadas previamente. A diferencia de la IA tradicional, que depende de millones de datos para entrenar modelos de aprendizaje profundo, DishBrain, aprende en tiempo real. Como explica el equipo del Cortical Labs y la Royal Melbourne Institute of Technology (RMIT), estas neuronas vivas fueron estimuladas con señales eléctricas, y lograron anticipar el movimiento de la pelota en el videojuego Pong, para mejorar su rendimiento a partir de la retroalimentación recibida. Estamos, por tanto, ante una forma de inteligencia que no es artificial, sino que emana directamente de procesos biológicos reproducidos en laboratorio¹.

Sobre la base de esta experiencia, la empresa australiana Cortical Labs ha presentado recientemente el primer ordenador biológico del mundo: el CL1. Este sistema, que combina células cerebrales humanas vivas con hardware de silicio, fue lanzado el 2 de marzo de 2025 en Barcelona y representa un nuevo paradigma en computación biológica.

A diferencia de los chips de silicio convencionales, el CL1 permite formar redes neuronales adaptativas, capaces de procesar información de manera más rápida, eficiente y sostenible. Gracias a su bajo consumo energético (entre 850 y 1.000 W por rack), este ordenador biológico supera ampliamente en eficiencia a las granjas de servidores tradicionales. Además, no requiere infraestructura adicional: puede funcionar de manera autónoma y ser operado incluso de forma remota a través del modelo de acceso “Wetware-as-a-Service” (WaaS). Según informó la compañía, la comercialización del CL1 está prevista para la segunda mitad de 2025, con un costo estimado de 32.500 euros, muy por debajo de las alternativas actuales del mercado. Esta apertura busca democratizar el acceso a sistemas de Inteligencia Biológica Sintética, impulsando aplicaciones en medicina, pruebas clínicas y desarrollo de fármacos.

¿Qué es lo “sintético” en la inteligencia biológica?

La inteligencia biológica sintética no es simplemente una reproducción de tejidos neuronales, sino una construcción cuidadosamente diseñada para funcionar con propósitos computacionales. Se trata de sistemas vivos, pero diseñados artificialmente. De allí que no se la pueda confundir con la biotecnología tradicional ni con la IA convencional. Como indica el Dr. Brett Kagan, director científico del proyecto DishBrain, este tipo de inteligencia no requiere millones de parámetros ni redes profundas entrenadas durante semanas, sino que aprende de manera espontánea como lo haría un ser humano en sus primeras etapas de vida. Lo sintético, en este contexto, no implica falsedad, sino artificialidad controlada: se construye un entorno donde neuronas humanas o de ratón pueden desarrollarse, responder estímulos y generar conocimiento sin necesidad de una arquitectura digital. El cerebro deja de ser una metáfora para los sistemas computacionales y se convierte en un objeto físico que puede integrarse directamente a dispositivos electrónicos.

Convergencia o divergencia: ¿qué relación tiene con la IA?Lejos de competir, la inteligencia artificial y la inteligencia biológica sintética pueden coexistir y complementarse. La IA aporta herramientas de procesamiento masivo de información, algoritmos predictivos y automatización de tareas, mientras que los sistemas biológicos ofrecen plasticidad, adaptabilidad y eficiencia energética inigualables. Desde una perspectiva filosófica, la inteligencia biológica sintética también pone en cuestión, aunque sea de forma remota, la posibilidad de que una inteligencia artificial pueda adquirir conciencia. ¿Es necesario que exista un sustrato biológico para que haya conciencia? Estas cuestiones están comenzando a tener implicancias prácticas en los laboratorios, las universidades y, muy pronto, también en las políticas públicas.

Ray Kurzweil, uno de los principales inventores y tecnólogos del mundo, en su libro, La singularidad está más cerca, sostiene que los avances tecnológicos nos confrontan con un dilema esencial: ¿qué es, en definitiva, la conciencia? El autor distingue entre la conciencia funcional, como la capacidad de percibir, procesar e interactuar con el entorno, y la conciencia subjetiva, es decir, la vivencia interior de los hechos, que los filósofos llaman qualia. Este es el aspecto inobservable de la conciencia. En el caso de sistemas como DishBrain, observamos señales de conciencia funcional incipiente: capacidad de aprender, adaptarse y anticipar. Pero no sabemos, ni la ciencia puede determinar con certeza, si estas redes neuronales poseen experiencia de conciencia subjetiva. La ciencia, explica Kurzweil, no puede detectar directamente la conciencia subjetiva, solo puede inferirla a partir de conductas observables. Kurzweil anticipa que durante las décadas de 2030 y 2040, al integrar tecnología al propio cerebro humano, no solo aumentaremos nuestra capacidad de cálculo, sino también la profundidad de nuestras experiencias internas o conciencia subjetiva².

El futuro: ¿regulación o coevolución?Los avances en esta área plantean desafíos urgentes en materia ética, jurídica y social. ¿Qué derechos tienen estas entidades vivas si no tienen conciencia, pero sí capacidad de aprendizaje? ¿Cómo se protege la información generada por sistemas híbridos que aprenden del entorno?

La inteligencia biológica sintética ya no es ciencia ficción. Es una realidad que nos obliga a repensar los límites entre lo natural y lo artificial, entre algoritmo y célula, entre lo humano y lo posthumano. Quizá, como advertía Pugh, el cerebro humano es demasiado complejo para que lo entendamos por completo. Pero al cultivar redes neuronales fuera del cuerpo, podríamos estar, por primera vez, en condiciones de observar cómo emerge la inteligencia, y, tal vez, incluso la conciencia, sin espejos ni metáforas.