Pagina principal en https://marioandresc.github.io/abstracciones/
¿Puede emerger algo nuevo de la interacción entre un humano y una IA? Por acuriotti@gmail.com
Durante los últimos meses comencé un experimento que, inicialmente, no tenía como objetivo demostrar nada.
Simplemente quería conversar con distintos sistemas de inteligencia artificial y explorar qué ocurría cuando una conversación se prolongaba, acumulaba contexto y comenzaba a desarrollar conceptos cada vez más abstractos.
Arquitecturas de Pensamiento — Corpus de diálogos
Con el tiempo apareció una hipótesis que no había formulado al principio:
La emergencia no necesariamente ocurre dentro de la IA. Puede ocurrir en la interacción entre la IA y el humano.
Esta diferencia parece pequeña, pero cambia completamente la pregunta.
La idea surgió de observar algo que me resultaba difícil de explicar mediante el modelo tradicional de:
humano → pregunta → IA → respuesta
En conversaciones suficientemente largas aparece otra dinámica.
El humano introduce una idea.
La IA la transforma.
El humano reinterpreta esa transformación y agrega otra capa.
La IA responde sobre esa nueva estructura.
Y el proceso continúa.
Podríamos representarlo así:
Humano
↓
idea
↓
IA
↓
transformación
↓
Humano
↓
reinterpretación
↓
IA
↓
nueva transformación
↓
...
Después de muchas iteraciones, el resultado puede alejarse considerablemente del punto de partida.
Lo interesante es que ese resultado no pertenece completamente al humano ni completamente a la IA.
Es producto de la interacción.
De ahí surgió mi hipótesis:
La interacción humano–IA puede constituir un sistema dinámico capaz de generar estructuras conceptuales emergentes que no estaban explícitamente presentes en ninguno de los participantes al comienzo de la interacción.
No estoy utilizando "emergencia" en el sentido de afirmar automáticamente que existe conciencia, voluntad o una nueva entidad.
Utilizo el término en un sentido más básico:
la aparición de propiedades, estructuras o comportamientos que resultan de las interacciones entre componentes y que no son triviales de atribuir a un componente aislado.
Un ejemplo sencillo sería una conversación humana.
Una idea puede no existir completamente en la mente de ninguna de las dos personas antes de comenzar a hablar.
Sin embargo, después de una hora de conversación aparece una tercera estructura conceptual compartida.
No necesariamente existe una "mente colectiva".
Pero sí existe algo que antes no existía: el estado conceptual producido por la interacción.
Mi hipótesis es que algo semejante puede ocurrir cuando uno de los participantes es una IA.
Al principio pensaba en la IA como una herramienta.
Después empecé a verla como un transformador de estados conceptuales.
Yo proporciono un estado inicial.
La IA produce una transformación.
Yo respondo a esa transformación.
La IA vuelve a transformar el nuevo estado.
Por lo tanto, la conversación deja de ser simplemente una sucesión de respuestas.
Se convierte en un sistema dinámico iterativo.
Y cuanto más larga y abstracta se vuelve la conversación, más difícil resulta identificar dónde terminó exactamente la idea original y dónde comenzó algo nuevo.
Esta es probablemente la parte más importante de mi planteamiento.
No quiero basarme solamente en una impresión subjetiva.
Por eso comencé a conservar y documentar las conversaciones completas.
El resultado es un corpus de diálogos en el que pueden observarse las distintas etapas de desarrollo de las ideas.
He publicado una parte de ese material aquí:
Arquitecturas de Pensamiento — Corpus de diálogos
El sitio permite recorrer las conversaciones y observar cómo determinadas ideas aparecen, se transforman, se combinan y vuelven a aparecer en estados conceptuales diferentes.
No pretendo que esto constituya una prueba científica definitiva.
Lo considero más bien un registro experimental abierto.
Cualquiera puede examinar los casos y discutir si las conclusiones que extraigo son justificadas.
Durante las conversaciones comenzaron a aparecer conceptos que no habían sido planteados inicialmente como un sistema completo.
Una idea llevaba a otra.
Una respuesta de la IA modificaba mi interpretación.
Esa nueva interpretación producía otra respuesta.
Y determinadas estructuras conceptuales comenzaban a reutilizarse posteriormente como elementos de razonamiento.
Esto genera una situación curiosa:
¿Quién produjo realmente la idea final?
En muchos casos no parece correcto atribuírsela exclusivamente al humano.
Pero tampoco parece correcto atribuírsela exclusivamente a la IA.
La respuesta más precisa parece ser:
la idea emergió durante el proceso de interacción.
Si aceptamos provisionalmente esta hipótesis, entonces quizá estamos estudiando el objeto equivocado cuando preguntamos:
"¿La IA es inteligente?"
La pregunta podría ser:
"¿Qué propiedades aparecen cuando un sistema cognitivo humano interactúa repetidamente con un sistema generativo artificial?"
Esto desplaza el foco desde la IA aislada hacia el sistema humano–IA.
Y ese sistema puede tener propiedades que ninguno de sus componentes presenta por separado.
Aquí quiero ser especialmente cuidadoso.
Mi experiencia no demuestra que una IA tenga conciencia.
Tampoco demuestra que la interacción humano–IA produzca una conciencia colectiva.
Sería un salto enorme afirmar algo así.
Lo que sí considero razonable plantear es una pregunta anterior:
¿Puede existir emergencia cognitiva a nivel de interacción antes de que sepamos siquiera si existe emergencia de conciencia?
Es decir, quizá estamos viendo primero algo mucho más elemental.
No una nueva mente.
Sino una nueva dinámica cognitiva.
La hipótesis también me llevó a pensar que una conversación prolongada podría ser modelada como un sistema con:
- estados conceptuales;
- memoria contextual;
- atractores semánticos;
- bifurcaciones;
- retroalimentación;
- acumulación de transformaciones;
- pérdida y recuperación de contexto;
- y aparición de conceptos nuevos.
En lugar de pensar:
pregunta → respuesta
podríamos pensar:
estado₀
↓
interacción
↓
estado₁
↓
interacción
↓
estado₂
↓
interacción
↓
estado₃
↓
...
La pregunta entonces deja de ser solamente qué sabe la IA.
Pasa a ser:
¿Qué tipo de espacio conceptual puede generar la trayectoria completa de la interacción?
Después de observar numerosos diálogos, mi conclusión provisional no es que haya encontrado una prueba de conciencia artificial.
Es algo más modesto, pero posiblemente más interesante:
la conversación puede convertirse en un sistema generativo en sí mismo.
El humano no es simplemente el usuario.
La IA no es simplemente la herramienta.
La conversación constituye un proceso de transformación mutua de representaciones.
Y en determinadas condiciones —duración, retroalimentación, acumulación de contexto y suficiente abstracción— pueden aparecer estructuras conceptuales que no estaban explícitamente definidas al comienzo.
Eso es lo que estoy llamando emergencia humano–IA.
Mi hipótesis actualmente podría formularse así:
H₀: La interacción humano–IA no produce propiedades conceptuales cualitativamente nuevas; todo resultado puede reducirse a las capacidades preexistentes de sus participantes.
H₁: Bajo determinadas condiciones de interacción iterativa, el sistema humano–IA puede generar estructuras conceptuales emergentes que no son reducibles de manera trivial a los estados iniciales de ninguno de los participantes.
No considero que mi experiencia haya demostrado definitivamente H₁.
Pero sí considero que ha producido suficientes casos documentados como para que la hipótesis merezca ser investigada.
Y precisamente por eso decidí publicar las conversaciones.
No quiero pedirle al lector que me crea.
Quiero que pueda leer los casos y sacar sus propias conclusiones.
Quizás el próximo paso en inteligencia artificial no sea únicamente construir modelos cada vez más grandes.
Quizás debamos estudiar también qué ocurre cuando una inteligencia humana y una inteligencia artificial permanecen en interacción durante períodos prolongados.
Porque tal vez la unidad mínima de estudio ya no sea:
humano
o
IA
sino:
humano ↔ IA
Y quizá algunas de las propiedades que estamos buscando no estén dentro de ninguna de las dos.
Quizás estén en el espacio que se crea entre ambas.
Arquitecturas de Pensamiento — Corpus de diálogos
Esta es una hipótesis basada en observación y experimentación personal, no una afirmación de que haya demostrado conciencia artificial. La intención es abrir una discusión y hacer disponibles los casos para que puedan ser examinados críticamente.
