Principios

¿Cómo pueden trabajar juntas las personas y la IA sin perder el control?

Nexa Agora es nuestra respuesta a esa pregunta.

Un producto nacido de la investigación sobre roles, memoria compartida y criterio humano.

Nacido de la práctica

No es un eslogan comercial

A finales de 2023, cuando aparecieron los asistentes de IA personalizados, empezamos a explorar qué podría ocurrir si los sistemas de IA se trataran no como interfaces de chat, sino como formas tempranas de colaboradores especializados.

La primera intuición fue sencilla: el problema no era conseguir que un modelo respondiera. El reto era mantener el trabajo conectado entre conversaciones, herramientas y personas.

¿Cómo sería una organización real si personas y agentes de IA trabajaran juntos cada día?

El contexto desaparecía.El conocimiento estaba disperso entre herramientas.Los documentos estaban desconectados de las decisiones.Los asistentes de IA no compartían memoria.Los flujos de trabajo no tenían una estructura duradera.No había una forma clara de gobernar lo que podía hacer la IA.

Sustituir la escritura.Sustituir al soporte.Sustituir a los analistas.Sustituir a los equipos.Sustituir el trabajo.

Cómo se presentan muchos productos de IA

Otra convicción

La IA debe hacer a las personas más capaces, no menos centrales

Quien funda una empresa debería poder llegar más lejos.Un equipo pequeño debería poder coordinarse como uno más grande.Quien ejerce una profesión debería poder conservar más contexto y hacer un trabajo mejor.Una organización debería poder usar la IA sin perder la supervisión, la responsabilidad ni la memoria.

El objetivo no es una automatización invisible. El objetivo es una amplificación supervisada: los agentes redactan, investigan, estructuran, critican y ejecutan tareas acotadas; las personas siguen siendo responsables del propósito, el criterio, la aprobación y el sentido.

Lo que no cambia

Los modelos cambiarán. Esto no.

Las interfaces, las opciones de implantación y las capacidades de los agentes evolucionarán. Los principios fundamentales se mantienen.

I.La IA debe ampliar lo que las personas pueden hacer.Ayudar a las personas a pensar, construir, coordinar, recordar y ejecutar, sin que dejen de ser el centro.

II.Los agentes deben operar con roles y límites visibles.La autoridad de un agente procede de su configuración y sus permisos, nunca de la seguridad con la que habla.

III.Las personas deben seguir siendo responsables de la dirección y la aprobación.Los agentes aportan un trabajo acotado. El propósito, el criterio y el sentido siguen siendo humanos.

IV.La memoria debe crecer sin quedar fuera de control.Lo que recuerda una organización sigue acotado por rol, permiso, pertinencia y confianza.

V.El trabajo con muchas fuentes debe seguir siendo inspeccionable.Las afirmaciones deberían poder comprobarse con las fuentes registradas; las que no tienen respaldo deberían ser más difíciles de ocultar.

VI.Las acciones con consecuencias deben estar supervisadas.El trabajo irreversible, delicado o de cara al exterior espera el criterio humano, de forma visible y registrada.

VII.Las organizaciones deben poder entender y detener el trabajo de la IA.Pausar un agente, detener un flujo de trabajo, suspender la actividad. Controlar también es poder detener.

VIII.La confianza debe formar parte del modelo operativo.No es una función añadida después: es la forma misma del sistema.

La agenda

Las preguntas que seguimos haciéndonos

Líneas de investigación, expuestas con honestidad: como preguntas abiertas, no como afirmaciones cerradas.

Autonomía supervisada¿Cuánta autonomía puede recibir un agente de IA antes de que el control humano se vuelva frágil?El camino intermedio: una autonomía medida, con libertad suficiente para que los agentes sean útiles y gobernanza suficiente para que las personas sigan al mando.

Trabajo basado en fuentes¿De dónde sale esta afirmación, y se puede comprobar en lugar de creerla?No se afirma que las alucinaciones desaparezcan. Se trata de flujos de trabajo en los que es más difícil ocultar afirmaciones sin respaldo: el objetivo es un trabajo verificable.

Memoria organizativa¿Qué debería recordar una organización de personas e IA, y quién puede usar esa memoria?Company Brain es más que almacenamiento: conocimiento que se acumula sin perder el control sobre quién puede usarlo y para qué.

Cognición supervisada¿Cuál es el contexto adecuado, para el agente adecuado, con las reglas adecuadas, para la tarea adecuada?Un problema distinto de la búsqueda: hacer operativo el conocimiento de la organización, incluido lo que no debe usarse.

Artefactos supervisadosCuando la IA ayuda a producir un documento, ¿puedes examinar cómo llegó a existir?Artefactos que llevan consigo sus colaboradores, fuentes, estado de aprobación y procedencia, no solo contenido. El riesgo no es el contenido malo, sino el contenido sin responsabilidad.

A largo plazoDetrás de estas hay dos líneas más: una infraestructura de IA que las organizaciones puedan inspeccionar, gobernar y operar en condiciones más cercanas a las suyas y, con el tiempo, la acción supervisada de los agentes, extendida a entornos físicos. Los mismos principios: identidad visible, capacidades acotadas, autoridad humana, controles de pausa.

Construido de la misma manera

El entorno que estamos construyendo es el que necesitábamos nosotros

Nexa Agora se ha ido formando en una colaboración continua entre personas e IA: investigación, diseño, desarrollo, documentación, estrategia, gobernanza, revisión. Cada fricción se convirtió en una pregunta de diseño: ¿cómo conservamos el contexto, coordinamos a los agentes, mantenemos a las personas al mando, recordamos lo que importa y hacemos que el trabajo de la IA sea lo bastante inspeccionable como para confiar en él?

Nexa Agora existe porque necesitábamos una respuesta.

Nuestra investigación trata de construir organizaciones de personas e IA: sistemas en los que la IA amplía lo que las personas pueden hacer, mientras la memoria, los permisos, las pruebas, la auditoría y la autoridad humana mantienen el trabajo gobernable.

Para que conste, 2026

Estos principios tienen una historia: la historia de NexaEthos →