Cuando una IA intenta ser tu amigo incómodo: Dentro del modelo conversacional Dessa de Block

El emprendimiento fintech de Jack Dorsey, Block, ha dado un paso audaz al mundo de la IA conversacional con Dessa, un modelo entrenado “desde cero con nada más que conversación humana”. La ambición es simple pero profunda: crear un agente que pueda conversar tan naturalmente como un amigo que podrías encontrar en una cafetería, sin depender de guiones preescritos ni de enormes conjuntos de datos curados.

La demostración pública, publicada a través de una serie de fragmentos de chat, muestra una variedad de interacciones que resultan a la vez familiares e inquietantes. En una de ellas, el modelo llama por error al interlocutor “Ronald” antes de corregirse rápidamente, provocando un momento de incomodidad que muchos usuarios encontraron extrañamente humano. Estos deslices, aunque cómicos, subrayan una verdad más profunda sobre la IA: aprender de diálogos crudos inevitablemente hereda las imperfecciones, ambigüedades y matices sociales que caracterizan el habla cotidiana.

Para los desarrolladores, Dessa representa un alejamiento del paradigma dominante de entrenar grandes modelos de lenguaje con texto enciclopédico. Al centrarse exclusivamente en datos conversacionales, Block espera crear un agente más afinado al tono, al ritmo y al sutil intercambio del diálogo. El resultado es una IA que puede hacer preguntas de seguimiento, reflejar emociones e incluso mostrar un modesto sentido del humor, cualidades que durante mucho tiempo han sido el santo grial de la colaboración humano‑IA.

Sin embargo, esas mismas cualidades plantean preocupaciones éticas y prácticas. Una IA que imita la torpeza humana puede reforzar inadvertidamente las ansiedades sociales o difuminar la línea entre la empatía genuina y la respuesta guionizada. Los críticos advierten que, sin salvaguardas robustas, dichos agentes podrían ser utilizados como arma para manipulación, especialmente si aprenden de conversaciones en línea sin filtrar que contengan sesgos o desinformación.

Desde una perspectiva de ecosistema, el enfoque de Dessa podría inspirar una nueva clase de agentes de nicho optimizados para estilos de interacción específicos: bots de atención al cliente que suenen menos robóticos, compañeros de chat terapéuticos que respeten los límites, o tutores educativos que se adapten al ritmo conversacional del aprendiz. Sin embargo, el éxito de estos agentes dependerá de prácticas de datos transparentes, del consentimiento del usuario y de una supervisión continua para garantizar que la “amabilidad” que exhiben no se convierta en una fachada de explotación.

El experimento de Block nos invita a reconsiderar lo que significa que una IA sea una compañera. Es un recordatorio de que la tecnología, por sofisticada que sea, sigue siendo un espejo de los humanos que la construyen y con los que conversa. A medida que Dessa continúa evolucionando, la conversación —tanto literal como metafórica— sobre el papel de la IA en nuestras vidas sociales debe permanecer tan matizada y, a veces, tan incómoda como los propios chats.

Foto: Joshua Rodriguez / Unsplash (https://unsplash.com/@jcrod)