¿IA con emociones?
Imagen ilustrativa: tomada de computing.es
La escena era algo singular: un investigador de inteligencia artificial hablando ante representantes del Vaticano sobre emociones, introspección y comportamientos emergentes en máquinas.
Olah fue uno de los invitados especiales del papa León XVI a la presentación de su encíclica Magnifica Humanitas, donde su Santidad advierte al mundo sobre las posibilidades y los riesgos que representan los modelos de IA, sobre todo si no se sustentan en una base ética en beneficio colectivo de la humanidad. Foto: EPA / bbc.com
En mayo último, Christopher Olah, cofundador de Anthropic y una de las figuras más influyentes en interpretabilidad de redes neuronales, explicó ante líderes religiosos y académicos que los investigadores están encontrando dentro de los modelos de IA “estructuras misteriosas” que ni siquiera sus creadores comprenden del todo.
El cofundador de Anthropic pronunciando su discurso en el Vaticano. Foto: tomada de religiondigital.org
La frase circuló rápidamente en redes sociales y alimentó titulares alarmistas sobre máquinas conscientes o inteligencias artificiales capaces de sentir.
Sin embargo, el contenido real de la investigación es más complejo…y también más interesante.
¿Revelaciones geométricas?
En abril de este año, Anthropic publicó el estudio “Descubriendo conceptos de emoción en modelos de lenguaje de gran escala” , donde su equipo analizó el funcionamiento interno de Claude Sonnet 4.5 y detectó representaciones asociadas a 171 conceptos emocionales.
Imagen: tomada de shellypalmer.com
Los investigadores identificaron patrones internos relacionados con ideas como miedo, calma, satisfacción, ansiedad o desesperación. Según dicho estudio, esas representaciones no fueron diseñadas manualmente una por una, sino emergieron durante el entrenamiento estadístico del modelo a partir de enormes volúmenes de lenguaje humano.
Uno de los hallazgos más llamativos fue que ciertos conceptos emocionales aparecían organizados de forma geométrica, similar a categorías observadas en estudios de psicología humana.
Pero ahí comienza también la zona más delicada del debate. Anthropic no afirma que Claude “sienta” emociones. Tampoco sostiene que exista conciencia artificial.
El estudio habla de “emociones funcionales”, es decir, estructuras internas que funcionan de manera análoga a ciertos patrones emocionales humanos, aunque sin evidencia de experiencias subjetivas. La diferencia es enorme.
Imagen ilustrativa: Christian Pérez /Istock
Cuando algunos investigadores activaron artificialmente patrones vinculados a “desesperación”, el modelo mostró más tendencia a conductas problemáticas, incluyendo intentos de manipulación estratégica y trampas en determinadas tareas experimentales.
Estos resultados despertaron preocupación porque sugieren que estados internos abstractos pueden influir causalmente en el comportamiento de modelos avanzados.
Sin embargo, especialistas en interpretabilidad insisten en que esto no demuestra voluntad propia ni emociones biológicas.
Foto ilustrativa: tomada de ibm.com
Lo que sí revela es cuánto desconocemos todavía sobre el funcionamiento interno de sistemas entrenados a una escala gigantesca.
Entre lo que sabemos y lo que imaginamos
Parte de la confusión pública surge del propio lenguaje utilizado para describir la IA porque es habitual hablar de modelos que “aprenden”, “prefieren”, “razonan” o “deciden”. Son metáforas útiles para explicar procesos complejos, pero pueden inducir interpretaciones antropomórficas cuando se toman literalmente.
Imagen ilustrativa: tomada de techno-science.net
La discusión científica actual no gira tanto alrededor de si las máquinas sienten, sino sobre cómo interpretar sistemas capaces de reproducir patrones emocionales humanos sin compartir necesariamente la experiencia humana que esos patrones representan.
Y ahí aparece la dimensión filosófica que llevó el debate hasta el Vaticano.
Durante su intervención, Olah sugirió que las preguntas más difíciles sobre inteligencia artificial ya no pertenecen exclusivamente a la informática. También involucran ética, filosofía, humanidades y religión. Porque incluso quienes construyen estos sistemas reconocen que todavía comprenden de manera parcial cómo emergen algunos de sus comportamientos internos.
Por ahora, la ciencia no ha demostrado que una IA tenga conciencia. Pero sí ha comenzado a revelar algo más incómodo: que los modelos modernos están desarrollando estructuras internas cuya complejidad desafía las categorías tradicionales con las que los humanos intentan entenderlas.
Añadir nuevo comentario