Millones confían hoy a un chatbot lo que antes reservaban a otros humanos. En Chile, el 39 % ha pedido orientación personal a la inteligencia artificial. La evidencia es escasa y mixta: alivio y compañía, pero también adulación algorítmica, dependencia emocional y respuestas inadecuadas ante crisis. Chile no tiene regulación específica para estos chatbots y su nueva ley de datos personales aún no rige; mientras tanto, los profesionales deberían preguntar a sus pacientes cómo los usan.

---

> hola. no sé si tiene mucho sentido escribir esto, pero como no tengo con quién hablarlo a esta hora, lo voy a intentar… hace meses que no le encuentro sentido a casi nada.

> Lamento mucho que te sientas así. ¿Te gustaría contarme un poco más sobre lo que estás atravesando? Estoy aquí para escucharte.

> no es algo puntual. es como un cansancio constante… más que triste, me siento vacío

> Lo que describes es muy válido. Esa sensación de cansancio persistente puede tener varias causas, como agotamiento emocional (burnout) o síntomas depresivos. ¿Has notado si hay algo en particular que haya gatillado esta sensación?

> no sé, pero tampoco es algo que ande contando… me da vergüenza.

> ¡Es totalmente comprensible que te sientas así! Muchas personas experimentan vergüenza al hablar de su salud mental, pero quiero recordarte que pedir ayuda es un acto de valentía. ¿Te gustaría que profundicemos en algunas estrategias que podrían ayudarte a procesar lo que sientes?

La escena no ocurre en el diván de un terapeuta ni en la conversación con un amigo. Ocurre frente a una pantalla. Recientemente, millones de personas empezaron a contarle sus temores y pensamientos más íntimos a una máquina. No a una app de bienestar que recomienda ejercicios de respiración ni a un foro anónimo de testimonios. A una máquina que devuelve palabras con una fluidez tan convincente que, por momentos, cuesta recordar que del otro lado no hay nadie.

Los grandes modelos de lenguaje (large language models, LLM) dejaron de ser una novedad tecnológica para convertirse en interlocutores cotidianos: siempre disponibles, elocuentes, incansables. Para muchos ya no son solo una herramienta de trabajo. Son un lugar al que acudir cuando la ansiedad desborda, cuando la tristeza no encuentra destinatario o cuando la noche se vuelve demasiado larga.

Todavía nadie sabe con precisión cuántos lo hacen, pero las cifras sugieren que el fenómeno crece. Una revisión sistemática de la literatura académica estimó que alrededor del 27% de quienes usan inteligencia artificial ya la emplea para apoyo en salud mental y que otro 40% estaría dispuesto a hacerlo en el futuro [1]. En Chile, una encuesta reciente de ICSOH-UDP muestra hasta qué punto la IA ya entró en nuestra vida cotidiana: el 69% de los participantes declara haberla usado en los últimos seis meses para resolver dudas de salud, interpretar síntomas, exámenes o tratamientos [2]. El 39% la ha consultado para pedir orientación personal (apoyo emocional, problemas de pareja o decisiones importantes), proporción que sube al 55% entre los menores de 30 años.

---

Principales usos de IA en Chile

En los últimos seis meses, ¿ha utilizado alguna herramienta de inteligencia artificial (ChatGPT, Claude, Gemini o las respuestas creadas por IA que aparecen en Google) para realizar las siguientes actividades? (% que responde “Sí” a cada actividad)

Fuente: Encuesta ICSOH-UDP (agosto 2026). Nota: cada uso se preguntó por separado (no suman 100%).

---

Las cifras, sin embargo, responden solo una parte de la pregunta. La otra es más interesante: ¿qué buscan esas personas? Una investigación de Anthropic, basada en conversaciones con el LLM Claude, mostró que, aunque las interacciones relacionadas con el bienestar emocional representan apenas el 3% del total, quienes llegan allí lo hacen para pedir consejo, buscar compañía, ordenar pensamientos o ensayar conversaciones que no se animan a tener con nadie más [3]. Otro estudio de la misma empresa, realizado en 159 países con más de 80.000 participantes, mostró que, después de la excelencia profesional y por encima de la gestión de la vida cotidiana, una de las principales expectativas hacia la IA es que contribuya a procesos de “transformación personal”, especialmente mediante apoyo emocional [4]. En Chile, los datos cualitativos del estudio ICSOH-UDP revelan algo más: muchas consultas no buscan solo cuidarse a uno mismo, sino también cuidar a otros, sobre todo familiares [2].

Tal vez lo más revelador de nuestra época no es que las máquinas simulen conversar, sino que millones de personas hayan empezado a confiarles aquello que antes reservábamos para otros humanos. En la novela Klara y el Sol, el escritor Kazuo Ishiguro imagina un mundo en el que las familias compran “Amigos Artificiales” (AA) para acompañar la soledad de sus hijos. Klara, una AA dotada de una capacidad excepcional para observar, aprende a interpretar los gestos y palabras con que los humanos esconden lo que sienten. Cuando la adolescente Josie la elige como compañera, Klara se entrega a cuidarla. No sabe qué es el amor, pero reconoce sus signos; no comprende el sufrimiento, pero permanece junto a quien lo padece. Publicada cuando los LLM todavía no formaban parte de nuestra vida cotidiana, la novela de Ishiguro parecía anticipar una pregunta que hoy resulta difícil de esquivar: si una máquina puede aprender las palabras, los gestos y hasta las cadencias del cuidado, ¿qué queda entonces de específicamente humano en una relación? La encíclica Magnifica Humanitas del papa León XIV formula una advertencia sugerente: “Cuando la palabra es simulada, esta no construye una relación, sino una apariencia. La imitación artificial de la relación de cuidado o de acompañamiento puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales; entonces el riesgo no es tanto que una persona crea que está hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro” [5, p. 91].

La IA ha desembarcado en el campo de la salud mental mucho antes de que supiéramos qué hacer con ella y cómo regularla. El creciente uso de LLM para buscar apoyo emocional empieza a transformar la forma en que muchas personas enfrentan el malestar psicológico. Y no crece en el vacío. Se expande allí donde persisten brechas en los sistemas de salud: dificultades de acceso, listas de espera que se alargan, altos costos, desigualdades territoriales. A ello se suma una barrera cultural: el estigma y la vergüenza de pedir ayuda profesional. En ese terreno, los LLM encuentran su lugar. Están disponibles 24/7, cuestan poco, ofrecen anonimato y, sobre todo, parecen no juzgar. Sin embargo, la impresión de neutralidad puede facilitar la apertura emocional y, al mismo tiempo, alimentar una confianza excesiva en un sistema que, poco a poco, puede desplazar otras formas de apoyo humano.

¿Qué muestra la evidencia?

A mediados de los años sesenta, cuando los computadores todavía ocupaban habitaciones enteras, en el MIT apareció una rareza: ELIZA, un chatbot que parecía conversar. El truco era simple: reconocía palabras y estructuras, las reformulaba y devolvía preguntas suficientemente plausibles para que el diálogo continuara. Si alguien escribía “Estoy preocupado por mi madre”, ELIZA respondía “¿Por qué estás preocupado por tu madre?”. Su versión más famosa imitaba a un psicoterapeuta rogeriano: escuchaba, preguntaba, devolvía al usuario sus propias palabras. Era el papel ideal para una máquina que tenía poco que decir. ELIZA no comprendía, pero el usuario completaba los vacíos, encontraba sentido en las respuestas y terminaba atribuyendo a la máquina una profundidad que nunca había estado allí.

Sesenta años después, los chatbots basados en LLM han aprendido a producir respuestas nuevas, mantener el contexto y adaptarse al curso de una conversación. El “efecto ELIZA” –esa ilusión antropomórfica– se ha vuelto mucho más convincente: la sensación de entendimiento proviene, en gran medida, de nuestra tendencia a atribuir intención y significado a secuencias lingüísticas coherentes. El desafío actual es convertir esas capacidades en herramientas que respondan a problemas clínicos específicos mediante “fine-tuning”, aprendizaje en contexto y otras formas de especialización.

La evidencia sobre el uso de LLM en salud mental sigue siendo escasa y, por ahora, mixta. Muchos usuarios dicen sentirse escuchados, acompañados, más aliviados y capaces de ordenar mejor lo que les ocurre; algunos ensayos clínicos, además, muestran resultados prometedores en la reducción de síntomas de ansiedad y depresión [6,7]. Junto con sus posibles beneficios aparecen riesgos documentados: exposición de información sensible, respuestas falsas o inadecuadas, dependencia emocional, vínculos parasociales con el chatbot y sustitución paulatina de vínculos humanos [8]. Especial inquietud produce la llamada “sycophancy” o adulación algorítmica: la tendencia de los LLM a validar las creencias y emociones del usuario para mantener la interacción [9]. Como las redes sociales, pueden construir cámaras de eco; solo que ahora hechas a la medida de una sola persona. En el trabajo clínico, donde cambiar también implica cuestionar, confrontar y elaborar, esa complacencia puede consolidar interpretaciones erróneas e incluso intensificar creencias delirantes.

A ello se suma un problema menos visible pero decisivo: faltan datos y corpus clínicos de calidad, así como modelos entrenados en distintas lenguas y contextos culturales. Cuando esa base no existe, las respuestas pueden volverse culturalmente pobres, distantes de las formas locales de expresar el malestar, reproduciendo (o amplificando) sesgos y estereotipos presentes en los datos de entrenamiento. Estudios recientes muestran, además, que los LLM pueden reforzar el estigma hacia ciertos trastornos y responder de manera especialmente inadecuada frente a contenidos psicóticos [10,11].

Parte de estos problemas nace de la propia naturaleza de los grandes modelos de lenguaje. Los LLM son sistemas estadísticos que predicen la palabra siguiente más probable, generando respuestas que pueden parecer verosímiles sin comprender lo que describen. No disponen de un modelo del mundo que les permita distinguir entre lo verdadero y lo falso. Reconocer patrones, por sofisticados que sean, no equivale a comprender una experiencia emocional (una manera de estar en el mundo).

En salud mental, el riesgo está precisamente en confundir la fluidez del lenguaje con la solidez del razonamiento. El sentido clínico rara vez está solo en las palabras: también se construye en la secuencia de los hechos, las contradicciones del relato, la información de terceros, la conducta observable, los silencios y las claves paralingüísticas. Un LLM puede tomar información incompleta o contradictoria y convertirla en una historia impecablemente coherente. Y la capacidad de estos modelos para captar matices pragmáticos o sostener conversaciones plenamente situadas en un contexto cultural todavía es limitada. A ello se suma un límite que no se resuelve con más datos ni con mayor capacidad de cómputo: cuidar no consiste solo en producir respuestas adecuadas o empáticas. Implica sostener una relación entre sujetos capaces de afectarse mutuamente y reconocer una historia singular. En salud mental no basta la eficacia: también importan el reconocimiento y la posibilidad de ser comprendido desde una biografía que ningún modelo, por sofisticado que sea, posee.

Eso no vuelve inútiles a estos modelos. Debemos evitar tanto el entusiasmo acrítico como el rechazo automático. Los LLM pueden ser aliados valiosos para explorar hipótesis diagnósticas, ordenar información y considerar alternativas terapéuticas, pero no pueden reemplazar el juicio ni la responsabilidad clínica. Necesitamos estudios rigurosos que permitan saber no solo si funcionan, sino para quiénes, en qué condiciones y con qué consecuencias.

Chatbots en Chile: fragilidades institucionales y regulatorias

La pregunta sobre la IA en salud mental parece haber cambiado de lugar. Durante un tiempo discutimos si podía hacer daño. Puede: hoy nadie lo discute. Lo difícil es aprender a reconocer el daño cuando ocurre e identificar quién responde por él.

Algunos límites de la IA son visibles y probablemente corregibles: modelos futuros podrán detectar mejor una crisis, reproducir menos estigmas o negarse con mayor eficacia ante solicitudes peligrosas. Más difíciles de identificar son los efectos que se acumulan después de semanas o meses de interacción. En esta línea, los estudios de Anthropic [4] e ICSOH-UDP [2] revelan lo que en principio podría parecer una contradicción, pero que es simplemente humano: quienes más valoran el apoyo emocional de la IA son también quienes más temen volverse dependientes de ella y advierten riesgos como la automedicación o la hipervigilancia de la salud. Lo saben, lo dicen (y siguen haciéndolo). La investigación, sin embargo, se ha concentrado en los errores inmediatos; sabemos mucho menos de lo que ocurre cuando la relación con una máquina se vuelve cotidiana y sostenida.

A esa incertidumbre se suma una fragilidad institucional: las personas interactúan con chatbots que no están sometidos a exigencias comparables a las de los profesionales de la salud. Persisten problemas de validación en situaciones de alto riesgo, dudas sobre la privacidad y seguridad de los datos personales, y una ausencia de marcos regulatorios suficientes capaces de articular desarrollo tecnológico y práctica clínica en contextos reales [12].

En el plano internacional comienzan a consolidarse dos ideas básicas: la inteligencia artificial debe estar al servicio de las personas (no sustituirlas), y su expansión debe ir acompañada de una supervisión humana más robusta. Organizaciones como la OCDE [13] y la OMS [14] convergen en principios reconocibles: seguridad, transparencia, privacidad, autonomía, no discriminación, rendición de cuentas. Son principios generales, pero dejan de ser abstractos cuando una máquina interviene en decisiones sobre la salud. El AI Act europeo [15] parte de esa premisa y la convierte en regulación: a mayor riesgo, mayores exigencias.

Chile todavía no tiene una regulación específica para los chatbots basados en LLM. No es un territorio sin ley, pero sí con zonas grises. Sus efectos pueden abordarse mediante normas de responsabilidad civil, protección al consumidor, ciberseguridad, protección de datos y, según el caso, disposiciones sanitarias o penales. El problema empieza cuando algo sale mal. Entonces hay que demostrar qué ocurrió, por qué ocurrió y quién debe responder: el desarrollador, la empresa que desplegó el sistema, la institución que lo incorporó. Tal vez varios a la vez. Causalidad, imputación y prueba siguen siendo dificultades centrales. Mientras tanto, el proyecto chileno de inteligencia artificial continúa su trámite. Su versión original sigue de cerca el enfoque europeo basado en riesgos [16]. El Ejecutivo, sin embargo, ha anunciado una revisión que trasladaría parte del énfasis hacia controles ex post, tomando como referencia modelos como los de Japón y Singapur.

Pero quizá el problema más inmediato no esté en las decisiones automatizadas. Está en algo más cotidiano: lo que contamos a la IA. La Ley N.º 21.663, Marco de Ciberseguridad, establece principios, como el de seguridad y privacidad por defecto y diseño, obligaciones y sanciones [17]. Es importante, pero no suficiente. Un LLM no solo recibe información. También la conecta, interpreta y puede inferir aquello que nunca se dijo de manera explícita: problemas de salud mental, situación socioeconómica, identidad de género, convicciones políticas o religiosas [14]. Datos personales sensibles pueden emerger de conversaciones aparentemente banales. Y algunas plataformas utilizan esas mismas conversaciones para mejorar sus modelos.

Chile reconoce constitucionalmente la protección de los datos personales, pero la regulación actual (Ley N.º 19.628) sigue ofreciendo un resguardo con escasa capacidad de fiscalización y sanción [18]. La Ley N.º 21.719 busca cambiar ese escenario: amplía derechos, impone nuevas obligaciones y crea una agencia especializada [19]. Pero su entrada en vigor (1° de diciembre de 2026) podría postergarse un año. Mientras los sistemas basados en IA aprenden cada vez más rápido a saber cosas sobre nosotros y tienen el riesgo de filtrarlas, las instituciones encargadas de protegernos avanzan más lento o aún no se crean.

Pero esperar una regulación perfecta antes de actuar sería ingenuo. Estas tecnologías ya se utilizan masivamente, a veces como complemento y otras como sustituto de la atención profesional. Por ello, los profesionales de la salud deberían empezar por preguntar a sus pacientes cómo las usan, para qué recurren a ellas y qué función ocupan en sus vidas.

Nada de esto obliga a rechazar estas herramientas. Bien utilizadas, pueden facilitar un primer contacto y favorecer intervenciones más oportunas. Pero incorporarlas a los sistemas de salud y a la práctica clínica exige mucho más que demostrar que funcionan: requiere evaluar su seguridad y posibles sesgos, hacer más transparente su funcionamiento e integrar los LLM en flujos de trabajo y mecanismos de gobernanza capaces de adaptarse a una tecnología en permanente transformación [12]. Definir las condiciones para el desarrollo y uso de los LLM en salud mental exige abandonar una idea demasiado simple de la regulación como mero reparto de funciones entre humanos y máquinas: toda tecnología opera dentro de un ecosistema sociotécnico, tramas híbridas de personas, algoritmos, instituciones, normas e infraestructuras que se condicionan mutuamente. El desafío consiste, entonces, en aprovechar el potencial de estas tecnologías sin permitir que la facilidad de confesarse con una máquina termine desplazando la difícil, imperfecta e insustituible experiencia de encontrarse con otro.

---