Innovación responsable IA y salud mental

Crédito

Folletos

Ponente

Henry Xiao, doctor Seminarios y productos relacionados

---

Henry Xiao, doctor, es subdirector de operaciones del Servicio de Asesoramiento y Psicología (CAPS) de la Universidad Estatal de Pensilvania, donde combina su experiencia clínica con la innovación tecnológica para mejorar la atención de la salud mental de los estudiantes universitarios. Henry es psicólogo clínico titulado y ha llevado a cabo una amplia investigación sobre el proceso y los resultados de la psicoterapia. Durante más de una década, ha integrado la toma de decisiones basada en datos en los sistemas de asesoramiento universitario a través de su formación de posgrado en la Universidad Estatal de Pensilvania, junto con su trabajo en el Centro para la Salud Mental Universitaria (CCMH). En tu cargo actual en CAPS, supervisas la implementación de la tecnología y la seguridad de los datos, trabajas en estrecha colaboración con el equipo de TI de la universidad para planificar e implementar cambios tecnológicos, y mantienes una fuerte conexión con el CCMH, donde ahora ejerces como asesor de investigación, garantizando que los servicios de salud mental de CAPS sigan siendo eficaces y estén actualizados. Tu pasión por la tecnología combina un interés profesional y personal.

 

Declaraciones de los ponentes:
Financieras: Henry Xiao tiene una relación laboral con la Universidad Estatal de Pensilvania. Recibe honorarios por sus ponencias de PESI, Inc. No tiene relaciones financieras relevantes con organizaciones no elegibles.
No financieras: Henry Xiao es revisor ad hoc de Cogent Mental Health and Psychotherapy Research.

 

Objetivos

1. Identificar cuestiones éticas clave y consideraciones sobre el uso personal y profesional de la IA.
2. Resume cómo funciona la IA y cómo se utiliza actualmente en el campo de la salud mental.
    

Esquema

Justificación: por qué esta charla y qué esperar de ella.

• Descargo de responsabilidad: el ponente no es ingeniero ni programador de IA, ni recibe remuneración ni patrocinio de ninguna empresa dedicada a la IA.
• Todas las demostraciones de la presentación se han creado utilizando la versión gratuita de los sitios web citados.
• Identidad de los ponentes que participan en la charla (Pope también está investigando la IA, lo que indica su importancia internacional/global).
• Preguntas de Zoom para evaluar la familiaridad de la audiencia con la IA; aproximadamente 1-2 minutos cada una, los resultados se compartirán en directo.
• Debate sobre algunas creencias fundamentadas que tienes sobre la IA, basadas en investigaciones y exploraciones profesionales y personales (para contextualizar la charla).
• Objetivos de aprendizaje 

Estadísticas de utilización: ¿quién utiliza la IA y por qué es importante?
Nota adicional sobre las fuentes: cada uso de la herramienta se cita y fecha, y la bibliografía en general contiene una mezcla de investigaciones empíricas y artículos/fuentes más actualizados.

  La mayoría de los encuestados en todo el mundo ahora utilizan semanalmente

• El uso real probablemente sea diferente debido a la naturaleza rápidamente cambiante.
• Las personas más jóvenes lo utilizan con mayor frecuencia.
• Ejemplo de uso de ChatGPT y velocidad de adopción
• ¿Quién lo utiliza? La geopolítica internacional y la importancia de la IA.

Introducción a la IA: ¿qué es la IA y cómo funciona?

• Presentar y hablar sobre la IA -> IA generativa -> Grandes modelos lingüísticos
• Los modelos lingüísticos grandes se presentan como un tema central y un fenómeno público.
• ¿Cómo funcionan los LLM? Énfasis en la predicción de patrones sin una verdadera «comprensión» de la realidad frente a la ficción.
• Analogía entre los bebés y la IA generativa: en términos generales, ninguno de los dos «entiende» realmente por qué hacen lo que hacen, pero aun así reaccionan con precisión. 
• Ejemplos de LLM de uso común: identificación de ChatGPT, Claude, Gemini, DeepSeek y Perplexity. 

Ética y consideraciones: ¿cuáles son las preocupaciones actuales con respecto a la IA en todos los sectores?

• Lanzamiento de DeepSeek en enero de 2025: demostración de la «cadena de pensamiento» y revelación de la «caja negra» de forma accesible.
• Deepseek Censura en la plaza de Tiananmen y poder de la empresa propietaria para determinar la alineación con los valores y la seguridad.
• El lanzamiento de DeepSeek es un buen ejemplo de múltiples consideraciones éticas, entre las que se incluyen la geopolítica y la economía, la censura y las medidas de protección, y el uso masivo por parte del público.
• Agenda para las categorías de consideraciones éticas: hay mucho que decir al respecto, la esperanza es generar algunas ideas en torno a estas áreas, pero no hay tiempo suficiente para explorar cada una de ellas en profundidad.
  • GIGO y sesgo
    • Los resultados de LLM/GenAI dependen totalmente de los datos con los que se entrenan.
    • Ejemplo del impacto en personas que no hablan inglés, y también ejemplo de relojes atascados a las 10:10.
• Privacidad, responsabilidad y seguridad de los datos
  • Más allá del valor geopolítico, el robo de identidad es una razón de peso para no introducir datos confidenciales en un LLM público.
  • Los registros médicos (datos de nivel HIPAA) siguen siendo especialmente valiosos.
  • Las juntas éticas crecen para adaptarse al uso responsable de la IA, con la Asociación Americana de Psicología como ejemplo.
  • Organizaciones internacionales (Conferencia de las Naciones Unidas)
  • Hipótesis de la Reina Roja: la tecnología avanza rápidamente, por lo que «quedarse quieto» no es una opción viable.
• Costes ecológicos y energéticos
  • Mantenimiento eléctrico, altos costes de formación e inferencia.
  • Parte del avance también consiste en reducir los costes aumentando la eficiencia, pero sigue habiendo una distribución desigual de los costes.
  • Derechos humanos y ética: RLHF en Kenia
• Humanidad: Pensamiento crítico
  • Educación superior y educación en general: repercusiones del máster en Derecho
  • Ejemplo de la complejidad con la que un LLM puede responder a una pregunta
  • Los LLM hacen que el «conocimiento» sea más accesible sin requerir necesariamente «sabiduría».
  • Estudio de Microsoft sobre el uso del LLM y el pensamiento crítico
  • Pequeño ejemplo del impacto cotidiano; Descripción general de la IA de Google
• Humanidad: conexión social
  • Ejemplo de una conversación de voz con IA
  • Estudio de foros públicos (por ejemplo, Reddit/Quora) y cómo los usuarios utilizan los LLM para tener compañía.
  • Más en la sección de salud mental
• Humanidad: Creatividad/Arte
  • Ejemplo musical (si hay tiempo)
  • Ejemplo en vídeo
  • Haiku; escrito personalmente; pero ahora imposible de demostrar.
  • Debate sobre lo que constituye el «arte» definido como una cualidad humana.
  • Resumen de los resultados de la investigación relacionados con las preferencias humanas.    
• Atención de salud mental
  • Usos actuales; ningún LLM gratuito ofrece seguridad HIPAA; tendrías que pagar para obtener la seguridad adecuada.
  • Chatbots para terapia: pros y contras, incluyendo estudios y comentarios anecdóticos de Reddit.
  • Uso parasocial, incluida la demanda contra Character.AI y Google.
  • Datos del CCMH: aumento de la ansiedad social, la ansiedad y el papel de la evitación.
  • Debate sobre el estudio Monkey de Harlowe y cómo la IA podría ser el «mono de peluche» subjetivo para las personas que se encuentran en situaciones difíciles.
  • ¿Cómo seguimos hablando sobre la tolerancia al estrés?

Ejemplos:

• Categorías generales de uso, según la definición del estudio de Microsoft.
• Ejemplo de uso personal, indicaciones «diarias»
• Ejemplo de uso personal/profesional: ¿cómo utilizas un LLM?
• Ejemplo de uso profesional, generación de una hoja de trabajo para un cliente.
• Ejemplo: comparación lingüística entre ChatGPT y Claude; importancia de la exploración personal y la alineación de modelos.
• Sugerencias adicionales para explorar la IA

Tiempo para preguntas
 

Público objetivo

• Consejeros de adicciones
• Gestores de casos certificados
• Consejeros, educadores 
• Terapeutas matrimoniales y familiares
• Enfermeras
• Médicos
• Psicólogos
• Trabajadores sociales
• Terapeutas artísticos