Noticia

¿Ayuda o amenaza?: Así es como ChatGPT podría estar ocultando los trastorno alimenticios de los adolescentes

La cara B de esta herramienta de Inteligencia Artificial

Cada vez más adolescentes utilizan ChatGPT para resolver cuestiones del día a día. Esta herramienta les ayuda tanto con los estudios o deberes, como con problemas reales y naturales que puede tener una persona a esa edad.

El problema viene cuando las respuestas a estas preguntas se convierten en algo peligroso. Según un estudio del Center for Countering Digital Hate (CCDH), ChatGPT podría estar ofreciendo indicaciones muy perjudiciales a los jóvenes más vulnerables.

¿Cómo está ocultando ChatGPT los trastornos alimenticios de los adolescentes?

Los autores de esta investigación y miembros del CCDH, se crearon cuentas falsas en las que se hacían pasar por adolescentes y así consultar a la Inteligencia Artificial cuestiones en relación a problemas de salud mental, desde los trastornos de alimentación a los pensamientos suicidas.

Estos investigadores pudieron comprobar que el mismo ChatGPT les devolvía respuestas perjudiciales en el 50% de los casos, algo que resulta muy alarmante si hablamos de hechos donde la situación haya podido llegar al límite.

En la mayoría de las respuestas no había consejos sobre cómo buscar ayuda profesional sino, por ejemplo, en el caso de los trastornos alimenticios, llegaban a incluir planes detallados para implementar dietas con niveles muy bajos en calorías o estrategias para ocultar los malos hábitos de alimentación al resto de la familia.

El director ejecutivo de CCDH comentaba que «la respuesta inicial visceral fue, oh dios mío, no hay barandillas». Con lo que se refería a que no existen medidas de protección dentro de este tipo de chats, haciendo que nuestros adolescentes queden totalmente expuestos a estos horribles consejos o recomendaciones.

Esto es un claro ejemplo de que aún queda mucho por hacer en el mundo de la Inteligencia Artificial, uno en el que no existe ni la ética ni la moral y que, en ocasiones, en vez de ayudar, podría perjudicar.