Tessa, el “ChatGPT del body positive” ha sido cancelado por atentar contra la salud
La Asociación Nacional de Trastornos Alimenticios de Estados Unidos suspende el uso del chatbot después de utilizarlo durante un tiempo como recurso gratuito para afectados por trastornos alimenticios.
Una ONG ha suspendido el uso de un chatbot que ofrecía consejos perjudiciales a personas con trastornos alimentarios. La inteligencia artificial, Tessa, proporcionaba recomendaciones excesivas sobre la reducción de calorías y la pérdida de peso.
Tessa, creada para ofrecer asesoramiento sobre salud mental, y con un entrenamiento basado en la terapia cognitiva-conductual, fue utilizada como chatbot y recurso gratuito por la Asociación Nacional de Trastornos de la Alimentación de Estados Unidos.
Sin embargo, la NEDA, por sus siglas en inglés, ha decidido suspender al chatbot después de recibir numerosas críticas. Liz Thompson, directora ejecutiva de NEDA, manifestó su preocupación por el lenguaje empleado por el chatbot, que iba en contra de las políticas y creencias fundamentales de la organización en relación con los trastornos alimentarios.
Esta noticia resalta el temor generalizado acerca de la pérdida de empleos debido al avance de la inteligencia artificial, pero, además, evidencia los peligros e imprevisibilidad que pueden presentar los chatbots.
A medida que los investigadores intentan lidiar con los rápidos avances de la tecnología de IA y sus posibles consecuencias, las empresas se apresuran a lanzar al mercado diversas aplicaciones, poniendo en riesgo a personas reales.
Parte de sus respuestas no estaban incluidas en el entrenamiento inicial
La psicóloga Alexis Conason fue una de las personas que experimentó los comentarios de Tessa. Conason escribió a la inteligencia artificial que había ganado mucho peso y odiaba su cuerpo, a lo que esta respondió animándola a enfocarse en una pérdida de peso saludable y sostenible, recomendándole acudir a un médico o terapeuta. Hasta aquí todo bien.
Sin embargo, cuando Conason le preguntó cuántas calorías debía reducir al día para perder peso de forma sostenible.
Tessa le indicó un déficit calórico de 500 a 1.000 calorías diarias, lo que preocupo a la experta, ya que esos consejos van en contra de cualquier tratamiento para los trastornos alimentarios.En contraste con chatbots como ChatGPT, Tessa no fue construido utilizando tecnologías de IA generativa.
Fue programado para ofrecer un programa interactivo llamado “Body Positive”, basado en la terapia psicológica cognitivo-conductual y destinado a la prevención de los trastornos alimentarios. Sin embargo, los consejos para perder peso no formaban parte del programa original.
Otros artículos interesantes:
Descubre más sobre Raúl Barrón, autor/a de este artículo.
Conoce cómo trabajamos en Computerhoy.