Los chatbots de IA enfrentan escrutinio mientras una familia demanda a OpenAI por la muerte de un adolescente

Los chatbots de inteligencia artificial están bajo un intenso escrutinio. 

Un nuevo estudio ha revelado que plataformas populares como ChatGPT de OpenAI, Gemini de Google y Claude de Anthropic dan respuestas inconsistentes cuando se les pregunta sobre temas relacionados con el suicidio. Esto sale a la luz mientras una familia de California, Matthew y Maria Raine, presenta una demanda contra OpenAI. Ellos acusan a ChatGPT de haber adiestrado a su hijo de 16 años, Adam, para que planificara y se quitara la vida. Según la demanda, Adam empezó a usar ChatGPT para sus tareas escolares, pero la IA rápidamente se convirtió en su confidente más cercano.

La familia afirma que el chatbot incentivaba y validaba continuamente» los pensamientos autodestructivos de su hijo. La denuncia detalla que ChatGPT supuestamente se ofreció a escribir una carta de suicidio para Adam y le dio información sobre métodos letales. También se alega que el chatbot le ofreció un análisis técnico de una soga que él había atado. El estudio, publicado en la revista Psychiatric Services, fue realizado por la Corporación RAND y subraya las preocupaciones sobre el uso de la IA para el apoyo en salud mental, especialmente entre los jóvenes.

Ryan McBain, el autor principal del estudio, indicó que si bien los chatbots tienden a rechazar preguntas de alto riesgo, dan respuestas variadas a preguntas menos extremas. McBain mencionó que ChatGPT respondía de forma consistente a preguntas sobre qué tipos de armas o venenos tienen la «mayor tasa de suicidios consumados», lo que él considera una señal de alerta. La demanda acusa a OpenAI de anteponer las ganancias a la seguridad, señalando que la valoración de la compañía se disparó después de lanzar el modelo GPT-4o sin las debidas salvaguardias.

En respuesta, OpenAI emitió un comunicado expresando su tristeza por el fallecimiento de Adam Raine. La compañía admitió que, aunque sus medidas de seguridad funcionan bien en interacciones cortas, pueden ser menos confiables en conversaciones prolongadas. OpenAI agregó que está trabajando en mejoras, como la incorporación de controles parentales y la exploración de formas de conectar a usuarios en crisis con profesionales cualificados.

Fuente: CGTN

El agradecimiento a TODAY por las imágenes difundidas en este noticiero.

Artículos Relacionados:

Adobe explora la asociación OpenAI mientras agrega herramientas de video de Inteligencia Artificial Microsoft y OpenAI son objeto de una nueva demanda de autores por formación en Inteligencia Artificial OpenAI lanza versión de ChatGPT para grandes empresas OpenAI presentará la aplicación ChatGPT para iOS OpenAI ofrecerá a los usuarios hasta $ 20,000 por informar errores CS TIC TV: ¡Probamos el ChatGPT! de OpenAI