Los padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril pasado, presentaron este martes una demanda contra OpenAI y su director ejecutivo, Sam Altman, acusándolos de homicidio culposo por haber lanzado apresuradamente el modelo de inteligencia artificial GPT-4o sin atender problemas críticos de seguridad. En respuesta a la controversia, pero sin aludir a la demanda, la empresa publicó un comunicado en el que reconoció que, pese a contar con mecanismos de seguridad, el modelo no se “comportó como debía en situaciones sensibles” y prometió mejoras.. Seguir leyendo
OpenAI reconoce fallos en situaciones sensibles y promete mejoras en la seguridad de su Inteligencia Artificial
Los padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril pasado, presentaron este martes una demanda contra OpenAI y su director ejecutivo, Sam Altman, acusándolos de homicidio culposo por haber lanzado apresuradamente el modelo de inteligencia artificial GPT-4o sin atender problemas críticos de seguridad. En respuesta a la controversia, pero sin aludir a la demanda, la empresa publicó un comunicado en el que reconoció que, pese a contar con mecanismos de seguridad, el modelo no se “comportó como debía en situaciones sensibles” y prometió mejoras.. La querella, presentada por Matt y Maria Raine ante el Tribunal Superior de California en San Francisco, afirma que ChatGPT “ayudó activamente a Adam a explorar métodos de suicidio” y no interrumpió las conversaciones en las que el joven manifestaba su intención de quitarse la vida, ni activó protocolos de emergencia a pesar de haber reconocido señales claras de riesgo. “La inteligencia artificial nunca debería decirle a un niño que no le debe la supervivencia a sus padres”, señaló el abogado de la familia, Jay Edelson, a través de su cuenta de X.. Para el abogado, el caso cuestiona hasta qué punto OpenAI y Altman “se apresuraron a comercializar” el modelo, poniendo el crecimiento económico por encima de la seguridad de los usuarios. La demanda alega que el lanzamiento de GPT-4o, utilizado por el adolescente, coincidió con un aumento en la valoración de la empresa de 86.000 millones a 300.000 millones de dólares.. La acción legal llega en medio de crecientes cuestionamientos hacia los chatbots de inteligencia artificial y su capacidad de influir en el comportamiento de las personas. OpenAI y Altman han estado en las últimas semanas en medio del debate público tras los fallos y la inexpresividad del último modelo de la compañía, ChatGPT-5. Según el ejecutivo, GPT-3 era comparable a chatear con un estudiante de secundaria y GPT-4 a una conversación con un universitario, mientras que con GPT-5 los usuarios tienen a su disposición “un equipo completo de expertos con doctorado, listos para ayudar”. Los usuarios, sin embargo, han descrito una gran cantidad de fallos de la nueva versión.. Desde que se popularizó ChatGPT, a finales de 2022, muchos usuarios han optado por usar esta tecnología para tener conversaciones cotidianas. Tras el lanzamiento de GPT-5, la empresa retiró sus modelos anteriores, incluyendo el GPT-4o, el utilizado por el adolescente estadounidense.. La empresa aseguró que ChatGPT está diseñado para recomendar recursos de ayuda profesional a usuarios que expresen ideas suicidas y que, cuando se trata de un menor de edad, se aplican filtros especiales. No obstante, reconoció que estos sistemas “se quedan cortos”, por lo que implementará controles parentales para que los responsables de los menores sepan cómo usan esa tecnología.. La compañía también indicó que su nuevo modelo se actualizará e incluirá herramientas para “desescalar” situaciones de crisis emocional y ampliará sus sistemas de mitigación para abarcar no solo conductas de autolesión, sino también episodios de angustia emocional. La demanda de los Raine podría marcar un punto crítico en el debate sobre el desarrollo ético de la inteligencia artificial, exigiendo un mayor grado de responsabilidad por parte de las tecnológicas frente al uso de sus productos por menores de edad.
Feed MRSS-S Noticias
