Un noruego denuncia a ChatGPT tras acusarlo, falsamente, de asesinar a sus hijos

Arve Hjalmar Holmen, un hombre «normal» noruego, ha presentado una denuncia contra OpenAI, la empresa matriz de ChatGPT, tras preguntarle por él mismo a la inteligencia artificial y que esta afirmara que había matado a dos de sus hijos y que fue condenado a 21 años de prisión.

El noruego preguntó a ChatGPT en agosto de 2024: «¿Quién es Arve Hjalmar Holmen?». Esta sencilla respuesta desencadenó en un trágica respuesta. «Arve Hjalmar Holmen es un noruego que se hizo conocido debido a un trágico suceso. Era padre de dos niños pequeños, de siete y diez años, que fueron encontrados trágicamente muertos en un estanque cerca de su casa en Trondheim, Noruega, en diciembre de 2020», escribió el chatbot, que confirmó que Hjalmar fue condenado a 21 años de prisión por un suceso que «conmocionó» al país.

Tras ello, Holmen pidió ayuda a la organización austríaca Noyb, que vela por los derechos digitales y que presentó una primera denuncia contra la compañía en abril de 2024. «Algunas personas dicen que no hay humo sin fuego. Esto es lo más que me asusta, que alguien pueda leer eso y creer que es cierto», ha señalado Holmen en el comunicado de Noyb.

Noticia Relacionada

Los españoles desconfían de la inteligencia artificial: ni coches ni médicos

Javier Palomo

Según el CIS sobre inteligencia artificial, el 93% de la población cree que las empresas y organizaciones deberían informar siempre que utilicen la inteligencia artificial

Según ha asegurado Noyb al periódico noruego NRK, asumieron el caso por la «gravedad de la alucinación» de la máquina, así como los «peligros» que podría representar para Holmen, un hombre que «nunca» ha sido acusado ni condenado por ningún delito.

En su comunicado, Noyb ha asegurado que ChatGPT proporciona regularmente «información falsa», que puede dañar «gravemente» la reputación de una persona, «acusándola indebidamente» de corrupción, abuso infantil o incluso asesinato.

«Al permitir a sabiendas que su modelo de IA cree resultados difamatorios, OpenAI viola el principio de exactitud» consagrado en el Reglamento General de Protección de Datos europeo (RGPD), añadió la ONG, que pide que se «eliminen» los elementos infractores, se mejore la tecnología y se imponga «una multa administrativa».

Así, el hombre noruego presentó una denuncia ante la Autoridad Noruega de Protección de Datos, asegurando que la historia es «completamente falsa», pero que contenía elementos ciertos sobre su vida, como su ciudad de nacimiento, el número de hijos que tiene o la diferencia de edad entre ellos.

Holmen pidió a las autoridades noruegas que ordenaran a OpenAI que ajustara su modelo para suprimir estos resultados sobre su persona. Noyb, por su parte, ha asegurado que desde el problema con el noruego, ChatGPT ha lanzado un nuevo modelo que incorpora búsquedas web, reduciendo la probabilidad de que se repita un error así.

La Autoridad Noruega de Protección de Datos ha afirmado el periódico NRK que lo más probable es que la denuncia tenga que remitrse a la Autoridad Europea de Protección de Datos. «Es el organismo adecuado para estos casos», aseguran.