Condenan a hombre que usó ChatGPT para planear un asesinato

Un hombre en Florida, Estados Unidos, fue condenado luego de ser descubierto planificando el asesinato de su exnovia utilizando la inteligencia artificial ChatGPT. La situación salió a la luz gracias a que OpenAI, la empresa desarrolladora de esta IA, alertó al FBI, lo que permitió la intervención de las autoridades.

El imputado, identificado como Darren Zhou, un exanalista financiero de Goldman Sachs, llegó a un acuerdo de culpabilidad en la Corte del Condado de Palm Beach, al sur de Florida, debido a las graves amenazas de muerte que profirió. Su detención se concretó en mayo, tras la advertencia de emergencia emitida por OpenAI.

Según la orden de arresto, Zhou realizó “repetidas declaraciones a OpenAI/ChatGPT sobre el intento de atacar y/o asesinar a su exnovia”. Entre las frases utilizadas, se cuentan amenazas explícitas como “la voy a violar y secuestrar”, “la voy a matar a ella y a toda su familia”, “la voy a matar antes de que termine este mes”, “la voy a matar cuando regrese de su crucero” y “si no es mía, no será de nadie”.

Los cargos que se le imputaron fueron por amenaza creíble de ciberacoso y por usar un “dispositivo de comunicación de dos vías para cometer un crimen”. La declaración jurada también reveló que “la misma notificación advirtió que el usuario admitió haber ideado un plan, que describió como de ‘asesinato-suicidio’, y declaró que estaba rastreando el horario de la víctima para saber dónde encontrarla si decidía intensificar sus acciones”.

Además, Zhou le comentó a la IA que había adquirido varias armas: un rifle estilo AR-15, una pistola Glock, una escopeta calibre 12 con cartuchos de perdigones, balas y guantes de látex. Este caso subraya la creciente preocupación sobre el mal uso de la inteligencia artificial y su impacto en la seguridad pública. Al respecto, ya existen advertencias de expertos sobre cómo ChatGPT puede ser manipulado para ciberataques.

La situación se enmarca en un debate legal más amplio en Florida, que en junio pasado se convirtió en el primer estado de EE.UU. en demandar a OpenAI por el diseño y la seguridad de sus plataformas. Esta querella civil acusa a ChatGPT de generar adicción en menores, debilitar el pensamiento crítico de sus usuarios e incluso de instigar y contribuir a la planificación de tiroteos masivos. Este incidente resalta la complejidad de regular la IA y los desafíos que representa para las autoridades judiciales.