Un hombre de Florida, Estados Unidos, fue condenado tras declararse culpable de amenazar con asesinar a su exnovia y utilizar ChatGPT para expresar y desarrollar planes de violencia contra ella. Darren Zhou, exanalista financiero de Goldman Sachs, llegó a un acuerdo de culpabilidad por amenazas de muerte o lesiones, acoso cibernético y uso de un dispositivo de comunicación para cometer un delito, de acuerdo con documentos judiciales.
Zhou permanecía detenido desde mayo, luego de que OpenAI reportara al FBI conversaciones en las que el usuario habría realizado múltiples declaraciones sobre su intención de atacar y asesinar a su expareja. Según la orden de arresto, también habría descrito un supuesto plan de asesinato-suicidio, seguido los horarios de la víctima para localizarla y mencionado que había adquirido diversas armas y otros objetos. La alerta de emergencia permitió que las autoridades del condado de Palm Beach intervinieran antes de que concretara sus amenazas.
El caso ocurre en medio del creciente escrutinio sobre la seguridad de las plataformas de inteligencia artificial en Estados Unidos. Florida presentó en junio una demanda contra OpenAI y su fundador, en la que acusa a ChatGPT de contribuir a conductas peligrosas, generar problemas de adicción entre menores y afectar el pensamiento crítico. El caso de Zhou también pone en el centro del debate los mecanismos de detección y reporte de amenazas que utilizan las plataformas de IA cuando identifican conversaciones con posibles riesgos de violencia.
