Los casos de Florida y Tumbler Ridge abren un debate sobre privacidad, deberes de reporte y quién debe decidir cuándo una plataforma de IA alerta a las autoridades.
☕ ChatGPT llamó al FBI: ¿quién decide cuándo denunciarte?
⏱ Lectura estimada: 5 minutos
Una persona abre ChatGPT de noche.
Empieza hablando de una ruptura. Después aparecen amenazas. Luego armas. Finalmente, un plan para asesinar a su exnovia.
Según reportes de prensa, eso ocurrió con Darren Shida Zhou, un joven de 25 años en Florida. OpenAI remitió información al FBI; las autoridades locales abrieron la investigación y Zhou recibió una condena de ocho años de probation tras declararse culpable de cargos relacionados con amenazas contra su expareja.
Hasta aquí, parecería una historia de prevención exitosa.
Pero el verdadero debate comienza después.
La pregunta no es si OpenAI hizo bien
Probablemente sí. Si una compañía detecta una amenaza concreta, creíble y potencialmente letal, resulta difícil defender que simplemente mire hacia otro lado.
El problema es quién define cuándo esa amenaza cruza la línea.
En Estados Unidos, la ley federal permite a determinados proveedores entregar comunicaciones a las autoridades cuando creen de buena fe que una emergencia con peligro de muerte o lesión física grave exige revelarlas sin demora. Es una facultad de revelación de emergencia, no una regla nacional específica que obligue a los chatbots a reportar toda amenaza.
La ley permite actuar. La empresa decide cuándo. Y esa diferencia es enorme.
Tumbler Ridge demuestra el riesgo contrario
Meses antes del caso Zhou, OpenAI había detectado conversaciones violentas de un usuario en Canadá. Su cuenta fue bloqueada. La empresa evaluó si debía alertar a las autoridades y concluyó que el riesgo no alcanzaba su umbral de inminencia y credibilidad.
Siete meses después, ese usuario mató a ocho personas en Tumbler Ridge, British Columbia. El caso está bajo investigación y ha dado lugar a litigios. OpenAI reconoció después que, bajo sus criterios actualizados, el caso probablemente habría sido remitido a las autoridades.
Dos usuarios. Dos decisiones privadas. Dos resultados radicalmente diferentes.
Ahí está el verdadero dilema.
El dato WOW jurídico
OpenAI puede estar convirtiéndose en algo que nunca imaginamos:
un filtro privado previo a la policía.
Un algoritmo detecta. Un equipo humano evalúa. Una empresa privada decide. Y solo después aparece el Estado.
La plataforma no arresta a nadie. No condena. Pero puede activar la maquinaria que sí lo hace.
Eso es poder.
Tus chats no tienen secreto profesional
Hay además una percepción peligrosa.
Muchas personas hablan con ChatGPT como hablarían con un abogado, médico, terapeuta o amigo. Pero jurídicamente no es lo mismo.
Una conversación con un chatbot comercial no tiene automáticamente secreto profesional o privilegio jurídico. La protección aplicable depende del contexto, la relación profesional y las normas pertinentes; no nace solo por usar una herramienta de IA.
Eso significa que una plataforma de IA puede terminar almacenando confesiones, secretos empresariales, problemas familiares, fraudes, amenazas, ideas íntimas o conductas ilegales.
La IA se está convirtiendo en uno de los mayores repositorios de confesiones privadas de nuestra época.
¿Y qué pasa en los estados?
Estados Unidos no tiene una sola regulación uniforme sobre chatbots. A junio de 2026, California, Colorado, Connecticut, Georgia, Idaho, Iowa, Nebraska, New York, Oregon, Rhode Island y Washington, entre otros, habían aprobado normas sobre sistemas de IA conversacional, transparencia, menores, autolesiones y seguridad.
Pero todavía no existe un estándar nacional uniforme que defina cuándo una IA debe reportar amenazas contra terceros.
Eso significa que una misma conversación puede generar consecuencias distintas según el estado, la plataforma, el tipo de amenaza y la política interna de la compañía.
Para las empresas de IA, esto será un enorme problema de compliance.
El riesgo funciona en ambos sentidos
Si OpenAI reporta demasiado, puede afectar la privacidad, generar falsos positivos o involucrar innecesariamente a la policía.
Si reporta demasiado poco, puede enfrentar cuestionamientos por no advertir una amenaza.
Tumbler Ridge ya abrió ese debate judicial y regulatorio. Las plataformas pueden terminar siendo cuestionadas tanto por hablar como por guardar silencio.
Mi posición
No creo que la solución sea prohibir que una IA reporte amenazas. Tampoco creo que compañías privadas deban tener discrecionalidad absoluta.
Necesitamos tres cosas:
1. Un umbral legal claro.
Qué elementos convierten una conversación perturbadora en una amenaza real.
2. Revisión humana obligatoria.
Nunca debería bastar únicamente una decisión automatizada.
3. Supervisión externa.
Los criterios que pueden convertir una conversación privada en una alerta policial no deberían existir solamente dentro de una política interna empresarial.
Si te quedas con una sola idea...
Construimos máquinas a las que millones de personas les cuentan prácticamente todo.
Después les instalamos sistemas capaces de detectar peligro.
Y finalmente permitimos que una empresa decida cuándo esa conversación debe llegar a la policía.
Quizás algunas veces esa decisión salve una vida. Quizás otras veces llegue demasiado tarde.
Por eso la pregunta no es:
¿debe ChatGPT llamar al FBI?
La pregunta correcta es:
¿quién debe decidir cuándo hacerlo y quién vigila al que toma esa decisión?
☕ Este café queda servido.
¿Aceptarías que una IA analice tus conversaciones privadas si eso pudiera evitar un asesinato?
#InteligenciaArtificial #LegalTech #AIGovernance #Privacidad #RegulaciónIA