Una mujer de Florida utilizó Claude como diario. Anthropic informó de su amenaza a la policía.

Del chat al arresto

Según informó Tom’s Hardware, citando el informe de arresto, la mujer escribió en un chat a finales de septiembre que iba a “disparar” contra la Oficina del Sheriff del condado de Lee. Un día después, mencionó que iba a comprar una nueva arma en otro mensaje. Los sistemas automatizados de seguridad de Claude señalaron las entradas, un revisor humano de Anthropic las evaluó como una amenaza creíble y la empresa las comunicó a las fuerzas del orden.

Unos días después, los agentes detuvieron a la mujer en su domicilio sin incidentes. Ha sido acusada en virtud de la Sección 836.10 de la legislación de Florida, que tipifica como delito enviar amenazas escritas o electrónicas de matar, llevar a cabo un tiroteo masivo o cometer un acto de terrorismo. El delito es un felony de segundo grado. Se le ha asignado un defensor público y se presume su inocencia.

Al menos el tercer caso desde agosto

El caso no es aislado. Según Tom’s Hardware, es al menos la tercera conversación con Claude que ha llegado a la policía desde agosto:

• San Antonio: Un joven de 22 años preguntó sobre un tiroteo en una escuela primaria en un chat en agosto. El F.B.I. alertó a la policía local y el hombre fue detenido acusado de realizar una amenaza terrorista.
• San Francisco: Un usuario amenazó al director ejecutivo de Anthropic, Dario Amodei, en un chat y compró un rifle de estilo AR-15. Anthropic informó del usuario a la policía, pero no se produjo ningún arresto ni se presentaron cargos.

Desde el punto de vista legal, esto está en línea con la política de privacidad de Anthropic, que permite a la empresa compartir los datos de los usuarios con las autoridades si considera de buena fe que la divulgación es razonablemente necesaria para prevenir daños graves a personas o bienes. Anthropic ha declarado a los periodistas que estas divulgaciones se limitan a emergencias que implican un riesgo de muerte o lesiones físicas graves.

Entre el deber de proteger y la privacidad

Los casos ponen de relieve un dilema al que se enfrentan todos los grandes proveedores de I.A. Por un lado, las empresas están sometidas a presión para informar de más casos. OpenAI está siendo demandada en Columbia Británica por afirmaciones de que identificó una cuenta de ChatGPT preocupante antes del tiroteo de Tumbler Ridge, pero no alertó a la policía. Florida también ha demandado a OpenAI por el tiroteo de 2025 en la Universidad Estatal de Florida. OpenAI también informa de amenazas por iniciativa propia: un usuario que anunció en ChatGPT que mataría a su exnovia se declaró culpable este verano.

Por otro lado, cada vez más personas utilizan los chatbots como diario, coach o terapeuta, y asumen que existe confidencialidad. Sam Altman, director ejecutivo de OpenAI, ha advertido que estas conversaciones, a diferencia de las mantenidas con un médico o un abogado, no gozan de protección legal y ha pedido una especie de “privilegio de la I.A.”. El profesor de Derecho canadiense Michael Geist también ha advertido que las leyes existentes no están bien adaptadas para determinar cuándo las empresas de I.A. deberían informar a la policía sobre sus usuarios, y ha pedido normas claras de transparencia.

Para los usuarios, la principal lección es esta: los chats con Claude, ChatGPT y servicios similares no son un espacio privado. Se almacenan, se analizan automáticamente y, en caso de emergencia, pueden acabar en manos de las autoridades.