Ahora que muchas personas usan las herramientas de IA de forma habitual, conviene tener presente que las conversaciones que mantienen con los chatbots de inteligencia artificial no son privadas, aunque el formato invite a pensar lo contrario. Lo ha constatado hace unos días una mujer de Florida que ha sido detenida poco después de hablar con Claude sobre sus planes para atacar la oficina del sheriff de su condado.
Carli Michelle Heller, de 30 años y residente en Bonita Springs, escribió el 26 de septiembre que iba a tirotear la oficina del sheriff del condado de Lee, según el informe de arresto citado por Gulf Coast News. ‘Voy a tirotear la oficina del sheriff ahora mismo, joder’, dijo a Claude. Al día siguiente añadió que ‘esta es al 100 % la última oportunidad. Se acabó. Hoy he conseguido una puta pistola nueva. Que te jodan’.
Los sistemas de seguridad de la compañía detectaron el contenido y lo remitieron a un equipo humano para su revisión. Después de analizar la conversación, Anthropic avisó a las autoridades y Heller fue detenida sin incidentes en su domicilio el pasado día 30.
El episodio sirve de recordatorio de que hablar con un chatbot no ofrece confidencialidad frente a la empresa que presta el servicio. Anthropic explica en su página de privacidad que sus empleados no pueden acceder por defecto a los chats, pero sí contempla revisiones cuando son necesarias para aplicar sus políticas y sus clasificadores de seguridad detectan contenido potencialmente dañino.
La compañía puede además comunicar información a las autoridades cuando considera que existe una emergencia con riesgo inminente de muerte o lesiones físicas graves. Eso no significa que una persona lea todas las conversaciones, sino que determinados mensajes pueden pasar de los sistemas automáticos a una revisión humana.
Heller ha sido acusada en virtud del Estatuto 836.10 de Florida, que castiga las amenazas escritas o electrónicas de matar, causar daños físicos, cometer un tiroteo masivo o realizar un acto de terrorismo. La conducta está tipificada como un delito grave de segundo grado, una categoría que puede conllevar hasta 15 años de prisión.
Por ahora, Heller está acusada pero no ha sido condenada, por lo que será el procedimiento judicial el que determine si los mensajes encajan en el delito que se le atribuye. La ley de Florida exige además que la amenaza se envíe, publique o transmita de una forma en la que pueda ser vista por otra persona, un elemento que podría resultar relevante durante el proceso.
La conversación activó los sistemas de seguridad de Claude y acabó en manos de un equipo humano de Anthropic, que avisó a las autoridades
Ahora que muchas personas usan las herramientas de IA de forma habitual, conviene tener presente que las conversaciones que mantienen con los chatbots de inteligencia artificial no son privadas, aunque el formato invite a pensar lo contrario. Lo ha constatado hace unos días una mujer de Florida que ha sido detenida poco después de hablar con Claude sobre sus planes para atacar la oficina del sheriff de su condado.
Carli Michelle Heller, de 30 años y residente en Bonita Springs, escribió el 26 de septiembre que iba a tirotear la oficina del sheriff del condado de Lee, según el informe de arresto citado por Gulf Coast News. ‘Voy a tirotear la oficina del sheriff ahora mismo, joder’, dijo a Claude. Al día siguiente añadió que ‘esta es al 100 % la última oportunidad. Se acabó. Hoy he conseguido una puta pistola nueva. Que te jodan’.
Los sistemas de seguridad de la compañía detectaron el contenido y lo remitieron a un equipo humano para su revisión. Después de analizar la conversación, Anthropic avisó a las autoridades y Heller fue detenida sin incidentes en su domicilio el pasado día 30.
El episodio sirve de recordatorio de que hablar con un chatbot no ofrece confidencialidad frente a la empresa que presta el servicio. Anthropic explica en su página de privacidad que sus empleados no pueden acceder por defecto a los chats, pero sí contempla revisiones cuando son necesarias para aplicar sus políticas y sus clasificadores de seguridad detectan contenido potencialmente dañino.
La compañía puede además comunicar información a las autoridades cuando considera que existe una emergencia con riesgo inminente de muerte o lesiones físicas graves. Eso no significa que una persona lea todas las conversaciones, sino que determinados mensajes pueden pasar de los sistemas automáticos a una revisión humana.
Heller ha sido acusada en virtud del Estatuto 836.10 de Florida, que castiga las amenazas escritas o electrónicas de matar, causar daños físicos, cometer un tiroteo masivo o realizar un acto de terrorismo. La conducta está tipificada como un delito grave de segundo grado, una categoría que puede conllevar hasta 15 años de prisión.
Por ahora, Heller está acusada pero no ha sido condenada, por lo que será el procedimiento judicial el que determine si los mensajes encajan en el delito que se le atribuye. La ley de Florida exige además que la amenaza se envíe, publique o transmita de una forma en la que pueda ser vista por otra persona, un elemento que podría resultar relevante durante el proceso.
Noticias de Tecnología y Videojuegos en La Razón
