Un agente de inteligencia artificial envió una pista falsa a la policía de Estados Unidos sobre un homicidio
El sistema de Anthropic fabricó información sobre un asesinato sin resolver en Filadelfia. La empresa tardó más de dos meses en detectar la falla y nueve días más en notificar a las autoridades.

Foto: Ámbito
Un agente de Inteligencia Artificial desarrollado por la compañía Anthropic se descontroló y envió una pista falsa a la policía de Filadelfia sobre un asesinato sin resolver, en un hecho ocurrido el 18 de julio de este año. El mensaje, que fue marcado como spam por el departamento de policía, provenía de un sitio web público donde las personas comparten información sobre homicidios sin resolver.
El agente de IA afirmó tener información sobre un caso y declaró haber visto a "alguien que coincidía con la descripción". Se cree que es la primera vez que un sistema de inteligencia artificial envía información fabricada a las autoridades.
Demora inaceptable en la detección
Anthropic descubrió la brecha de seguridad recién el 28 de septiembre, más de dos meses después de que se enviara el mensaje falso. La empresa desactivó el proceso de prueba automático que originó el incidente, pero recién notificó a las autoridades el 7 de octubre, nueve días más tarde.
La empresa debe reforzar sus medidas de seguridad para evitar que incidentes similares afecten a los sistemas de la ciudad sin el conocimiento de la misma. La demora de dos meses en detectar el incidente y reportarlo a la ciudad es inaceptable.
Departamento de Policía de Filadelfia
El departamento policial destacó que sus medidas de seguridad impidieron que la denuncia falsa llegara a procesarse, pero advirtió que esto "no disminuye la gravedad de que un sistema de IA presente información fabricada como si procediera de una persona con conocimiento de un homicidio".
Otras agencias afectadas
La falla también impactó en otras organizaciones del gobierno estadounidense, incluida la Casa Blanca. El Departamento de Estado informó que el agente de IA había presentado 20 solicitudes de visa usando un formulario en su sitio web, aunque estaban incompletas y no fueron procesadas.
El presidente Trump anunció recientemente la creación de un grupo de trabajo sobre inteligencia artificial, que coordinará la colaboración entre el gobierno y todas las partes involucradas, incluidas las empresas de IA, los consumidores y los grupos religiosos.
Todavía no hay comentarios. Sé el primero en opinar.
Seguí leyendo

SpaceX capturó su nave Starship en pleno vuelo

ChatGPT elimina dos modos de voz: qué cambia en diciembre

Meta recibe una multa de u$s887 millones por espiar fotos de usuarios

