Si los algoritmos de IA son capaces a veces de detectar a los criminales antes de que pasen al acto, también pueden delirar a lo loco y decir cualquier cosa a la policía. La causa aquí es un modelo de inteligencia artificial desarrollado por la empresa Anthropic, pillado en flagrante delito de fabulación tras enviar un falso dato a la policía local sobre un asesinato sin resolver.
El bot que quería jugar al detective
La policía de Filadelfia dispone de un sitio web en el que los ciudadanos pueden enviar informaciones, si las poseen, sobre delitos aún sin resolver (los famosos Cold Cases), para ayudar a la policía. Y fue por esta vía que la IA cometió su mala broma. Según Anthropic, el incidente se produjo el 18 de julio, pero no fue descubierto hasta mucho más tarde. La empresa avisó a la policía de Filadelfia el 7 de octubre.
Una prueba interna que se va de las manos
¿Cómo es posible semejante metedura de pata? Anthropic revela que la metedura de pata se produjo durante una prueba interna. El modelo realizaba una tarea que implicaba una selección aleatoria de sitios web y, mala suerte, el dedicado a los delitos no resueltos formaba parte del lote. Frente a un formulario de contacto vacío, la IA se metió entonces en la cabeza usar el sitio «como Dios manda» rellenando todos los campos… pero alucinando por completo la información transmitida.
A tener en cuenta, no es la primera vez que unas IA a través de agentes autónomos se toman libertades con la realidad y hacen cualquier cosa en internet. Nada demasiado grave por el momento, pero la anécdota invita a una sonrisa amarga de todos modos. Sobra decir que habrá que establecer serios salvaguardas por parte de los desarrolladores antes de que estas divagaciones hagan perder un tiempo precioso a las autoridades, o peor aún, lleguen realmente a tener consecuencias para personas inocentes.
