La inteligencia artificial aplicada a la seguridad irrumpirá en el área de Barcelona con el nuevo sistema metropolitano

El nuevo sistema de seguridad que desarrolla el Área Metropolitana de Barcelona (AMB) implementará la inteligencia artificial (IA) en políticas dirigidas a mejorar la percepción de seguridad de los 3,3 millones de habitantes de la conurbación en torno a la capital catalana. De este novedoso servicio metropolitano únicamente había trascendido hasta ahora que será gestionado por una empresa mixta con participación pública mayoritaria, tal y como avanzó EL PERIÓDICO. Antes de lanzar la licitación, este martes 25 de febrero la administración metropolitana aprobó definitivamente —con el visto bueno de las grandes fuerzas excepto las abstenciones de ERC, PP, Vox y Junts per Tiana— el reglamento del servicio, al cual ha accedido este diario y que regula el uso de sistemas algorítmicos aplicados a la seguridad.

El AMB creará una empresa mixta para gestionar su sistema de seguridad y replicará el modelo público-privado del agua

La norma, que mantiene la literalidad aprobada inicialmente el pasado 29 de noviembre, prevé la irrupción de la IA aplicada a la seguridad de las 36 ciudades integradas en el AMB, cuyos ayuntamientos podrán sumarse al servicio. En algunos de esos municipios, tal y como publicó este diario, la empresa de Cornellà de Llobregat que originó el proyecto piloto —que pivota sobre una 'app' móvil denominada M7— de este nuevo sistema de metropolitano, Einsmer Business Designer SL, ya aplicaba la predicción delictiva a partir de mapas de calor basados en estadísticas de criminalidad. Todavía no hay fecha para la puesta en marcha del servicio en el área de Barcelona.

La nueva regulación metropolitana, de hecho, habla de la "generación de modelos predictivos con algoritmos" desde sus objetivos. Aplicada a "poder anticipar escenarios, determinar posibles situaciones de riesgo y simulaciones y mejorar el espacio urbano (iluminación, diseño)", explica la literalidad del texto, que enfatiza su consonancia "con el Reglamento de Inteligencia Artificial de 2024 de la Unión Europea y atendiendo la escasa normativa española".

El mencionado reglamento dedica un capítulo entero para regular la implementación de los sistemas algorítmicos en el ámbito de la seguridad metropolitana. Por ejemplo, afirma que "la Inteligencia Artificial debe ser un instrumento al servicio de las personas y su fin último debe ser aumentar el bienestar humano". Así como subraya aspectos éticos como el respeto por "el principio de igualdad y no-discriminación, previniendo los sesgos del sistema".

La norma hace mucho hincapié en que los algoritmos operen respetando la protección de los derechos fundamentales y bajo supervisión humana en todo lo que se refiere a la seguridad. E incluso excluye algunos ámbitos específicos de los mencionados modelos predictivos, ya que asume como compromiso "garantizar que las tecnologías como la inteligencia artificial no se utilicen para anticiparse a las decisiones de las personas en ámbitos como la salud, la educación, el empleo y la vida privada".

Alertas de emergencia y protección de datos

Además de la generación de modelos predictivos, la norma desarrolla las funcionalidades específicas del futuro sistema de seguridad, basadas en los servicios que ya ha prestado la empresa Einsmer en el proyecto piloto de 15 municipios catalanes, Cornellà, L'Hospitalet o Santa Coloma entre ellos. Por una parte, el sistema aplicará una vía de información unidireccional, donde habrá información de servicio (problemas de movilidad o en las calles, por ejemplo); información sobre Protección Civil; sobre incidencias; o notificaciones emergentes y comunicaciones de seguridad de la Guardia Urbana o policías locales de las ciudades.

Por otra, contemplará también la posibilidad de comunicación bidireccional donde el ciudadano podrá transmitir a la Administración problemas vinculados al mal estado de su ciudad, a la convivencia o lugares donde haya tenido sensación de inseguridad. En este apartado se incluye un sistema de alarmas muy similar al que ya aplica Einsmer en algunas urbes: los vecinos podrán comunicarse con sus policías locales a través de un botón de emergencia; habrá una posibilidad específica para violencia machista; y existirá la alternativa de enviar avisos a grupos de afinidad, por ejemplo de familiares o vecinos, una opción pensada para personas que hacen deporte en solitario, que salen o vuelven de fiesta o excursionistas, por ejemplo. En este ámbito subyace el interrogante de si el sistema estará conectado con el 112 como número de referencia para emergencias según la legislación europea. También si integrará alguna aplicación de videovigilancia, como estaba previsto, ya que el reglamento no hace ninguna mención al respecto.

Visita al 'Minority Report' de la seguridad metropolitana: así opera en un parque de Cornellà

El servicio metropolitano de seguridad supondrá también un reto importante en materia de protección de datos. El reglamento prevé que el AMB actuará como responsable del tratamiento del servicio de gestión de la plataforma del mismo pero los ayuntamientos serán los responsables del tratamiento de datos vinculados a servicios que desarrollen en sus ciudades. En cualquier caso, la norma insiste en que los datos serán usados con la confidencialidad e integridad que exigen las medidas de seguridad del Esquema Nacional de Seguridad. Y si algún usuario hiciera algún "mal uso" del servicio metropolitano, la regulación prevé un régimen sancionador por el cual se le podrá dar de baja temporal o permanentemente o incluso restringir alguna funcionalidad. Cualquier sanción deberá ser aprobada por el Consejo Metropolitano del AMB.

Pese a que el sistema que desarrolla el AMB estará enfocado a la percepción de seguridad en las ciudades, el ente lo ha denominado formalmente 'servicio público de innovación comunitaria'. La razón es competencial: la Ley del AMB no atribuye a la administración supramunicipal una competencia directa en seguridad, que en Catalunya corresponde a la Generalitat —y a los Mossos d'Esquadra—, sino que la asiste de competencia en materia de cohesión social y territorial para "promover la implantación de políticas públicas comunes en materia de servicios municipales y de fomento de la cohesión social y territorial, con la finalidad de mejorar las condiciones de vida de los ciudadanos".

Suscríbete para seguir leyendo