Nace una herramienta para detectar acoso a niños en las redes sociales

Óscar Trabazos lleva años en el negocio del sector digital. Desarrolló para el Ministerio del Interior una herramienta para detectar amenazas terroristas en internet. Uno de sus hijos padece el síndrome de Asperger, un trastorno del neurodesarrollo que afecta a la conducta, lo que le animó a diseñar una plataforma para proteger a los menores del bullying y del acoso sexual en las redes sociales. Con otros dos socios, creó 'Jimcrick', que a partir de la inteligencia artificial detecta si un niño o niña está siendo acosado y envía un mensaje a los padres informándoles de la situación y guiándoles de cómo actuar.

'Jimcrick' es un servicio dirigido a niños de entre 8 y 14 años desarrollado por la empresa Not Alone Digitally (NAD). Nació con el firme propósito de convertirse en un método de protección seguro y pedagógico. “La intención es dar respuesta a la socialización digital de la familia. Acompañar a los hijos en la aventura digital. Los padres necesitan informarse al ser conscientes de los riesgos y tener las herramientas precisas que puedan ayudarle. Cuanto más tecnológico es el ser humano, más humana debe ser la tecnología”, afirma Daniel Pérez, uno de los cofundadores de este sistema de detección de acoso.

El objetivo de esta plataforma es “leer y escuchar” las redes sociales, siempre protegiendo la intimidad del menor. Nadie tiene esa información. Salta la alerta en una aplicación instalada en el móvil por los padres cuando el programa descubre, a través de un sofisticado método de rastreo basado en la inteligencia artificial, una amenaza ante determinas palabras o un cambio de conducta en el niño en las conversaciones.

Para hacer este seguimiento (los promotores insisten en que ha de ser una decisión familiar y con conocimiento del menor), los progenitores deben introducir en el sistema las direcciones que usan sus hijos en las redes sociales. “La máquina aprende de los patrones del niño y  cruza datos para crear un índice de peligrosidad”, explica Daniel Pérez. Los niños no necesitan instalar ningún dispositivo y simplemente tienen que dar acceso a los padres a sus plataformas digitales mediante la cesión de sus contraseñas y dar consentimiento, vía correo electrónico, de que acepta a ser monitorizados.

Vocabulario y conducta

La herramienta analiza varios factores. Uno es el vocabulario del menor (hacer servir palabras sospechosas) y otro la conducta, como no contestar a determinados menajes de forma reiterada, entre otros aspectos. Al cruzarse los datos, la plataforma remite un aviso a los padres sobre la existencia de un riesgo o una conducta poco habitual en el muchacho. Un grupo de psicopedagogos infantiles les indica cómo actuar y, sobre todo, se les aconseja que hablen con el menor antes de tomar cualquier decisión. Al cabo de dos días, se envía otro mensaje para saber si realmente se ha constatado la existencia de algún tipo de acoso.

La herramienta también detecta el ciberacoso sexual de un adulto hacia el menor. En este caso, se confirma el peligro no solo por el vocabulario utilizado, sino también por el envío de fotos o de amenazas vertidas por el pedófilo. Si se corrobora que la persona que intenta engañar al niño es un desconocido, a la familia se le recomienda que denuncie. Si no lo hace y es evidente que se está cometiendo un delito, es la misma empresa quien toma la iniciativa. Los promotores también facilitan teléfonos de asociaciones especializas o psicólogos. Los promotores defienden que no es un sistema intrusivo.