...

Este módulo  tiene como objetivo hacer minería de datos explotando los datos de los distintos subsistemas Hércules, en concreto sobre los datos de grupos de investigación y su producción con objeto  de  realizar  clasificación  y  categorización  que permitan  identificar agrupaciones  y  similaridades. Para ello, se apoya en técnicas de procesamiento de lenguaje natural (NLP) y técnicas de aprendizaje automático (Machine Learning).

Este componente se puede resumir en los siguientes pasosA continuación, se detallará el funcionamiento de esta librería, que se divide en:

1. Extracción de datos de los subsistemas HÉRCULES.
2. Tratamiento de datos.
3. Agrupación.
4. Datos de salida.
6. Generador de vocabulario (NLP)
7. Reducción de la Dimensionalidad (Machine Learning)
8. Clustering (Machine Learning)Planificación.

Extracción de datos de los subsistemas HÉRCULES.

La extracción de datos que se busca es aquella donde se relacione:  investigador, área temáticas categoría y descriptortag. Para ello, se hará uso del lenguaje SPARQL, realizando la siguiente consulta:

...

Los datos principalmente se encuentran ya tratados, pues vienen de los subsistemas HÉRCULES donde ya se hace un preprocesamiento, únicamente debemos borrar columnas que no nos interesen analizar (por ejemplo: nombre), categorizar aquellos datos que sean strings y agrupar por investigador, tag y área temática. Por lo tanto, lo único que el sistema hará, será limpiar el texto de los tag y las categorías, es decir, eliminar caracteres extraños, transformar las palabras en minúsculas y eliminación de "stopwords" (in, a, the, etc..), este último paso es necesario para la generación de vocabulario utilizando la librería Gensim. Además, se borrarán aquellas columnas que el sistema no necesita. El siguiente paso será la agrupación de las columnas categoría y tag, el objetivo es poder obtener una colección de investigadores a través del descriptor y el área temática, por lo que, los datos que se pasarán a los algoritmos de agrupación son: tag, nombreCategoria y email. En las siguientes secciones se detallará como se llevará esto a cabo.

...

de esta forma el vocabulario que se generará a través de técnicas de lenguaje natural (NLP) será más rico. Posteriormente, el sistema buscará las N similitudes (por defecto) más grandes entre los distintos tags que las técnicas de NLP determinen con el objetivo de tener una columna más llamada "similitud" que facilitará al sistema a agrupar los N investigadores. El objetivo principal  es poder vectorizar las palabras que relacionan los trabajos de los investigadores con el fin de obtener relaciones (clústeres) entre los distintos investigadores utilizando técnicas de Machine Learning y NLP. 

Clustering 

La clusterización se utilizará para encontrar aspectos en común entre los investigadores y encontrar grupos . Así, si un porcentaje significativo de los investigadores tiene ciertos aspectos en común (áreas temáticas o tag/descriptores) se agruparán, con el objetivo de enfocar y justificar la entrega de anuncios que puedan ser de interés, por ejemplo las convocatorias.El objetivo principal es conseguir N clústeres donde podamos agrupar a los investigadores. Para ello, se utilizará entre ellos, pero antes de generar N clúster, se procederá a utilizar algoritmos de Machine Learning para la reducción de la dimensionalidad en los vectores generados por el vocabulario (NLP). Una vez el algoritmo UMAP, el cual es un algoritmo de el elegido para la reducción de dimensión ya que se utiliza normalmente para explorar relaciones multivariantes entre variables y para reducir el coste de cálculo de algoritmos de aprendizaje automático en los que la memoria requerida y el tiempo de procesamiento dependen del número de dimensiones de los datos. Posteriormente, se intentará aplicar aplicarán técnicas de clustering, ya que estas son compatibles con el pre-procesamiento de UMAP, en concreto, haremos uso de HDBSCAN. La decisión de utilizar HDBSCAN frente a otros algoritmos de clustering, es debido a que HDBSCAN puede trabajar con grandes conjuntos de datos y no necesita de la especificación del número de clústeres, existen más ventajas al igual que desventajas que no se van a e enumerar en este apartado, pues se entiende que no es necesario.

Por último, la salida del algoritmos HDBSCAN proporcionará N clústeres, por lo que el conjunto de datos quedaría de la siguiente forma: tag, nombreCategoria, email, hdbscan_label_cluster.

De esta forma, se agrupará a los investigadores por sus áreas temáticas categorías y tags.

Datos de salida

Los datos de salida podrán ser consultados vía API REST o utilizando la librería, con el objetivo de que cualquiera pueda obtener un conjunto de investigadores, que estén agrupados en un área temáticauna categoría, tag o ambas. Por otro lado, también se trabaja en la posibilidad de obtener los diferentes clústeres junto con los investigadores pertenecientes.

Planificación

El algoritmo de clustering, no es un algoritmo que se deba estar ejecutando constantemente, debido a que puede demorarse su ejecución mucho tiempo impidiendo al robot que lo ejecute realizar otra tarea, ya que estos algoritmos son dependientes de los datos y de la capacidad de computo. Por tanto, este algoritmo se debe ejecutar únicamente una vez al día, a la semana o al mes, ya que una vez ejecutado podremos almacenar los datos de salida para poder consultarlos en cualquier momento.