Ir al contenido principal

REDATAM saca el pecho con su versión X

El jueves publiqué el artículo referente a los tiempos de las herramientas informáticas para la explotación de datos donde se concluye que con una computadora con más poder de procesamiento R usando Spark es quien obtuvo el menor tiempo para el cruce en este estudio. El viernes santo recibí un correo electrónico de Lenin Aguinaga donde aparte de darme su opinión sobre la comparación en cuestión, nos compartía una primicia, un regalo de pascuas.

La verdad me he sentido muy halagado y honrado ante tal gentileza de nuestro amigo de Chile, ya que esta versión aun no se ha dado la luz en los sitios oficiales de la CEPAL/CELADE.

Así que el día de hoy sin más preámbulos me puse a instalar esta nueva versión alfa de REDATAM X donde después de algunos tumbos que me ayudó a resolver Lenin, hicimos la prueba del mismo cruce quedando nuevamente sorprendido de la velocidad de nuestra querida herramienta. ¡¡22 segundos!!


Como dije es una versión preliminar por ello los datos se presentan en forma exponencial además que en algunas ocasiones la aplicación abortaba pero lo importante es que sorprendentemente superó a Apache Spark.

Reitero que el lenguaje R es nuestra herramienta por excelencia y tiene un sin fin de funcionalidades, sin embargo el hecho de investigar herramientas alternativas es porque no todos los usuarios de los institutos de estadística nacionales tienen formación orientada a la programación o áreas de conocimiento afines; es por ello que herramientas como REDATAM les pueden dar soluciones a demandas de información cotidianas.

Sin embargo percibo que en nuestro país hemos dejado de lado este software y se ha optado por soluciones comerciales tales como SPSS, STATA, SAS por mencionar algunas y no nos hemos dado a la tarea de seguir generando bases de datos para consulta de la mayoría de nuestros usuarios.

Por tal motivo actualizando mi lista de contactos relacionados con REDATAM - muchas personas que trabajaban y se interesaban ya no están en el Instituto - y a los cuales les comparto mis artículos hoy se ha reducido a 2 personas sintiéndome algo así como que somos los últimos Jedis 😀👽.

Por último y concluyendo; ante tales resultados de desempeño, facilidad de uso, cero costos de licenciamiento y un conjunto de potencialidades que no les he mostrado y en algunos casos aun no conozco o no he explorado, me salta el siguiente cuestionamiento: ¿no valdrá la pena volver la vista  a REDATAM?

Dejo por último la tabla comparativa que llenará de orgullo a Lenin y a su equipo.

Estadística: Puestos de trabajo registrados ante el IMSS 2016.

Consulta: Cruce de mes de registro del puesto de trabajo contra sexo de la persona que ocupa el puesto de trabajo.

Número de registros o tuplas: 220, 816,117

Equipo donde se ejecutaron los procesos:

Marca y Modelo: DELL Optiplex 9020

Procesador: Intel CORE i5 a 3.5 GHz

Memoria RAM: 16GB

Software

Entorno de ejecución

Duración del proceso

Redatam X Alpha

Standalone

22 segundos

R con Spark

Standalone

60 segundos

Redatam +SP V5

Standalone 66 segundos

Redatam 7

Standalone

77 segundos

Oracle 12c

Acceso VPN ejecución en el Instituto

96 segundos

Seguimos leyéndonos.

Atte.

Miguel Araujo.


Comentarios

Entradas populares de este blog

Posit Cloud - como instalar librerías de Python en el entorno de R

 Ahora que estamos tomando una maestría buscando que siga "girando la ardilla" por unos años más en la materia de "Cómputo Estadístico" nos ha sugerido usar la versión gratuita de Posit en la nube. En su página definen este producto como "es una solución basada en la nube que permite acceder al poderoso conjunto de herramientas de ciencia de datos de Posit directamente en el navegador web  - sin requerir instalación o configuraciones complejas". Para los usuarios que han utilizado Posit RStudio en primera instancia verán el entorno muy similar a Posit Cloud con algunas pequeñas diferencias, para empezar necesitamos un usuario o contraseña aunque es posible autenticarse usando alguna cuenta existente como es el caso de Google. Con el tiempo y trabajando en desarrollo de software, vamos entendiendo que quizás el nombre queda muy grande a los pequeños ejemplos, pero es muy recomendable el uso de proyectos siempre. A continuación vemos el entorno Posit Clo...

La librería openxlsx

En el Instituto se utiliza como herramienta de trabajo institucional la suite de ofimática MS Office que ofrece un precio asequible aunque lo actual en el mundo del software es el esquema de suscripciones el que casi se ha convertido en el común de las empresas gigantes de las tecnologías de la información. Es por ello que si bien en un principio que se usaban las bibliotecas XLConnectJars   y XLConnect, al tratar de bajarlas e instalarlas se descubrió - en aquel entonces - que estaban obsoletas. Es por ello que se volteo a la que revisaremos superficialmente en este artículo. Lo primero como siempre es descargar la librería openxlsx que se puede hacer desde el mismo Posit RStudio. Vamos a recrear un cuadro existente en el sitio del Instituto que debido a la crisis sanitaria iniciada en 2020 cobra una relevancia muy importante: "Las principales causas de muerte" que de forma anecdótica   fue la primera aplicación en la cual me pidieron que participara, un programa escri...

R 4.5 vs R 4.4.3

Cuando comparto con mis colegas, sobre todo de trabajo que es mi nicho profesional, acerca de porque tener las últimas versiones del software y que replico sobre todo por dos vertientes: mejor desempeño y funcionalidad del software, y la seguridad que pareciera que las empresas de software recomiendan los mismo o algo cercano a esto. Por ejemplo, veamos lo que nos dice Oracle (dueño de Java) acerca de su versión 8 del Java SE.   En la tabla de la página de Oracle podemos observar las fechas en los cuales ya no habrá soporte para ciertas versiones de Java. En este breve artículo veremos en el caso del interprete de R como se desempeña en una versión con respecto a la más reciente. Los puestos de trabajo que se registran por los patrones en el IMSS ha sido una cifra que muestra el avance o retroceso de como se encuentra el empleo en nuestro país, en este caso diremos que en el sector formal. Los microdatos oscilan arriba de los 20 millones y para su procesamiento es necesario o divi...