Entradas

Mostrando las entradas con la etiqueta Código

Regresión Lineal Simple MapReduce

Imagen
Yo creo inmensamente que el Big Data aunque en mi país México es muy joven esta tecnología aún, en grandes potencias esta tecnología se utiliza para encontrar patrones en grandes volúmenes de información, hacer algoritmos predictivos, de clasificación, clusterización y más, creo inmensamente que esta tecnología será el futuro, junto con el Internet de las cosas y el cloud, hoy en día ya no es ningún impedimento hacer perdiciones de inmensos volúmenes de información y si saben programar bajo este framework, las posibilidades son inmensas, ya que puedes tratar cualquier tipo de información existente en el mundo lógico y darle algún sentido. Empezaremos estudiando que es una regresión lineal y ajustar la mejor recta de acuerdo a nuestros datos el ejemplo más sencillo de predicción, pero también el más representativo para explicar toda la teoría del post anterior, una regresión lineal no representa rectas, más bien tiene el nombre por que los parámetros que se estiman son lineales, con ...

UDF,UDAF y UDTF Apache Hive

Imagen
Bueno en el post de manejo de Apache Hive aprendimos a usar lo que nos brinda hive como componente, pero que tal si quisiéramos enriquecer a este componente con funciones más poderosas y de la mano del MapReduce ó TEZ de acuerdo con lo que nuestro Hive este funcionando, bueno esto es posible con código y este post lo mostrará creando el código necesario para ciertas funcionalidades y mostrar como hacerlo gracias a tres características custom que nos provee Apache Hive las cuales son las siguientes.  UDF (User Defined Function)   UDAF (User Defined Agregation Function)  UDTF (User Defined Tabular Function) A lo largo del post mostraré un ejemplo de estas tres funciones dando como base la forma de programar este tipo de funciones para que ustedes puedan realizar las suyas de acuerdo a sus necesidades. Los ejemplos los trabajaremos con los datasets siguientes que se encuentran en esta página como ejemplo:  https://support.spatialkey.com/spatialkey-sample-...