Archivo del Autor: hvivani

Acerca de hvivani

sysadmin, developer, RHCSA

Muffins de Banana

Publicado el octubre 29, 2017

Ingredientes: 100 g de harina 1 cucharada de polvo para hornear 100 g de banana madura 3 huevos 50 g de azúcar blanca 1 cucharada de vainilla 60 ml de leche Preparacion: Precalienta el horno a 170°C. Mezcla en un … Seguir leyendo →

Publicado en Cooking, Uncategorized | Deja un comentario

AWS EMR – Big Data in Strata New York

Publicado el septiembre 23, 2017

Will you be in New York next week (Sept 25th – Sept 28th)?                    Come meet the AWS Big Data team at Strata Data Conference, where we’ll be happy to answer your questions, hear about your requirements, and help you … Seguir leyendo →

Publicado en Uncategorized | Etiquetado , , , , , | Deja un comentario

s3:// vs s3n:// vs s3a:// vs EMRFS

Publicado el abril 18, 2017

s3:// Apache Hadoop implementation of a block-based filesystem backed by S3. Apache Hadoop has deprecated use of this filesystem as of May 2016. s3n:// A native filesystem for reading and writing regular files on S3. S3N allows Hadoop to access … Seguir leyendo →

Publicado en Uncategorized | Etiquetado , , , , | Deja un comentario

Kill’em All!

Publicado el abril 17, 2017

Use it at your own discretion: for app in `yarn application -list | awk ‘$6 == “ACCEPTED” { print $1 }’` ; do yarn application -kill “$app”;done            

Publicado en Uncategorized | Etiquetado , , | Deja un comentario

S3 and Parallel Processing – DirectFileOutputCommitter

Publicado el marzo 24, 2017

The problem: While a Hadoop Job is writing output, it will write to a temporary directory: Task1 –> /unique/temp/directory/task1/file.tmp Task2 –> /unique/temp/directory/task2/file.tmp When the tasks finish the execution, will move (commit) the temporary file to a final location. This schema … Seguir leyendo →

Publicado en Uncategorized | Etiquetado , , | Deja un comentario

God does not cast dice / Dios no juega a los dados

Publicado el marzo 21, 2017

Niels Bohr (left) and Albert Einstein (right) discussing quantum mechanics.

Publicado en Uncategorized | Etiquetado | Deja un comentario

Copy Data with Hive and Spark / Copiar Datos con Hive y Spark

Publicado el marzo 3, 2017

These are two examples of how to copy data from one S3 location to other S3 location. Same operation can be done from S3 to HDFS and vice-versa. I’m considering that you are able to launch the Hive client or … Seguir leyendo →

Publicado en Uncategorized | Etiquetado , , , | Deja un comentario