Archivos mensuales: octubre 2015

Ambari hortonworks stacks and services

 

Dentro del proyecto ambari[0] hay dos partes que son claramente extensibles.

  1. Las vistas[1]
  2. Los stacks services[2]

En este artículo vamos a ver, muy someramente, para que creemos que se pueden usar los stacks y un ejemplo de stack para gestionar un motor de búsqueda como solr[3].

Según el propio proyecto ambari la definición de un stack es

Ambari supports the concept of Stacks and associated Services in a Stack Definition. By leveraging the Stack Definition, Ambari has a consistent and defined interface to install, manage and monitor a set of Services and provides extensibility model for new Stacks + Services to be introduced.

Por tanto creemos que es bastante claro para que sirve y cual podría ser su uso extendido. En este caso vamos a analizar la anatomía de un paquete tipo stack. Analizando e instalando el stack anteriormente mencionado [3]

Según vemos en el git del proyecto a primera nivel tenemos

  • kerberos.json (define el modelo de seguridad)
  • metainfo.xml (define las dependencias del stack, el nombre que se va a visualizar en la interfaz de ambari etc..)
  • remove.sh (el script que elimina un servicio ya instalado de un nodo del cluster gestionado por ambari)
  • configuration (contiene los ficheros de configuración que ambari va a manejar para gestionar el servicio instalado)
  • package (el paquete con las dependencias, scripts de instalación, arranque, monitorización etc...)

Una vez que más o menos tenemos claro que es un stack, procederemos a su instalación. Para ello seguimos el readme que tiene el propio proyecto y vemos que lo único que hay que hacer es copiar estos ficheros/carpetas en la zona reservada a tal efecto en el servidor de ambari y reiniciarlo. En este caso se ha hecho clonando el repositorio git en nuestra máquina lug012 que es la que contiene el servidor ambari. En nuestro caso lo haremos clonando el repositorio git

  • sudo git clone https://github.com/abajwa-hw/solr-stack.git /var/lib/ambari-server/resources/stacks/HDP/2.3/services/SOLR
  • sudo service ambari-server restart

Y ya podemos ver en el ambari el nuevo servicio de solr que podremos instalar, configurar y monitorizar desde la interfaz web de ambari.

A continuación dejamos unas imágenes del proceso de instalación de un nodo master de solr[4]. El proceso de instalación tiene sus particularidades y hay que ayudarle un poco para que finalice correctamente ;-)

 

Siguiendo este modelo lo siguiente que queremos añadir a nuestro laboratorio de bigdata son servicios/stacks de tomcat, por ejemplo. Para poder gestionar desde ambari las aplicaciones java normales que desarrollamos en zylk.net

 

UPDATE: Hablando ayer con una otro developer me hizo el siguiente comentario, que creo que es interesante añadir en la entrada (Ya que creo que tiene razón y que en el post no queda suficientemente claro, gracias Carlos por la apreciación) :

 

A mi entender, HDP es un STACK de Ambari, que tiene disponible N servicios (HDFS, HBase, YARN…). En la entrada del blog, lo que se da a entender es que se ha creado un stack cuando en realidad lo que se ha creado es un servicio para un stack, en el caso de zylk para el stack de HDP.

 

[0] https://ambari.apache.org/

[1] https://cwiki.apache.org/confluence/display/AMBARI/Views

[2] https://cwiki.apache.org/confluence/display/AMBARI/Stacks+and+Services

[3] https://github.com/abajwa-hw/solr-stack

[4] http://lucene.apache.org/solr/

Entrada publicada en Sin categoría | Comentarios cerrados

How to copy files in linux faster and safer than cp

Sometimes a simple cp -a command is a very painful and slow process. It's true that -v (verbose) option can give you some information on the details of the copy process, but not normally the progress of it. In fact, cp -a is a quite slow process that...
Entrada publicada en Sin categoría | Comentarios cerrados