Archives mensuelles : mai 2014

Partage de session avec redis, tomcat et docker

Maintenant que nous avons 2 serveurs tomcat, ça serait bien de pouvoir les arrêter un par un (pour effectuer une livraison par exemples) sans que cela n’ait d’impact pour l’utilisateur. Je pense notamment à la gestion de la session utilisateur. Je vais donc essayer de stocker (sérialiser) la session dans une base nosql. Vu qu’il faut juste stocker un couple clé/valeur, c’est beaucoup moins lourd qu’une base de données.

Préparation du code

Pour commencer, je vais reprendre le travail de James Coleman sur ce sujet https://github.com/jcoleman/tomcat-redis-session-manager. Tout d’abord comme je ne suis pas très à l’aise avec gradle (pour le moment), j’ai commencé par créer un pom.xml pour gérer les dépendances et plus tard créer une image docker. Comme expliqué dans le préambule du repository, la détection de la modification de la session pose des soucis si on modifie directement l’objet après avoir fait un getAttribute()

Produit p=(Produit)session.getAttribute("product");
p.setCount(p.getCount()+1);

1 2	Produit p=(Produit)session.getAttribute("product"); p.setCount(p.getCount()+1);

J’ai donc décidé (pour l’exemple) de forcer l’enregistrement de la session à la fin de chaque requête. Il faudra vérifier avec un test de charge que ça ne pose pas de soucis pour une mise en production. Pour utiliser cette libraire, il faut la builder et l’ajouter au répertoire lib de tomcat (ça ne fonctionne pas si la librairie est embarqué dans le projet. Pour faciliter un peu les choses, maven va créer une librairie qui contiendra ses propres dépendances:

<plugin>
	<artifactId>maven-assembly-plugin</artifactId>
	<executions>
	    <execution>
		<phase>package</phase>
		<goals>
		    <goal>single</goal>
		</goals>
	    </execution>
	</executions>
	<configuration>
	    <descriptorRefs>
		<descriptorRef>jar-with-dependencies</descriptorRef>
	    </descriptorRefs>
	</configuration>
</plugin>

<artifactId>maven-assembly-plugin</artifactId>

<phase>package</phase>

<goals>

<goal>single</goal>

</goals>

</execution>

</executions>

<descriptorRef>jar-with-dependencies</descriptorRef>

</descriptorRefs>

</configuration>

</plugin>

Ensuite, il suffit juste au niveau du projet de modifier le fichier META-INF/context.xml pour ajouter une valve et un manager:

 <Valve className="com.radiadesign.catalina.session.RedisSessionHandlerValve" />
    <Manager className="com.radiadesign.catalina.session.RedisSessionManager"
             host="172.17.0.2"
    port="6379"
    database="0"
    maxInactiveInterval="180" />

<Manager className="com.radiadesign.catalina.session.RedisSessionManager"

host="172.17.0.2"

port="6379"

database="0"

maxInactiveInterval="180" />

On peut personnaliser la machine et le port de redis ainsi que la durée d’une session (ici j’ai réglé à 3 min). Maintenant que tout est configuré, voyons comment intégré cela dans docker.

Préparation des images

J’ai créé un fichier Dockerfile dans le projet tomcat-redis-session-manager pour créer une nouvelle image se basant sur jolokia/tomcat-6.0 et ajoutant notre librairie dans le répertoire lib.

FROM jolokia/tomcat-6.0

ENV TOMCAT_VERSION 6.0.39

ADD target/tomcat-redis-session-manager-jar-with-dependencies.jar /opt/apache-tomcat-${TOMCAT_VERSION}/lib/

FROM jolokia/tomcat-6.0

ENV TOMCAT_VERSION 6.0.39

ADD target/tomcat-redis-session-manager-jar-with-dependencies.jar /opt/apache-tomcat-${TOMCAT_VERSION}/lib/

D’ailleurs, il semble que docker est des soucis avec des répertoires symboliques target. Si je remplace la dernière ligne par

ADD target/tomcat-redis-session-manager-jar-with-dependencies.jar /opt/tomcat/lib/

1	ADD target/tomcat-redis-session-manager-jar-with-dependencies.jar /opt/tomcat/lib/

j’obtiens l’erreur suivante (/opt/tomcat étant un lien symbolique vers opt/apache-tomcat-${TOMCAT_VERSION})

&nbsp;2014/05/25 17:18:25 mkdir /var/lib/docker/aufs/mnt/309ed27293f7af78691fbea762bfb364a3f6dd86fcec8c4a302d16cc91329708/opt/tomcat: file exists

1	2014/05/25 17:18:25 mkdir /var/lib/docker/aufs/mnt/309ed27293f7af78691fbea762bfb364a3f6dd86fcec8c4a302d16cc91329708/opt/tomcat: file exists

J’ai ensuite modifier le fichier Dockerfile du projet session-webapp pour se baser sur l’image qu’on vient de créer:

FROM benoitcharret/tomcat6-session

1	FROM benoitcharret/tomcat6-session

Il ne reste plus qu’à lancer toutes les images pour voir le résultat

Lancement des images

Je commence par lancer redis:

docker run -d --name redis -p 6379:6379 -v /tmp/data:/data dockerfile/redis

1	docker run -d --name redis -p 6379:6379 -v /tmp/data:/data dockerfile/redis

avec la même commande que dans le dernier article, je récupère son ip (à mettre dans le context.xml) Je lance ensuite un redis-cli pour tester la connectivité

docker run -d --name redis -p 6379:6379 -v /tmp/data:/data dockerfile/redis
redis-cli -h 172.17.0.2
172.17.0.2:6379> ping
PONG

docker run -d --name redis -p 6379:6379 -v /tmp/data:/data dockerfile/redis

redis-cli -h 172.17.0.2

172.17.0.2:6379> ping

PONG

Mon serveur redis est donc opérationnel. Je lance maintenant 2 serveurs tomcat et haproxy. Je me connecte maintenant sur le site, je me loggue et fais des refresh sur la page index.jsp. Cela nous donne dans logs:

INFO: Server startup in 404 ms
917E8054D3BC7A4D9E4217136C415248
917E8054D3BC7A4D9E4217136C415248
value of product 1
917E8054D3BC7A4D9E4217136C415248
value of product 2
917E8054D3BC7A4D9E4217136C415248
value of product 3
917E8054D3BC7A4D9E4217136C415248
value of product 4
917E8054D3BC7A4D9E4217136C415248
value of product 5
917E8054D3BC7A4D9E4217136C415248
value of product 6
917E8054D3BC7A4D9E4217136C415248
value of product 7
^CMay 25, 2014 3:26:33 PM org.apache.coyote.http11.Http11Protocol pause
INFO: Pausing Coyote HTTP/1.1 on http-8080
May 25, 2014 3:26:34 PM org.apache.catalina.core.StandardService stop
INFO: Stopping service Catalina

INFO: Server startup in 404 ms

917E8054D3BC7A4D9E4217136C415248

value of product 1

917E8054D3BC7A4D9E4217136C415248

value of product 2

917E8054D3BC7A4D9E4217136C415248

value of product 3

917E8054D3BC7A4D9E4217136C415248

value of product 4

917E8054D3BC7A4D9E4217136C415248

value of product 5

917E8054D3BC7A4D9E4217136C415248

value of product 6

917E8054D3BC7A4D9E4217136C415248

value of product 7

^CMay 25, 2014 3:26:33 PM org.apache.coyote.http11.Http11Protocol pause

INFO: Pausing Coyote HTTP/1.1 on http-8080

May 25, 2014 3:26:34 PM org.apache.catalina.core.StandardService stop

INFO: Stopping service Catalina

Je suis bien resté sur le même serveur à chaque fois et j’ai bien récupéré ma donnée product. Si ne n’avais pas fait la modification dans RedisSessionManager, la valeur de product serait toujours de 1. J’ai ensuite arrêté le serveur tomcat et fais des refresh sur index.jsp. Cela nous donne:

INFO: Server startup in 392 ms
917E8054D3BC7A4D9E4217136C415248
value of product 8
917E8054D3BC7A4D9E4217136C415248
value of product 9
917E8054D3BC7A4D9E4217136C415248
value of product 10
917E8054D3BC7A4D9E4217136C415248
value of product 11
917E8054D3BC7A4D9E4217136C415248
value of product 12

INFO: Server startup in 392 ms

917E8054D3BC7A4D9E4217136C415248

value of product 8

917E8054D3BC7A4D9E4217136C415248

value of product 9

917E8054D3BC7A4D9E4217136C415248

value of product 10

917E8054D3BC7A4D9E4217136C415248

value of product 11

917E8054D3BC7A4D9E4217136C415248

value of product 12

J’ai donc bien récupérer ma session et la valeur de product. Pour voir le contenu des clés de redis, on peut utiliser la commande (a ne pas faire en production):

KEYS *

KEYS *

Voila comment tester facilement la persistance de session avec redis et docker.

Les sources sont ici:

session-webapp: https://github.com/BenoitCharret/session-webapp
tomcat-redis-session-manager: https://github.com/BenoitCharret/tomcat-redis-session-manager/tree/tomcat-6
image docker : https://index.docker.io/u/benoitcharret/tomcat6-session/

load balancing haproxy sous docker

Après avoir créé une première image contenant une application basique sous tomcat, je vais tester une montée en charge. Pour cela, nous allons lancer 2 containers tomcat et mettre en place un HA proxy (il s’agit d’un load balancer logiciel qui va répartir la charge entre les 2 containers tomcat.

Je vais utiliser l’image suivante : https://index.docker.io/u/dockerfile/haproxy.

Il y a juste à surcharger la configuration pour l’adapter à nos besoins:

global
  log 127.0.0.1 local0
  log 127.0.0.1 local1 notice
  chroot /var/lib/haproxy
  user haproxy
  group haproxy
  # daemon

defaults
  log global
  mode http
  option httplog
  option dontlognull
  contimeout 5000
  clitimeout 50000
  srvtimeout 50000
  errorfile 400 /etc/haproxy/errors/400.http
  errorfile 403 /etc/haproxy/errors/403.http
  errorfile 408 /etc/haproxy/errors/408.http
  errorfile 500 /etc/haproxy/errors/500.http
  errorfile 502 /etc/haproxy/errors/502.http
  errorfile 503 /etc/haproxy/errors/503.http
  errorfile 504 /etc/haproxy/errors/504.http

listen session-webapp :80
    balance roundrobin
    server tomcat1 172.17.0.3:8080 check
    server tomcat2 172.17.0.4:8080 check
    stats enable
    stats uri /stats

global

log 127.0.0.1 local0

log 127.0.0.1 local1 notice

chroot /var/lib/haproxy

user haproxy

group haproxy

# daemon

defaults

log global

mode http

option httplog

option dontlognull

contimeout 5000

clitimeout 50000

srvtimeout 50000

errorfile 400 /etc/haproxy/errors/400.http

errorfile 403 /etc/haproxy/errors/403.http

errorfile 408 /etc/haproxy/errors/408.http

errorfile 500 /etc/haproxy/errors/500.http

errorfile 502 /etc/haproxy/errors/502.http

errorfile 503 /etc/haproxy/errors/503.http

errorfile 504 /etc/haproxy/errors/504.http

listen session-webapp :80

balance roundrobin

server tomcat1 172.17.0.3:8080 check

server tomcat2 172.17.0.4:8080 check

stats enable

stats uri /stats

j’ai repris le fichier de l’image et j’ai ajouté la partie en bas. On va donc faire du round robin entre nos 2 serveurs tomcat qui sont ensuite définis. J’ai gardé la partie stats pour vérifier que tout se passe bien.

En démarrant un container, on obtient le résultat suivant:

docker run -i -t  -v /tmp/session-webapp/src/main/haproxy:/haproxy-override dockerfile/haproxy

1	docker run -i -t -v /tmp/session-webapp/src/main/haproxy:/haproxy-override dockerfile/haproxy

[WARNING] 143/194932 (12) : Server session-webapp/tomcat1 is DOWN, reason: Layer4 timeout, check duration: 2002ms. 1 active and 0 backup servers left. 0 sessions active, 0 requeued, 0 remaining in queue.
[WARNING] 143/194933 (12) : Server session-webapp/tomcat2 is DOWN, reason: Layer4 timeout, check duration: 2002ms. 0 active and 0 backup servers left. 0 sessions active, 0 requeued, 0 remaining in queue.
[ALERT] 143/194933 (12) : proxy 'session-webapp' has no server available!

[WARNING] 143/194932 (12) : Server session-webapp/tomcat1 is DOWN, reason: Layer4 timeout, check duration: 2002ms. 1 active and 0 backup servers left. 0 sessions active, 0 requeued, 0 remaining in queue.

[WARNING] 143/194933 (12) : Server session-webapp/tomcat2 is DOWN, reason: Layer4 timeout, check duration: 2002ms. 0 active and 0 backup servers left. 0 sessions active, 0 requeued, 0 remaining in queue.

[ALERT] 143/194933 (12) : proxy 'session-webapp' has no server available!

Le serveur ne trouve aucun serveur « backend ». C’est ce que l’on constate aussi en regardant les stats:

En démarrant un container tomcat, on peut voir que les choses s’améliorent:

docker run -i -t session-webapp/1.0-SNAPSHOT

1	docker run -i -t session-webapp/1.0-SNAPSHOT

[WARNING] 143/195256 (12) : Server session-webapp/tomcat1 is UP, reason: Layer4 check passed, check duration: 0ms. 1 active and 0 backup servers online. 0 sessions requeued, 0 total in queue.

1	[WARNING] 143/195256 (12) : Server session-webapp/tomcat1 is UP, reason: Layer4 check passed, check duration: 0ms. 1 active and 0 backup servers online. 0 sessions requeued, 0 total in queue.

On a maintenant un premier backend. Et effectivement, en allant sur le site, j’obtiens bien la page voulue

Je lance maintenant le deuxième:

[WARNING] 143/195615 (12) : Server session-webapp/tomcat2 is UP, reason: Layer4 check passed, check duration: 0ms. 2 active and 0 backup servers online. 0 sessions requeued, 0 total in queue.

1	[WARNING] 143/195615 (12) : Server session-webapp/tomcat2 is UP, reason: Layer4 check passed, check duration: 0ms. 2 active and 0 backup servers online. 0 sessions requeued, 0 total in queue.

Nous avons maintenant une infrastructure avec 2 serveur tomcat et un load balancer devant.

En lancant une commande de type :

while [ 1 -eq 1 ]; do wget "http://172.17.0.2/session-webapp/"; done

1	while [ 1 -eq 1 ]; do wget "http://172.17.0.2/session-webapp/"; done

On voit bien l’alternance des serveurs dans les logs et dans les stats.

Les sources de l’exemple sont disponible ici: git.

Contruire une image docker à la suite d’un build maven

Pour mes premiers pas avec docker, je souhaitais faire une appli web java très simple qui s’intègre dans une image docker au moment du build.

J’ai trouvé quelques exemples de plugin maven pour construire facilement une image mais la plupart utilise une api REST en http qui ne fonctionne plus depuis la version 0.56 de docker. Il faut maintenant utiliser une socket Unix.

J’ai donc utiliser un plugin maven pour lancer la construction de l’image via une ligne de commande (il y a sûrement mieux, mais c’était aussi pour aller vite):

<plugin>
<groupId>org.codehaus.mojo</groupId>
<artifactId>exec-maven-plugin</artifactId>
<version>1.3</version>
<executions>
<execution>

<phase>install</phase>
<goals>
<goal>exec
</goal>
</goals>
<configuration>
    <executable>docker</executable>
    <arguments>
    <argument>build</argument>
    <argument>-t</argument>
    <argument>${project.artifactId}/${project.version}</argument>
    <argument>.</argument>
</arguments>
</configuration>
</execution>
</executions>
</plugin>

<groupId>org.codehaus.mojo</groupId>

<artifactId>exec-maven-plugin</artifactId>

<phase>install</phase>

<goals>

<goal>exec

</goal>

</goals>

<executable>docker</executable>

<argument>build</argument>

<argument>${project.artifactId}/${project.version}</argument>

</arguments>

</configuration>

</execution>

</executions>

</plugin>

Cette commande va construire l’image à partir d’un fichier DockerFile et va poser un tag composé du nom de l’artefact et de la version. Ce sera plus facile pour retrouver l’image par la suite.

Le fichier Dockerfile est construit comme ceci:

FROM jolokia/tomcat-6.0

ADD target/session-webapp.war /maven/

EXPOSE 8080

FROM jolokia/tomcat-6.0

ADD target/session-webapp.war /maven/

EXPOSE 8080

On indique à partir de quelle image on se base. Ici c’est un tomcat.

Puis on ajoute le war dans un répertoire particulier pour que tomcat le charge au démarrage.

Et enfin, on expose le port 8080 pour pouvoir accéder au tomcat depuis l’extérieur du conteneur.

Pour ce faire, il faut lancer le container avec la commande:

 docker run "session-webapp/1.0-SNAPSHOT"

1	docker run "session-webapp/1.0-SNAPSHOT"

Puis la commande :

 docker ps

docker ps

qui va lister les containers en cours d’exécution et indiquer le container id de chacun.

Et enfin la commande suivante pour récupérer l’adresse du container.

docker inspect container_id | grep IPAddress

1	docker inspect container_id \| grep IPAddress

On peut maintenant vérifier que l’application fonctionne bien dans un navigateur:

Voila pour cette première rencontre avec docker.

Les sources sont ici : https://github.com/BenoitCharret/session-webapp

installation de docker sur ubuntu

L’installation sur une distribution ubuntu 14.04 est assez facile (http://docs.docker.io/installation/ubuntulinux/)

$ sudo apt-get update
$ sudo apt-get install docker.io
$ sudo ln -sf /usr/bin/docker.io /usr/local/bin/docker

$ sudo apt-get update

$ sudo apt-get install docker.io

$ sudo ln -sf /usr/bin/docker.io /usr/local/bin/docker

Pour tester l’installation on peut lancer la commande suivante qui va telecharger une image ubuntu et executer la commande /bin/bash

sudo docker run -i -t ubuntu /bin/bash

1	sudo docker run -i -t ubuntu /bin/bash

Publier sur un repository distant avec git et une clé ssh

Voici deux articles pour mettre en place une clé ssh avec git.

Pour générer sa clé et la tester:

https://help.github.com/articles/generating-ssh-keys

Pour que la clé soit prise en compte en ligne de commande:

http://matharvard.ca/posts/2011/aug/11/git-push-with-specific-ssh-key/

A bientot

Developpement Android

Je peux maintenant développer sur Android.

https://www.coursera.org/maestro/api/certificate/get_certificate?verify-code=P726KHDWGD

A bientot

Préparation du code

Préparation des images

Lancement des images

Partager :

Partager :

Partager :

Partager :

Partager :

Partager :