[Mod] Mini Cluster 2 * 2 cpus = 4 cpus

Mini Cluster 2 * 2 cpus = 4 cpus [Mod] - Modding - Overclocking, Cooling & Modding

Marsh Posté le 07-10-2007 à 23:45:41    

Bonjour à tous c'est mon premier mod.
 
J'ai décidé de faire un mod pour un mini cluster sous linux constitué de deux nodes (CM + RAM +CPU):
Node 1 (Master):
CM MSI 6120
2 CPU PII 400
512 Mo SDRAM
DD 40Go
Carte vidéo Radeon 7000 (juste pour l'installation)
3 cartes réseaux : une pour la connexion WAN (pilotage distant via ssh) et deux autres reliées à la deuxième node (cables croisées).
Alim 320 W (ATX P4)
 
Node 2 (esclave):
CM Abit BP6 (merci Ludovic)
2 CPU Celeron 400
512 Mo SDRAM
Carte vidéo ATI Rage (juste pour l'installation)
2 cartes réseaux reliées aux master (1 ère carte pour la partition NFS et la deuxième pour l'échange des paquets)
La node 2 boote (PXE + tftp) par le réseau sur une partition partagée (nfs) sur la node 1.
Alim 220 W (ATX)
 
Mon objectif est de m'initier aux calculs parallèles sous Linux en expérimentant des solutions comme openmosix (kernel patché) ou pvm .
Pour la réalisation pratique, j'ai utilisé deux plaques de plexigass (4mm) reliées par 5 tiges filetées (M8).
Le lecteur de DVD sert juste à l'installation, il sera débranché par la suite.
 
Vue principal : La carte MSI est en bas  (master) et la carte Abit en haut (slave)
http://lolobrin.perso.neuf.fr/Photos/IMG_0323.JPG
 
Vue de face : Il y a 3 cartes réseaux en bas et 2 en haut
http://lolobrin.perso.neuf.fr/Photos/IMG_0337.JPG
 
Vue de dessus : Les deux alimentations et le disque dur sont à l'arrière
http://lolobrin.perso.neuf.fr/Photos/IMG_0336.JPG
 
Vue de côté sans le ventilateur 12cm : On peut voir les deux CPUs PII en bas
http://lolobrin.perso.neuf.fr/Photos/nf3/IMG_0324.JPG
 
Avec le ventilateur 12cm
http://lolobrin.perso.neuf.fr/Photos/IMG_0338.JPG
 
Vue de l'autre côté : on peut voir les deux CPUs celeron en haut
http://lolobrin.perso.neuf.fr/Photos/IMG_0339.JPG
 
Edit 9/10/07: J'ai rajouté un ventilateur de 12 cm qui est fixé par des cordes à linge. Je vais bientôt en fixer un deuxième de l'autre côté pour faire une ventilation de type Push Pull.
 
Edit 18/10/07: J'ai remplaçé la carte NF3 A64 S754 par une carte bi Processeurs BP6
Ajout d'une deuxième connection réseaux entre les deux nodes
 
Edit 1/11/07: J'ai fini l'installation du software et j'ai commençé un petit didacticiel d'installation de la partie logiciel (à finir)
Didacticiel d'installation
 
Edit 10/11/07: J'ai fini un petit didacticiel sur un benchmark de rendu vidéo adapté aux cluster: pvmpov
Didacticiel sur pvmpov
 
Edit 1/12/07: J'ai fini une p'tite page sur une application numérique (résolution de l'équation de Fourier dans une plaque carrée) sur mon petit cluster
Résolution de l'équation de Fourier
 
Edit 30/4/08: J'ai fini une p'tite page sur la recherche des nombres premiers sur mon petit cluster
Recherche des nombres premiers
 
Edit 30/10/09: J'ai fini une dernière p'tite page sur la recherche de l'ensemble de Mandelbrot sur mon petit cluster
Ensemble de Mandelbrot
A+


Message édité par lolobrin le 30-10-2009 à 22:35:53
Reply

Marsh Posté le 07-10-2007 à 23:45:41   

Reply

Marsh Posté le 07-10-2007 à 23:49:45    

[:drapo]


---------------
Gigabyte France  
Reply

Marsh Posté le 09-10-2007 à 17:54:15    

Mise à jour du premier post : rajout d'un ventilateur de 12 cm

Reply

Marsh Posté le 18-10-2007 à 20:00:36    

Mise à jour du premier post : remplacement de la carte NF3 par une Abit BP6

Reply

Marsh Posté le 20-10-2007 à 14:11:44    

tu veux mettre quoi comme logiciel pour la partie cluster?

Reply

Marsh Posté le 20-10-2007 à 15:07:57    

Salut,
 
Pour la partie cluster, je pensais à la librairie PVM (Parallel Virtual Machine) ou OpenMosix (kernel patché + outil de monitoring)

Reply

Marsh Posté le 20-10-2007 à 18:41:05    

ta déjà réussi à mettre le cluster en route ou c'est encore ou stade de test?? si oui tu pourrai mettre ta procédure de mise en route par pxe et tftp??

Reply

Marsh Posté le 20-10-2007 à 19:51:11    

barbarius88 a écrit :

ta déjà réussi à mettre le cluster en route ou c'est encore ou stade de test?? si oui tu pourrai mettre ta procédure de mise en route par pxe et tftp??


Le Hardware est fini, je suis au début du stade de l'installation du software (Je profiterai des vacances de la Toussaint pour finaliser)
 
La démarche (générale) pour openmosix est de mémoire :
1/ Installer Debian 3.1 sur le Master (noyau 2.4.27 il faut éviter les noyaux trop récents)
2/ Installer les serveurs NFS, SSH (optionnel), DHCP sur le master
3/ Compiler une version SMP patchée du kernel 2.4.26 avec openmosix (dernier noyaux supporté par Openmosix)
4/ Installer le nouveau kernel sur le master
5/ Créer sur le master un répertoire (exporter avec NFS) qui correspondra au répertoire / du slave (avec les outils minimum /bin /sbin etc...)
6/ Installer le kernel patché (avec openmosix) sur le répertoire / exporté
7/ Configurer le serveur DHCP sur le master pour qu'il reconnaisse le slave (en précisant les options PXE, le nom du kernel etc...)
7bis/ Préciser une option autorisant le service tftp (j'ai un trou de mémoire...)
8/ Installer sur le master les outils d'openmosix (mosrun openmosixview...)
9/ Redémarrer l'ensemble
10/ Compiler les programmes C en utilisant fork() pour dupliquer les processus
 
Sinon, il existe un Live CD Cluster Knoppix qui doit marcher (j'essaierai demain)
 
Pour PVM, c'est juste une librairie à installer sur le Master et le Slave + autorisation distante via ssh
 
Voici un lien très intéressant (avec documentation pdf), mais ils utilisent MPI à la place de PVM
 
http://www.calvin.edu/~adams/research/microwulf/
 
A+
 
PS: Si tu es intéressé, j'essaierai de faire une Installation plus détaillée


Message édité par lolobrin le 21-10-2007 à 11:21:34
Reply

Marsh Posté le 20-10-2007 à 23:44:03    

ça ma l'air bien compliqué quand même. est ce que ça vaut vraiment le coup vu qu'il te vaut un logiciel qui fonctionne bien pour aller avec?

Reply

Marsh Posté le 20-10-2007 à 23:46:11    

Euh en français les gars ? ça m'interresse tous ce que vous parlé la :)


---------------
Topic Vente
Reply

Marsh Posté le 20-10-2007 à 23:46:11   

Reply

Marsh Posté le 21-10-2007 à 00:03:23    

barbarius88 a écrit :

ça ma l'air bien compliqué quand même. est ce que ça vaut vraiment le coup vu qu'il te vaut un logiciel qui fonctionne bien pour aller avec?


En puissance pure, les 4 cpus seront moins performants que le plus minable des processeurs actuels, mon but c'est d'essayer de comprendre et d'apprendre... La réalisation Hardware en elle même n'est pas trop compliquée, mais tu as raison pour le paramétrage software, c'est déjà moins simple (sans parler de la programmation spécifique des applications pour utiliser les 4 cpus en même temps).
 
Bonne nuit...

Reply

Marsh Posté le 21-10-2007 à 10:40:58    

est t'il possible de compiler un programme pour qu'il fonctionne bien avec le cluster?? genre boinc qui pourrait tourner dessus.

Reply

Marsh Posté le 21-10-2007 à 11:20:26    

barbarius88 a écrit :

est t'il possible de compiler un programme pour qu'il fonctionne bien avec le cluster?? genre boinc qui pourrait tourner dessus.


Le fonctionnement sous cluster demande une programmation particulière, plusieurs solutions :
1/ Duplication de processus par openmosix
2/ Echange de messages et paquets entre les nodes par les librairies PVM ou MPI
3/ Création de Threads (je connais moins...)

 

BOINC ne pourra pas fonctionner efficacement. BOINC n'utilisera pas les 4 cpus, 2 cpus seront uniquement reconnus dans ce cas sur le cluster et le programme devra donc être reprogrammé (Tâche très très ardus...) soit aves les librairies PVM ou par duplication de processus (pour openmosix)

 

Sinon, j'ai fais un petit test avec le Live CD Cluster Knoppix (distribution openmosix) : voici le résultat :

 

http://lolobrin.perso.neuf.fr/Photos/openmosix.jpg

 

Quelques remarques:
* Pour bien faire fonctionner la distribution, j'ai du utiliser un serveur DHCP externe (modem routeur), et les deux nodes n'utilisent chacune qu'une seule carte réseau reliée au routeur). Pour avoir un fonctionnement plus autonome, je ferai une installation spécifique.
* J'ai utilisé l'utilitaire GIMP pour faire une copie d'écran.


Message édité par lolobrin le 18-06-2009 à 23:25:25
Reply

Marsh Posté le 22-10-2007 à 16:28:26    

Reply

Marsh Posté le 22-10-2007 à 18:10:41    


 
 :hello: Salut Jéjé...

Reply

Marsh Posté le 26-10-2007 à 15:06:53    

J'ai vu ton post sur le topic BP6, chapeau  :jap:  
 
J'aime beaucoup ce genre de projet uniquement destiné à apprendre avec du vieux matos, l'utilité n'étant pas la puissance brute finale.
 
Linuxien débutant (mais ayant passé le cap du switch, c'est à dire ne trouvant plus d'intérêt à Windows, arrivant à faire plus de choses -et mieux- sous Linux), la partie soft m'intéresse également beaucoup, même si j'ai pas encore tout capté  :D  
 
 :hello:


---------------
(old) Feed HA/V          
Reply

Marsh Posté le 26-10-2007 à 18:09:13    

deK a écrit :

J'ai vu ton post sur le topic BP6, chapeau  :jap:  
 
J'aime beaucoup ce genre de projet uniquement destiné à apprendre avec du vieux matos, l'utilité n'étant pas la puissance brute finale.
 
Linuxien débutant (mais ayant passé le cap du switch, c'est à dire ne trouvant plus d'intérêt à Windows, arrivant à faire plus de choses -et mieux- sous Linux), la partie soft m'intéresse également beaucoup, même si j'ai pas encore tout capté  :D  
 
 :hello:


 :hello:  
 
Si plusieurs personnes sont intéressé, je créerai un nouveau topic (catégorie OS alternatif) pour l'installation de la partie logiciel + tests de programmes. Personnellement, je ne suis pas informaticien, plutôt un bidouilleur, mon idée de faire un cluster m'est venue par hasard en regardant le topic sur les clusters. Je trouve l'idée de faire un cluster intéressante car c'est une démarche très instructive (administration, programmation...).
 
Bon WE à tous

Reply

Marsh Posté le 02-11-2007 à 00:11:37    

Pour les personnes intéressés, j'ai commençé à écrire un petit didacticiel pour l'installation software.
 
Didacticiel d'installation
 
Bonne nuit à tous...


Message édité par lolobrin le 22-10-2009 à 21:55:55
Reply

Marsh Posté le 06-11-2007 à 13:29:10    

Salut,
 
Eh bien, jolie réalisation!
 
Je suis curieux de voir le temps que tu fais à Super PI :D
 
Bonne continuation.

Reply

Marsh Posté le 06-11-2007 à 13:30:56    

tout simplement genial...
 
drapal c est une tres bonne idee...
 
le seul truc c est que ca va etre chiant a dissiper tout ca, meme si ca chauffe pas beaucoups en effets...
 
 
 :jap:

Message cité 1 fois
Message édité par Profil supprimé le 06-11-2007 à 13:31:34
Reply

Marsh Posté le 06-11-2007 à 16:24:01    

PyreOfGods a écrit :

Salut,
 
Eh bien, jolie réalisation!
 
Je suis curieux de voir le temps que tu fais à Super PI :D
 
Bonne continuation.


 
Merci,
 
Pour Super Pi, il ne faut pas réver, 4 cpus 400 Mhz seront toujours moins performants que le plus médiocre des processeurs actuels (sempron ou celeron D)... Mon intérêt est plus la curiosité que la performance, d'autant plus qu'il n'est pas évident que Super Pi soit optimisé pour le SMP sous Linux.
 
A+

Reply

Marsh Posté le 06-11-2007 à 16:27:23    


Merci,
 
Pas de problème de dissipation thermique, chaque cpu doit consommer en gros 20/30 W, on est très loin des consommation records des pentiums D.  Le cluster est aussi au frais dans ma cave (à l'abris de mes marmôts...).
 
A+

Reply

Marsh Posté le 06-11-2007 à 16:54:48    

Bien sûr, je suis tout à fait conscient de cela. Cependant, il serait intéressant de comparer les performances de ton système à, disons, par exemple un P4 1.6 ghz (les premiers, et en ce temps là je pense qu'on pouvait encore se baser sur la fréquence).
 
Sinon, je trouve aussi que rien que l'idée est intéressante.
 
As-tu déjà pensé à o/c un brin tes ch'tits celeron?
 

Reply

Marsh Posté le 06-11-2007 à 17:23:00    

PyreOfGods a écrit :

Bien sûr, je suis tout à fait conscient de cela. Cependant, il serait intéressant de comparer les performances de ton système à, disons, par exemple un P4 1.6 ghz (les premiers, et en ce temps là je pense qu'on pouvait encore se baser sur la fréquence).
 
Sinon, je trouve aussi que rien que l'idée est intéressante.
 
As-tu déjà pensé à o/c un brin tes ch'tits celeron?
 


 
Je vais essayer de trouver un bench (povray...) pour voir les performances et comparer... C'est vrai qu'en puissance pure, je ne dois pas être trop éloigné des premiers P4 (qui étaient battus par les derniers PIII si ma mémoire est bonne...).
 
Pour l'o/c des ch'tits (t'es pas du Nord toi ?) celerons, j'avais plusieurs tests :  
400 -> 500 sans soucis...
400 -> 600 boot mais plantage en charge, la limite stable doit être entre les deux.
 
J'ai pas essayé pour les PII car je n'ai que de la mémoire SDRAM PC 100 ...


Message édité par lolobrin le 06-11-2007 à 17:23:21
Reply

Marsh Posté le 07-11-2007 à 15:59:33    

Nan nan j'suis pas du nord (suis Alsacien, et oui, c'est bien en France, pour ceux qui se demandent)  mais je pique des expressions un peu partout :D
 
Je suppose que t'avais augmenté la ventilation lorsque t'étais passé à 600 ?

Reply

Marsh Posté le 07-11-2007 à 18:42:08    

PyreOfGods a écrit :

Nan nan j'suis pas du nord (suis Alsacien, et oui, c'est bien en France, pour ceux qui se demandent)  mais je pique des expressions un peu partout :D
 
Je suppose que t'avais augmenté la ventilation lorsque t'étais passé à 600 ?


 
C'est des bons ventillos qui souffent bien fort... mais même en augmentant un peu le voltage (2.2 V de mémoire) cela plante rapidement, mais bon l'o/c c'est pas trop mon truc (avis qui se discute bien entendu ;) )
 
Sinon, je suis en train de compiler un version spéciale cluster de povray: PVMPOV...donc la suite très bientôt


Message édité par lolobrin le 07-11-2007 à 18:43:58
Reply

Marsh Posté le 07-11-2007 à 21:11:51    

Héhé super! Eh bien c'est vraiment intéressant tout ça. Peut-être qu'un jour je recyclerai mes P3 lorsqu'ils ne me serviront plus...

Reply

Marsh Posté le 07-11-2007 à 22:28:00    

PyreOfGods a écrit :

Héhé super! Eh bien c'est vraiment intéressant tout ça. Peut-être qu'un jour je recyclerai mes P3 lorsqu'ils ne me serviront plus...


J'ai réussi à faire quelques essais avec pvmpov (version pour cluster de pvm):
En utilisant la commande pvmpov, on peux indiquer le nombre copie du programme que j'éxécute en parallèle :

 

ex :
pvmpov  +I./skyvase.pov +Oskyvase.tga +NT1 +NW64 +NH64 +v +w1024 +h768 -> ici NT1 = 1 copie
pvmpov  +I./skyvase.pov +Oskyvase.tga +NT4 +NW64 +NH64 +v +w1024 +h768 -> ici NT1 = 4 copies

 

Ou skyvase.pov est le nom du fichier de la scène dont je veux faire le rendu (1024*768):
Le gain est assez intéressant: On passe de 133s (1 cpu utilisé) à 40s (4 cpus utilisés).

 

Ce WE, je continuerai mon petit tuto pour expliquer la compilation et l'installation de pvmpov.

 

http://lolobrin.perso.neuf.fr/Photos/bench_povray.jpg


Message édité par lolobrin le 18-06-2009 à 23:25:43
Reply

Marsh Posté le 07-11-2007 à 22:30:20    

Désolé pour le message en double...

Reply

Marsh Posté le 08-11-2007 à 18:10:29    

Tu peux le supprimer normalement, fais "edit" puis y doit y avoir un bouton "effacer le message"

Reply

Marsh Posté le 08-11-2007 à 19:35:10    

PyreOfGods a écrit :

Tu peux le supprimer normalement, fais "edit" puis y doit y avoir un bouton "effacer le message"


 :hello: et merci :jap:

Reply

Marsh Posté le 10-11-2007 à 00:35:52    

Up
 
J'ai rajouté un lien vers un didacticiel sur un benchmark pour cluster pvmpov.
 
Bon WE

Reply

Marsh Posté le 01-12-2007 à 23:40:04    

Up
 
J'ai rajouté un lien sur une page perso présentant une application de calcul numérique sur ma p'tite machine (résolution de l'équation de Fourier dans une plaque)
 
Bon dimanche à tous

Reply

Marsh Posté le 01-12-2007 à 23:49:44    

Fourier :love: pour l'instant je n'en connais que la décomposition en séries éponymes.

Reply

Marsh Posté le 01-12-2007 à 23:54:19    

PyreOfGods a écrit :

Fourier :love: pour l'instant je n'en connais que la décomposition en séries éponymes.


 :hello:  
 
 

Reply

Marsh Posté le 30-04-2008 à 21:45:22    

Up
 
J'ai rajouté un lien présentant une application sur la recherche des nombres premiers sur mon p'tit cluster.
 
Bonne soirée à tous...


Message édité par lolobrin le 30-04-2008 à 21:46:12
Reply

Marsh Posté le 30-10-2009 à 22:37:46    

Méga UP,
 
Mon p'tit cluster est toujours en service (plus pour le fun que pour les performances) et je viens de rajouter dans le premier post un nouveau lien sur la recherche de l'ensemble de Mandelbrot appliqué à ma machine

Reply

Marsh Posté le    

Reply

Sujets relatifs:

Leave a Replay

Make sure you enter the(*)required information where indicate.HTML code is not allowed