Ca y est j'y suis finalement arrivé !
Vouls l'aurez compris : il est ici hors de question d'utiliser un logiciel tout en un : le but est de pouvoir utiliser x264, d'une part pour toujours avoir la dernière version, et d'autre part pour pouvoir choisir soi même toutes les options que l'on désire.
 
Je vais exposer comment j'ai procédé, si vous trouvez un moyen plus efficace (je pense particulièrement aux scriptes avisynth que je ne maitrise pas du tout) n'hésitez pas à m'en faire part.
 
Voici donc ce que j'ai fait :
J'ai ouvert ma vidéo originale avec VirtualdubMod :
-extraction de l'audio
-redimensionnement de la vidéo en 320x240 et export de la vidéo compressée avec le codec lossless HuffYUV (dans la liste des codecs VFW de FFDshow)
 
Ensuite j'ai réencodé l'audio en AAC LC 128kbps avec ITunes
 
Puis j'ai généré un fichier avisynth en ouvrant la vidéo dans VirtualDubmod et en cochant la case "use avitynth template : DirectShowSource"
J'ai ensuite utilisé ce script (très basique je l'avoue) dans l'encodeur en ligne de commande d'x264 (celui utilisant une GUI, pas x264.exe) voici les paramètres utilisés :
dans l'onglet main
-AVC profile : Baseline Profile
-AVC level : Level 1.3
-Mode ABR
-Bitrate : 700 (kbps)
-Subpixel Refinement : 6-RDO
dans l'onglet advanced
-ME Algo : Exhaustive (je sais j'étais pas obligé ca ralentit beaucoup l'encodage)
dans l'onglet More
Custom Commandline Options : --level 1.3 car la version actuelle de la gui n'ajoute pas la commande (vérifiez en cochant "show Commandline" )
 
tout le reste par défaut
 
Et j'ai lancé l'encodage dans un fichier MP4
 
A la fin j'ai envoyé la vidéo sur l'IPod via ITunes et la vidéo est passée et tourne fluide sur l'IPod.
 
Enfin il reste à "muxer" la vidéo et l'audio, pour ca j'ai utilisé mp4box avec l'interface graphique YAMB
J'ai simplement importé la vidéo directement depuis le fichier mp4 (en spécifiant le framerate car la dernière fois que j'avais essayé il mettait automatiquement 25fps alors que ma vidéo tournait à 30)
et l'audio depuis le fichier m4a que genère ITunes et j'ai lancé le "muxage"
 
Et lorsque j'ai envoyé la vidéo sur l'IPod c'est passé et l'IPod la lit sans problème.
 
Voilà,
Je sais qu'il y a beaucoup d'étapes que j'aurais pu faire d'un coup, je pense en particulier qu'en utilisant des scriptes avisynth j'aurais pu tout faire d'un coup, mais le but était surtout de trouver le paramètre manquand pour qu'ITunes accepte d'envoyer le fichier sur l'IPod (à savoir la commande supplémentaire --level 1.3)