On est bien seuls à s’intéresser au sujet 
alors suite et sans doute fin des tests de programmes et gui :
j’ai enfin réussi à faire fonctionner megui, en changeant l’input du script avisynth de ffdshow à AviSource, c’était tout con, je sais pas pourquoi ca buggait mais c’est contourné.
Alors je confirme que le codec x.264 a un potentiel fantastique !!! à des débits de 500-600 kbps et avec une source de qualité comme 1 dvd-ripp, quelques réglages sympas (cherchez sur les forums des idées, je suis pas encore top au point;), on obtient une image superbe, fluide, bien entendu on note des défauts mais dans l’ensemble c’est très lisse, net, propre, agréable à regarder. Combiné par exemple avec du aac 64kbps stereo vbr par exemple, ca permet de faire tenir des films longs (2h et plus) sur un cd avec un qualité remarquable. Pour les encodages à plus haut bitrate je n’ai pas testé moi-même, mais vu quelques extraits hdtv-rip haute résolution, c très impressionant, rien de comparable aux codecs mpeg-4 classiques (xvid, divx…)
Concernant le realvideo (rmvb), l’abscence d’une gui qui permette de vrais réglages fins m’a découragé. Notamment :
pas de choix de la taille finale,
débits imposés même en bvr
difficulté de trouver des infos sur la question
compatibilité très limitée avec le reste du monde numérique (platines dvd, lecteurs mp4 etc…)
J’ai découvert sur le tard la gui “autoRV10” sympa et efficace, seul avisynth est requis en externe.
télécharger ici : http://benjapi.free.fr/autorv10/downloads/AutoRV10_v1.1.zip
l’aide ‘en anglais’ ici : http://benjapi.free.fr/autorv10/autorv10_guide/AutoRv10.htm
Si il vous réclame des fichiers .ocx ils sont faciles à récupérer et "register" , google vous aidera 
BILAN :
Selon l’utilisation (simple et rapide / poussée et complexe), chacun des outils a sa place :
SUPER
+++ très simple, très efficace // bcp de formats audio et video acceptés en input /divers codecs et encoders en output
— gère mal le mp3 vbr en input / réglages très limités et peu expliqués
VirtualDub
++ accepte l’encodage par ffdshow, reconnaît les codecs VFW et ACM.
– interface austère, limité en output à l’avi et en input pas grand chose en pratique(voir virtualDubMod qui lui supporte ogm)
Reste un outil à avoir sous la main, bcp d’infos et tutoriels dispos…
Megui
++ variété correcte de formats, efficace, outils tous intégrés dans l’install sauf avisynth et les codecs (mais c déjà super comme ca)
– pas vraiment trouvé, sauf pitètre plus de formats encore en input et output et une interface plus friendly, mais bon l’amateur s’y retrouve c’est l’essentiel.
AutoRV10
Vous voulez encoder en rm, ra ou rmvb, depuis un D2v ou avisynth (le dvd-ripp est intégré au prog) après maintes recherches je ne vois pas de meilleur outil gratuit pour ca
après il ne fait rien d’autre 
Sont aussi inclus ds le zip (voir lien plus haut) : Realproducer10, dvd.decrypter et dvd2avi.
Petits conseils à tous ceux qui liront, avant de se prendre la tête des jours parce-que des programmes proposés ne marchent pas chez nous, il y a des tonnes de ptis détails à vérifier, genre :
être certain des codecs (codecs et non filtres comme ffdshow) installés sur votre pc et de leurs réglages si vous les utilisez (en decoder comme en encoder).
scrutez la config de ffdshow si vous l’avez, là aussi en encoder et en decoder, tester rétablir les paramètres par défaut etc…
évitez les noms de fichiers longs ou les caractères bizarres, les chemins de fichier longs (genre fichier à encoder dans plein de sous-dossiers)
Enfin demandez conseil si vos recherches avancées (par example avec google spécifiez l’ancienneté des pages à rechercher, utilisez les opérateurs logiques + et - , les " " etc…) n’aboutissent pas.
Encore merci Silggins pour tes conseils, je retourne à ma vie tranquille, j’ai mes réponses 