Con Camstudio quedan bien, nada más hay que configurarlo. Aunque en realidad a mí me ha funcionado con configuración "vanilla" (default).
Lo único es que al grabar escojas una resolución adecuada, pero siempre preferencia 640x480 (Youtube siempre le hace resize, así que si es poco menos o poco más se deformará).
También al pasar lo grabado al editor, asegurarse de poner "para Youtube".
Por último, está el sonido, que lo único importante es asegurarse de que no estén los controles al máximo. Si lo están, produce mucho ruido molesto. Lo mejor es hacer unas pruebas primero para lograr un volumen adecuado.
Básicamente eso, hacer algunos ajustes primero, y luego darle de lleno al grabar y ser feliz (?), suerte,
Orochii Zouveleki