A dire vrai je ne comprends pas vraiment ta question...
Ton VCI-300 possède sa propre carte son, je ne vois pas pourquoi tu cherches à sortir le son sur ton Mac?
Tu peux mixer tout en t'enregistrant dans Itch mais perso je ne suis pas partisans d'utiliser la Webcam du mac pour filmer tes scratchs... Mieux vaut laisser toutes les ressources du mac pour Itch et encore plus si tu as aussi un VFX1.
Pour sortir du son, il faut brancher ton VCI sur un ampli ou sur des enceintes actives, même des petites enceintes amplifiées de pc feront l'affaire.
Pour filmer, c'est effectivement mieux de ne pas utiliser ta webcam et itch en même temps comme le dit Hemjay, maintenant c'est possible de filmer avec des petits appareils photos numériques et si c'est pour mettre sur youtube la résolution est suffisante