Mauro,
Na verdade desta maneira que você colocou, não deve estar funcionando como insert, o correto seria no conector p10 TRS o sinal sai da mesa pela ponta (tip), o final que for soldado neste terminal vai na entrada do canal do compressor (in), a saida do compressor (out) deve ser soldada no anel (ring) do P10 TRS e a malha no Sleeve.
Na entrada e saida do compressor acho que ficaria mais facil e mais pratico voce utilizar as conexões p10 mesmo ao invés da XLR, o XLR seria para manter o sinal balanceado, mas no caso de insert o sinal já esta desbalanceado mesmo, qualquer coisa de uma olha no final do manual do compressor, provavelmente deve ter a demonstração de como dever ser o cabo de inster.
Ficou meio confuso mas acho que da pra entender........hehe
se tiver falado besteira o pessoal mais experiente ai do forum pode me corrigir a vontade