Es muy simple ^^
Tienes que poner solamente lo que hay despues del v=. Por ejemplo:
http://www.youtube.com/watch?v=eqzAJSKY2Ng" onclick="window.open(this.href);return false;
De ahí cogemos solamente el "eqzAJSKY2Ng"
Y quedaría así en el mensaje para enviar:
[youtube]eqzAJSKY2Ng[ /youtube]
espero te haya servido ^^