Lo primero que debes tener en cuenta es que para transmitir audio, debes usar un formato qe no requiera licencia, MP3 tiene ciertas (muchas) restricciones y puede llegar a necesitar licencia, OGG (Vorbis) es libre.
En Windows y en Linux te recomiendo Icecast con WinAmp es muy sencillo de instalar.
La norma de conexión para capacidad de usuarios conectados es muy simple:
(Ancho de banda de tu conexión * 0.96) / calidad de transmision)
Ejemplo:
Ancho de banda = 1024 (1 MB)
Calidad de transmision = 96 kbps
Entonces :
Capacidad de usuarios = (1024 / 0.96) * 96 = 10 usuarios.
Para instalar en Windows (Req Minimo), 2 GHZ de velocidad con 2 GB RAM y lo que necesites para poner toda tu musica en Disco Duro.
Para instalar en Linux (Req Medio), 1 GHZ con 1 GB RAM y lo que necesites para poner toda tu musica en Disco Duro.
Para instalar Icecast con Windows te recomiendo :
http://www.duxpoint.com/tutorial_icecast/Icecast.htm
Para instalar Icecast con Linux Ubuntu (Debian) te recomiendo:
http://kikefree.wordpress.com/2011/08/22/instalar-y-configurar-icecast2ices2-en-debianubuntu/

Hola, he encontrado este post en un blog que quizás pueda ayudarte: http://gonzo.teoriza.com/como-hacer-emisora-radio-internet-shoutcast-winamp

winamp junto con los programas necesarios, los puedes encontrar en shoutcast.com