Musisz się jaśniej określić, jakie usługi na tym linuksie chcesz uruchomić, serwer plików, www, pocztowy, itd. Na pewno trzeba też określić, jak mocny komputer przeznaczasz do pełnienia roli serwera i jak ma wyglądać poziom zabezpieczeń. W googlach jest masę informacji na ten temat. Oto pierwsza z listy:
http://linux.howto.pl/artykuly,linux-20-27-0.html
Jeśli jesteś początkujący, polecam jednak interface graficzny. Z czasem prawdopodobnie będziesz z takiego serwera usuwał wszystkie niepotrzebne usługi i programy (niektóre z nich mogą ujemnie wpływać na poziom bezpieczeństwa).