Servidor OS es típicamente un software de sistema operativo tradicional que es afinado o personalizado para actuar como un servidor
Incluso eso confunde así que vamos a tomar un ejemplo
Si usted es un tipo de ventanas esta es la diferencia
Windows 7 - sistema operativo normal
Windows server 2007 - una versión de windows 7 afinado para actuar como un servidor, tiene algunas herramientas adicionales como el administrador de servidores, etc.
De manera similar para linux
CENT OS - distribución opensource del sistema operativo linux
RHEL - red hat enterprise linux , igual que cent os pero optimizado y con algunas funciones adicionales que ayudan a utilizarlo como servidor
Software de servidor
El software de servidor por otro lado es el que permite a este sistema operativo actuar como servidor
Examples
Web server softwares
Apache
Nginix
Weblogic
App server softwares
Tomcat
Jboss
Cassandra
DB server softwares
Mongodb
Oracledb
Just have classified web,app,db servers for understanding there are many more types like email server softwares and all
You can install web, app, db any combination on a single machine with a single server OS
Depending on the requests and patterns it receives it can act as web, app , db or any other server
Hope this clarifies your doubts .