Ambos. Simplemente son más o menos flexibles en diferentes formas.
Por ejemplo, macOS está restringido a hardware sólo especificado por Apple. De hecho es ilegal instalarlo en hardware que no hayas comprado a Apple. Mientras que Windows se puede instalar en casi cualquier cosa, definitivamente todas las máquinas basadas en x86 pueden ejecutar alguna versión de Windows. Incluso hay algunas variantes de Windows capaces de ejecutarse en máquinas no x86 como ARM. en ese caso sólo iOS funciona en ARM, no macOS.
Pero desde el otro lado, porque macOS deriva gran parte de su base del derivado Unix BSD, hay muchas herramientas y características del mundo Unix que es posible utilizar en macOS. Por ejemplo, ¿quieres un sistema de archivos mejor que el HFS+ por defecto? Claro, ¿por qué no instalar algo como ZFS en su lugar? Intenta reemplazar el NTFS por defecto de Windows por un BTRFS más capaz y robusto y no tendrás ninguna suerte.
Desgraciadamente, esto va en ambos sentidos cuando se trata de programas. Algunas cosas sólo funcionan en macOS y otras sólo en Windows. En algunos casos en los que encuentras un programa capaz de funcionar en ambos, puede funcionar mejor en mac que en win, o visa-versa.
Sin embargo, en mi experiencia, ninguno de esos dos es tan flexible como casi cualquier tipo de derivado de Linux. Tanto el hardware como el software, así como las herramientas y los sistemas son completamente sin restricciones en esos sistemas operativos.