Un archivo DMG contiene esencialmente un sistema de archivos al estilo de Mac, con bifurcaciones de recursos, atributos extendidos y otros contenidos al estilo de Mac intactos para que, cuando lo abra, el SO no tenga que extraer los archivos en ningún sitio primero y para que el Finder pueda mostrar los iconos correctos y para que la compleja estructura interna de las aplicaciones de macOS pueda permanecer correctamente oculta.
Algunas otras respuestas confunden los archivos DMG con los archivos PKG. Los archivos PKG son archivos que contienen un instalador, algo así como un archivo .deb o .rpm de Linux. Con un archivo DMG, generalmente lo abres como lo harías con cualquier carpeta (o más bien como una unidad USB) y ves una aplicación que puedes ejecutar directamente desde la «carpeta» que aparece, o puedes arrastrarla a tu carpeta de Aplicaciones, o realmente a cualquier lugar de tu unidad interna. Normalmente, los archivos DMG que contienen aplicaciones incluyen un archivo de alias a la carpeta de Aplicaciones, por lo que se puede arrastrar simplemente a la derecha para instalarla de forma normal.
Los archivos ZIP podrían utilizarse para distribuir aplicaciones, pero el resultado sería más confuso para muchos usuarios, ya que al abrir un archivo ZIP simplemente se extrae su contenido al directorio actual (haciendo otra copia) que luego tendrías que buscar en el Finder y arrastrar a algún lugar tú mismo.
Apple podría haber aprovechado simplemente el formato ZIP, pero decidió no hacerlo. Apple generalmente hace sus cosas a su manera debido a su propia historia separada. Lo cual está bien. Hay beneficios en el modelo que utiliza, y aunque esos beneficios podrían haber sido construidos de manera diferente utilizando mecanismos más comunes, a veces las cosas simplemente son lo que son.