Multimedia API

FMOD давно не обновляет поддержку трекерских форматов: он ориентируется сейчас на mp3/wma/ogg/... с наворотами, вроде сурраунда, и как раз очень портабелен, но неоправданно дорог.

uFMOD же действительно рассчитан только на трекерский XM, но бесплатен

OpenAL в Windows способен использовать DSound3D, DSound и WINMM в этом же порядке, т.е. совместим практически с любой версией Windows. Линуксовый OpenAL нормально ставится в Debian и RedHat'е но только поверх ALSA и требует ядро 2.6 как минимум... В МакОСе не пробовал. Поддерживаются самые крутые навороты в плане эффектов (EAX, EFX, XRAM). Поставляется с исходниками на С. Есть SDK с неплохими примерами. Документация скудноватая и содержит много ошибок

PortAudio - это вроде кроссплатформенной версии OSS, т.е. кроме audio I/O ничего больше не делает (эффекты не поддерживает).

Это в болшей степени зависит от правильной настройки (частота, размер буфера и т.д.) и реализации приложения.

Что-то не вяжется тут: фасм и win/lin/mac...

Для фасма под win32 у меня есть полный инклуд openal, вместе с либой импорта. Впрочем, всё это можно взять из дистрибутива ufmod в папке Fasm\OpenAL. Все опенальные функции используют сишное соглашение, а не stdcall. Для линукса либа берётся из официального дистрибутива OpenAL, а инклуд уже придётся писать самостоятельно или просто переделать немного виндовый, который из пакета uFMOD.