Tu as fais une recherche sur Google ? ;)
Il n'y a rien de bien mystérieux dans ton affaire. Les commandes Hayes de ton modem-fax sont des séquences d'octets. Quand l'appareil les reçoit, il agit en conséquence: décroche, envoi un fax etc... Ces commandes Hayes sont documentées avec ton appareil en principe.
Attention, il y a plusieurs niveaux de commandes Hayes, et normalement tu dois basculer (via des commandes Hayes à nouveau) au niveau d'envoi de fax qui n'est pas en principe le niveau par défaut. Mais là aussi la doc du zinzin te dira ce qu'il en est.

Quand l'appareil travaille, il envoie lui aussi des octets. Par exemple la séquence 'O' 'K' '\r' pour dire que tout est OK. Ton application DOIT lire ces octets.

Comme tu le sais déjà puisque tu parles de javax.comm les octets en question sont lus/écrits sur le port série du PC.
Donc avec ton appli tu envoies la séquence de commandes Hayes "qu'il faut" et le zinzin t'envoie ton fax.