A situação é difícil, mas nada que não se resolva. Você tem que tirar essa história a limpo de uma vez por todas. Tenha uma conversa franca com ele, sem discussão, agressividade. Faça ele entender que você precisa da verdade para viver sua vida em paz, saber se ele te engana, ou se seu ciúme passou dos limites. Além de controlar seus impulsos (como bater nele), pois isso pode magoar muito uma pessoa, ele tem que te expor a verdade, sem ressentimentos, pois essa relação não está saudável, para que você possa ficar com ele de vez ou ser feliz sem ele.
Obs.: começou mal pq ele ainda estava com ela. Eu me pergunto, se vc se permitiu engatar um namoro com ele enquanto ele ainda estava com a outra, por que ele não faria o mesmo c vc? ( mas aí só vc pode responder).