Primero desinstala el modem y reinicia la maquina, cuando volvas a conectar la USB y te salga un pop-up que te pregunta que queres hacer solo dale que queres abrir la carpeta, luego segui los siguientes pasos:
1 - dale click derecho al instalador y escoge solucionar problemas de compatibilidad,
2 - escoge Probar configuracion recomendada
3 - en la siguiente ventana, vas a ver que dice Configuracion aplicada y te va a decir bajo que configuracion lo va a instalar (usualmente es Windows XP SP2), dale click a Iniciar el programa y espera que lo termine de instalar
4 - cuando se haya terminado de instalar, dale Si, guardar esta configuración para este programa, le das en siguiente hasta que te sale una ventana que dice Se completo la solución de problemas, si a este punto te pregunta la ruta que va a tener el programa, dale click a Examinar y busca el icono del modem en el escritorio
Ahora cada vez que conectes el modem, en vez de darle autorun.exe desde el usb tenes que darle al icono en el escritorio, y esto te deberia resolver el problema.
Saludos.