Pues podrías revisar en los archivos de WP como es que trabaja. Se conecta a la base de datos para obtener la información, entonces en el archivo donde queres incluir los post pones la información de conección a la base de datos de WP (ver wp-config.php) y te revisas los demás archivos, como el "single.php" de un theme y ves que datos obtiene y asi viejo. Otra sería como ya te dijeron buscarte un "interpreté de RSS" y ponerlo en tu sitio o hacer uso de algún servicio de Feedburner, solo que alli te incluiría algo de publicidad de dicho servicio.