Hola Beyta82,
Vamos a ver si podemos ayudarte.
Prueba a hacer lo siguiente:
1.-Ejecuta el archivo
configtool.bat que suele estar en la siguiente localización:
C:\usr\sap\J2E\JC00\j2ee\configtool
2.-Debajo de "cluster-data" ve a
Instance_IDxxxx (algo como eso)
En RHS, verás tres pestañas
a) Message Server and Bootstrap
b) Servers General
c) Servers debug
Vete a la pestaña "Servers General" y en "Java Parameters", cambia las propiedades
-Xms1024M -Xmx1024M a -Xms512M y -Xmx512M respectivamente.
Reintenta la instalación.
Esperemos que funcione. Comentanos.
Un saludo
.