Isso dependerá de fatores como quantidade e tipo de dados que serão armazenados, plugins ativos, e a quantidade de acessos simultâneos. Sugiro que inicie os testes com uma máquina virtual pequena e veja o quanto ela precisará crescer até ficar adequada.
Obrigado pela informação @Diego_Abadan, entrei em contato, a Maria me informou muito bem sobre a empresa, estou repassando o contato e a tabela que ela enviará no email para o Direitor da editora.
Na documentação do OMP no Public Knowledge Project (PKP) não possui nenhuma recomendação específica sobre RAM, CPU, GPU, etc. O OMP deve ser hospedado em um servidor web que atenda aos requisitos de sistema LAMP, assim o PKP recomenda os requisitos para o servidor web em https://pkp.sfu.ca/omp/README. Conforme disse o @Diego_Abadan o OMP pode ser instalado em uma máquina virtual para testes iniciais, para produção dependerá das necessidades de uso.