Para instalar os componentes do VisaNet em um Servidor Windows com o IIS 7.5 é preciso primeiro habilitar a Execução de CGI

Para isso acesse o IIS Manager, no painel raiz (não dentro de um site, nas opções gerais do servidor)
E procure a opção "ISAPI and CGI Restrictions"

Abra a opção e clique no painel lateral a opção "Edit Feature Settings..."
E habilite a primeira opção "Allow unspecified CGI modules"

Isto irá permitir a execução de qualquer CGI, em qualquer site que tenha a opção ativa.

Então agora é só habilitar a execução no site específico em questão.

Abra o site que aponte para o diretório do VisaNet e procure pela opção "Handler Mappings"

Na lateral esquerda, clique em "Edit Feature Permissions..."
Em seguida habilite a execução clicando em "Execute"

O mesmo vale para qualquer aplicativo CGI (executável)