Ошибка %SSH-3-INV_PUBKEY: Invalid public key format or size генерируется демоном SSH в Cisco IOS при попытке импорта или использования некорректного открытого ключа (Public Key) для аутентификации пользователей.

• Отказ в аутентификации по публичному ключу (Public-key authentication failed).
• Ошибка синтаксиса при выполнении команды ip ssh pubkey-chain.
• Клиентские скрипты автоматизации (Ansible, Netmiko, Python) не могут подключиться без передачи пароля.
• Разрыв SSH-соединения на этапе Key Exchange / User Auth.

1. Проверка текущих настроек SSH и сгенерированных ключей хоста

Убедитесь, что на устройстве сгенерирован RSA-ключ достаточной длины (минимум 2048 бит) и включен протокол SSH v2:

show ip ssh
show crypto key mypubkey rsa

2. Корректный импорт публичного ключа OpenSSH

Cisco IOS требует преобразования стандартной строки ключа OpenSSH в шестнадцатеричный/многострочный формат. Преобразуйте ключ на рабочей станции:

ssh-keygen -e -f ~/.ssh/id_rsa.pub -m RFC4716

3. Конфигурация цепочки ключей (Pubkey Chain) в Cisco IOS

Внесите открытый ключ для конкретного пользователя:

configure terminal
 ip ssh pubkey-chain
  username admin
   key-hash ssh-rsa <HEX_HASH_OR_KEY_STRING>
   ! Либо используйте прямой ввод ключа:
   key-string
    AAAA...[вставьте тело ключа без префикса ssh-rsa]...
    exit
   exit
  exit
 end

4. Включение поддержки современных алгоритмов

На современных версиях IOS-XE убедитесь, что включены безопасные алгоритмы обмена:

configure terminal
 ip ssh version 2
 ip ssh server algorithm publickey ecdsa-sha2-nistp256 rsa-sha2-256 rsa-sha2-512
 end