Всё делаю от рута.
Готовим сервер (к которому будем подключаться):
задаем пароль пользователю root, этим активируя его:
passwd root
Открываем на редактирование /etc/ssh/sshd_config и раскомментируем строку PermitRootLogin yes
vi /etc/ssh/sshd_config
Рестартуем сервис sshd
systemctl restart sshd
Готовим клиентскую машину. Делаю от пользователя с правами sudo
Создание пары ключей RSA (если не хотим вводить пароль при каждой авторизации по ключу, то не вводим passphrase)
ssh-keygen
ssh-copy-id root@192.168.20.114
где 192.168.20.114 - адрес сервера.
Подключаемся к удаленному серверу, открываем на редактирование /etc/ssh/sshd_config, раскомментируем строку PasswordAuthentication no, чем отключаем авторизацию по паролю:
ssh root@192.168.20.114
vi /etc/ssh/sshd_config
systemctl restart sshd
Всё, теперь мы можем авторизоваться на сервере только с помощью ключа.
Не забываем сделать в безопасном месте резервную копию ключей авторизации.