На компьютере с которого будет осуществляться доступ от пользователя под которым будем подключаться ввести команду
ssh-keygen

Появится директория ~/.ssh/ и в ней два файла id_rsa.pub и id_rsa . Первый файл необходимо копировать на сервера, куда необходимо получить доступ, второй файл не показывайте никому! Содержимое файла id_rsa.pub необходимо добавить в файл ~/.ssh/authorized_keys на удаленном сервере, но можно на клиентской машине ввести команду
ssh-copy-id user@server
и тогда все произойдет автоматически.

Для большей приватности в файле ~/.ssh/authorized_keys можно удалить user@server в конце строки.