パスワード入力なしで、SSH接続する方法は以下の通り。
server01のhogeユーザからserver02のhogeユーザで接続するケースを想定。

server01にて以下の作業をする

1. hogeユーザでserver01へログイン

2. 秘密鍵・公開鍵を作成(すでに作成されている場合は不要)

$ ssh-keygen -t rsa1 -P "" # SSH Version 1
$ ssh-keygen -t rsa -P "" # SSH Version 2 (RSA)
$ ssh-keygen -t dsa -P "" # SSH Version 2 (DSA)

3. 作成された公開鍵をserver02へコピーする
(パスワード入力なしでSSH接続させるユーザのホームディレクトリへのコピーを推奨)
公開鍵はデフォルトで以下のファイル名となっている。

~/.ssh/identity.pub # SSH Version 1
~/.ssh/rsa.pub # SSH Version 2 (RSA)
~/.ssh/dsa.pub # SSH Version 2 (DSA)

server02にて、以下の作業をする
(パスワード入力なしでSSH接続させるユーザのホームディレクトリに公開鍵をコピーしているものとする)

1. hogeユーザでserver02へログイン

2. コピーした公開鍵をファイルに追記する
(コピーした公開鍵は不要になった段階で削除する)

$ cat identity.pub >> ~/.ssh/authorized_keys # SSH Version 1
$ cat rsa.pub >> ~/.ssh/authorized_keys # SSH Version 2 (RSA)
$ cat dsa.pub >> ~/.ssh/authorized_keys # SSH Version 2 (DSA)

3. authorized_keysのパーミッションの変更

$ chmod 600 ~/.ssh/authorized_keys

以上で、server02へパスワードなしでhogeユーザがSSHで接続できる。
server01, server02で逆の手順を踏むことで相互に接続可能となる。

鍵を使ってログインさせるユーザごとに、上記の作業が必要。

### 参考 ###

TERATERMから鍵を使ってserver02へ接続する場合

1. TERATERMのメニュー「設定」→「SSH鍵生成」を選択

2. 鍵の種類とビット数を設定し、「生成」ボタンを押す
(デフォルト値: RSA,2048ビット)

3. 鍵のパスフレーズとパスフレーズの確認に同じ文字列を入力する
(パスフレーズを空欄にしておくと、ユーザ名と秘密鍵のみでログインできる)

4. 「公開鍵の保存」ボタンを押し、公開鍵(id_rsa.pub / RSA鍵の場合)を保存する

5. 「秘密鍵の保存」ボタンを押し、秘密鍵(id_rsa / RSA鍵の場合)を保存する

6. 作成した公開鍵をserver02にコピーする

以降はserver02の手順。