느렸는데 .ssh 쪽에 설정을 조금 변경하였습니다.
vi /etc/ssh/sshd_config
UseLogin no
#UsePrivilegeSeparation yes
#PermitUserEnvironment no
#Compression delayed
#ClientAliveInterval 0
#ClientAliveCountMax 3
UseDNS no