在Linux系统中设置互信时出现错误可能有多种原因，您可以尝试以下方法进行排查：
检查SSH服务是否正常运行：确保SSH服务已经启动并且正常运行，可以使用命令sudo systemctl status ssh查看服务状态。
检查SSH配置文件：确认/etc/ssh/sshd_config文件中是否正确配置了PubkeyAuthentication和AuthorizedKeysFile参数。
检查密钥文件和权限：确保~/.ssh/authorized_keys文件和密钥文件的权限正确，一般应该为600或644，可以使用命令ls -l ~/.ssh查看权限。
检查用户目录权限：确保用户目录的权限正确，一般应该为700或755，可以使用命令ls -ld ~查看权限。
检查日志文件：查看系统日志文件/var/log/auth.log或/var/log/secure中是否有相关的错误信息。
使用ssh -v命令：在连接时可以添加-v参数查看详细的连接过程，以便找到具体的错误信息。
以上是一些常见的排查方法，如果仍然无法解决问题，建议查阅更多相关文档或向社区寻求帮助。
