我曾经遇到过这个问题，当时我有两个Bitbucket帐户，想要为两个帐户存储单独的SSH密钥。这对我来说很管用。

我创建了两个单独的ssh配置，如下所示。

Host personal.bitbucket.org
    HostName bitbucket.org
    User git
    IdentityFile /Users/username/.ssh/personal
Host work.bitbucket.org
    HostName bitbucket.org
    User git
    IdentityFile /Users/username/.ssh/work

现在当我必须从我的工作帐户克隆一个存储库时，命令如下所示。

git clone git@bitbucket.org:teamname/project.git

我必须修改这个命令:

git clone git@**work**.bitbucket.org:teamname/project.git

同样，从我的个人帐户克隆命令必须修改为

Git克隆git@personal.bitbucket.org:name/personalproject.git

更多信息请参考这个链接。

您可以指示ssh在连接时连续尝试多个键。方法如下:

$ cat ~/.ssh/config
IdentityFile ~/.ssh/id_rsa
IdentityFile ~/.ssh/id_rsa_old
IdentityFile ~/.ssh/id_ed25519
# ... and so on

$ ssh server.example.com -v
....
debug1: Next authentication method: publickey
debug1: Trying private key: /home/example/.ssh/id_rsa
debug1: read PEM private key done: type RSA
debug1: Authentications that can continue: publickey
debug1: Trying private key: /home/example/.ssh/id_rsa_old
debug1: read PEM private key done: type RSA
....
[server ~]$

这样就不必指定哪个密钥适用于哪个服务器。它会使用第一个工作键。

此外，只有当给定的服务器愿意接受密钥时，您才可以输入密码短语。如上所述，ssh不会尝试询问.ssh/id_rsa的密码，即使它有密码。

当然，它不会像其他答案那样胜过每个服务器的配置，但至少您不必为您连接的所有服务器和每个服务器添加配置!

ssh-add ~/.ssh/xxx_id_rsa

请确保在添加之前进行测试:

ssh -i ~/.ssh/xxx_id_rsa username@example.com

如果你有任何错误的问题，有时改变文件的安全性有助于:

chmod 0600 ~/.ssh/xxx_id_rsa

对我来说，在MacOs上，唯一可行的解决方案就是在文件~/.ssh/config中添加这个:

Host *
  IdentityFile ~/.ssh/your_ssh_key
  IdentityFile ~/.ssh/your_ssh_key2
  IdentityFile ~/.ssh/your_ssh_key3
  AddKeysToAgent yes

Your_ssh_key没有任何扩展名。不要使用.pub。

Randal Schwartz的回答几乎帮助了我。 我在服务器上有一个不同的用户名，所以我必须在我的文件中添加User关键字:

Host           friendly-name
HostName       long.and.cumbersome.server.name
IdentityFile   ~/.ssh/private_ssh_file
User           username-on-remote-machine

现在你可以使用friendly-name进行连接:

ssh friendly-name

更多关键字可以在OpenSSH手册页上找到。注意:列出的一些关键字可能已经出现在/etc/ssh/ssh_config文件中。

您可以尝试这个sshmulti npm包来维护多个SSH密钥。