我也有同样的问题，下面的步骤对我有效，

->heroku login

abc@gmail.com密码（&P）

->cd C:\Users\yourusername\.ssh    (OR for cygwin shell ->cd ~/.ssh)

->ssh密钥生成-t rsa-f id_rsa

如果询问任何密码，请不要使用空白，填写密码，但不要忘记。

生成密钥后，您需要添加它，如下所示

$ ssh-add

给heroku

->heroku keys:add "id_rsa.pub"

将目录更改为工作区，然后

->git clone git@heroku.com:stark-dawn-1234.git -o heroku

使用上面设置的密码短语。

实际上，我也删除了下面的文件，但不确定它们是imp，

C： \Users\yourusername.heroku\credientals和C:\Users\yourusername.ssh\known_hosts

我也有这个问题。我正在使用Mac OSX。我解决的方法是以管理员身份登录

获取权限暗语

我也有同样的问题，下面的步骤对我有效，

->heroku login

abc@gmail.com密码（&P）

->cd C:\Users\yourusername\.ssh    (OR for cygwin shell ->cd ~/.ssh)

->ssh密钥生成-t rsa-f id_rsa

如果询问任何密码，请不要使用空白，填写密码，但不要忘记。

生成密钥后，您需要添加它，如下所示

$ ssh-add

给heroku

->heroku keys:add "id_rsa.pub"

将目录更改为工作区，然后

->git clone git@heroku.com:stark-dawn-1234.git -o heroku

使用上面设置的密码短语。

实际上，我也删除了下面的文件，但不确定它们是imp，

C： \Users\yourusername.heroku\credientals和C:\Users\yourusername.ssh\known_hosts

您必须将公钥上传到Heroku：

heroku keys:add ~/.ssh/id_rsa.pub

如果您没有公钥，Heroku将提示您自动添加一个，这可以无缝工作。只需使用：

heroku keys:add

要清除所有以前的关键点，请执行以下操作：

heroku keys:clear

要显示所有现有密钥，请执行以下操作：

heroku keys

编辑：

上面的内容似乎对我不起作用。我在HOME环境变量上搞砸了，所以SSH在错误的目录中搜索密钥。

要确保SSH检查正确目录中的密钥，请执行以下操作：

ssh -vT git@heroku.com

将显示以下（示例）行

OpenSSH_4.6p1, OpenSSL 0.9.8e 23 Feb 2007
debug1: Connecting to heroku.com [50.19.85.156] port 22.
debug1: Connection established.
debug1: identity file /c/Wrong/Directory/.ssh/identity type -1
debug1: identity file /c/Wrong/Directory/.ssh/id_rsa type -1
debug1: identity file /c/Wrong/Directory/.ssh/id_dsa type -1
debug1: Remote protocol version 2.0, remote software version Twisted
debug1: no match: Twisted
debug1: Enabling compatibility mode for protocol 2.0
debug1: Local version string SSH-2.0-OpenSSH_4.6
debug1: SSH2_MSG_KEXINIT sent
debug1: SSH2_MSG_KEXINIT received
debug1: kex: server->client aes128-cbc hmac-md5 none
debug1: kex: client->server aes128-cbc hmac-md5 none
debug1: sending SSH2_MSG_KEXDH_INIT
debug1: expecting SSH2_MSG_KEXDH_REPLY
debug1: Host 'heroku.com' is known and matches the RSA host key.
debug1: Found key in /c/Wrong/Directory/.ssh/known_hosts:1
debug1: ssh_rsa_verify: signature correct
debug1: SSH2_MSG_NEWKEYS sent
debug1: expecting SSH2_MSG_NEWKEYS
debug1: SSH2_MSG_NEWKEYS received
debug1: SSH2_MSG_SERVICE_REQUEST sent
debug1: SSH2_MSG_SERVICE_ACCEPT received
debug1: Authentications that can continue: publickey
debug1: Next authentication method: publickey
debug1: Trying private key: /c/Wrong/Directory/.ssh/identity
debug1: Trying private key: /c/Wrong/Directory/.ssh/id_rsa
debug1: Trying private key: /c/Wrong/Directory/.ssh/id_dsa
debug1: No more authentication methods to try.

权限被拒绝（公钥）。

从上面的内容中，您可以观察到ssh在/c/Virn/Directory/.ssh目录中查找密钥，而不是我们刚才添加到heroku的公钥所在的位置（使用heroku密钥：add~/.ssh/id_rsa.pub）（请注意，在windows操作系统中~指的是HOME路径，在win 7/8中是c:\Users\UserName）

要查看当前主目录，请执行以下操作：echo$home或echo%home%（Windows）

要正确设置HOME目录（正确地说，我指的是.ssh目录的父目录，以便ssh可以在正确的目录中查找密钥），请参考以下链接：

SO回答如何永久设置Unix环境变量所以关于ssh在错误目录中查找密钥的问题和解决方案。

尝试修复磁盘实用程序（Mac OS X）中的权限。帮助了我

如果要使用“sudo”，例如：

sudo git clone git@heroku.com......... -o heroku

您还应该为root用户生成ssh密钥。

sudo su
cd /root/.ssh  
ssh-keygen -t rsa
....
heroku keys:add id_rsa.pub

它会奏效的。

如果不使用root用户，请在用户目录中生成ssh密钥。

cd /home/user/.ssh

对不起，如果我的句子搞砸了。。。