X64dbg是一个很好的开源调试器，它是主动维护的。

你需要的是一种叫做“反汇编程序”的软件。

快速谷歌产生这个:链接

我想说，在2019年(甚至在2022年)，Ghidra (https://ghidra-sre.org/)值得一看。它是开源的(免费的)，具有惊人的代码分析能力，包括反编译到相当可读的C代码的能力。

好消息。IDA Pro的旧版本现在是免费的: http://www.hex-rays.com/idapro/idadownfreeware.htm

在汇编中查看它可能会得到一些信息，但我认为最简单的方法是启动虚拟机，看看它做了什么。确保你没有未公开的股份或类似的东西，它可以跳过;)

如果你只是想弄清楚恶意软件在做什么，在像Process Monitor这样的免费工具下运行它可能会更容易，它会在它试图访问文件系统、注册表、端口等时报告…

此外，使用像免费的VMWare服务器这样的虚拟机对这类工作非常有帮助。您可以创建一个“干净”映像，然后每次运行恶意软件时都返回到该映像。