维基百科上说

当需要对二进制数据进行编码时,通常使用Base64编码方案,这些数据需要通过设计用于处理文本数据的媒体存储和传输。这是为了确保数据在传输过程中保持完整而不被修改。

但是,数据不总是以二进制存储/传输吗?因为我们机器的内存存储二进制,这只是取决于你如何解释它?因此,无论您将位模式010011010110000101101110编码为ASCII中的Man还是Base64中的TWFu,最终都将存储相同的位模式。

如果最终的编码是用0和1表示的,并且每台机器和媒体都可以处理它们,那么数据是用ASCII还是Base64表示有什么关系呢?

“设计用于处理文本数据的媒体”是什么意思?他们可以处理二进制=>他们可以处理任何东西。


谢谢大家,我想我现在明白了。

当我们发送数据时,我们不能确定数据将以与我们预期的相同格式进行解释。因此,我们发送以双方都能理解的某种格式(如Base64)编码的数据。这样,即使发送方和接收方对相同内容的解释不同,但由于他们对编码格式达成一致,数据也不会被错误地解释。

来自Mark Byers的例子

如果我想发送

Hello
world!

一种方法是用ASCII码发送

72 101 108 108 111 10 119 111 114 108 100 33

但是字节10在另一端可能不能被正确地解释为换行符。因此,我们使用ASCII的一个子集来像这样编码

83 71 86 115 98 71 56 115 67 110 100 118 99 109 120 107 73 61 61

以传输相同数量信息的更多数据为代价,确保接收者能够以预期的方式解码数据,即使接收者对其余字符集有不同的解释。


当前回答

下面是我看了别人贴出来的东西后的理解总结:

重要!

Base64编码并不意味着提供安全性

Base64编码不是用来压缩数据的

为什么使用Base64

Base64是数据的文本表示形式,仅由64个字母数字字符(小写和大写)、+、/和=组成。 这64个字符被认为是“安全的”,也就是说,与<、> \n和许多其他字符不同,它们不会被传统计算机和程序误解。

什么时候Base64有用

我发现base64在以文本形式传输文件时非常有用。获取文件的字节并将它们编码为base64,传输base64字符串,从接收端执行相反的操作。

这与在电子邮件期间通过SMTP发送附件时使用的过程相同。

如何执行base64编码/解码

从base64文本到字节的转换称为解码。 从字节到base64文本的转换称为编码。这与其他编码/解码的命名方式略有不同。

Dotnet 和 Powershell

微软的Dotnet框架支持将字节编码和解码到base64。在mscorlib库中查找Convert名称空间。

下面是你可以使用的powershell命令:

// Base64 encode PowerShell 
// See: https://adsecurity.org/?p=478
$Text='This is my nice cool text'
$Bytes = [System.Text.Encoding]::Unicode.GetBytes($Text)
$EncodedText = [Convert]::ToBase64String($Bytes)
$EncodedText


// Convert from base64 to plain text 
[System.Text.Encoding]::Unicode.GetString([Convert]::FromBase64String('VABoAGkAcwAgAGkAcwAgAG0AeQAgAG4AaQBjAGUAIABjAG8AbwBsACAAdABlAHgAdAA='))
Output>This is my nice cool text 

Bash有一个内置的base64编码/解码命令。你可以这样使用它:

编码到base64:

echo 'hello' | base64

解码base64编码的文本为普通文本:

echo 'aGVsbG8K' | base64 -d

Node.js也支持base64。下面是一个你可以使用的类:


/**
 * Attachment class.
 * Converts base64 string to file and file to base64 string
 * Converting a Buffer to a string is known as decoding.
 * Converting a string to a Buffer is known as encoding.
 * See: https://nodejs.org/api/buffer.html
 * 
 * For binary to text, the naming convention is reversed.
 * Converting Buffer to string is encoding.
 * Converting string to Buffer is decoding.
 *  
 */
class Attachment {
    constructor(){

    }

    /**
     * 
     * @param {string} base64Str 
     * @returns {Buffer} file buffer
     */
    static base64ToBuffer(base64Str) {
        const fileBuffer = Buffer.from(base64Str, 'base64');
        // console.log(fileBuffer)
        return fileBuffer;
    }

    /**
     * 
     * @param {Buffer} fileBuffer 
     * @returns { string } base64 encoded content
     */
    static bufferToBase64(fileBuffer) {
        const base64Encoded = fileBuffer.toString('base64')
        // console.log(base64Encoded)
        return base64Encoded
    }
}

你会得到这样的文件缓冲区:

  const fileBuffer = fs.readFileSync(path);

或像这样:

const buf = Buffer.from('hey there');

你也可以使用API为你做编码和编码,这里有一个:

要进行编码,需要传入纯文本作为主体。

文章https://mk34rgwhnf.execute - api.ap -南- 1. - amazonaws.com/base64编码

要解码,传入base64字符串作为主体。

文章https://mk34rgwhnf.execute - api.ap -南- 1. - amazonaws.com/base64解码

幻想的例子,当你可能需要base64

这里是一个牵强附会的场景,您可能需要使用base64。

假设你是一名间谍,你的任务是复制并拿回一张有价值的照片,带回你国家的情报机构。

这张照片是在一台不能上网也没有打印机的电脑上拍摄的。你手里只有一支笔和一张纸。没有闪盘,没有CD等等。你会怎么做?

你的第一个选择是把图片转换成二进制的1和0,把这些1和0一个一个地复制到纸上,然后跑过去。

然而,这可能是一个挑战,因为只使用1和0作为字母表来表示一张图片会导致很多1和0。你的纸太小了,你没有时间。另外,1和0越多,出错的几率就越大。

第二个选择是使用十六进制而不是二进制。十六进制允许16个而不是2个可能的字符,所以你有一个更宽的字母表,因此更少的纸张和时间所需。

更好的选择是将图片转换为base64,并利用另一个更大的字符集来表示数据。更少的纸和更少的时间来完成。好了!

其他回答

为文本数据设计的媒体当然最终也是二进制的,但是文本媒体通常使用某些二进制值作为控制字符。此外,文本媒体可能会拒绝某些二进制值作为非文本。

Base64编码将二进制数据编码为只能在文本媒体中解释为文本的值,并且不包含任何特殊字符和/或控制字符,因此数据也可以在文本媒体中保存。

您的第一个错误是认为ASCII编码和Base64编码是可互换的。事实并非如此。它们有不同的用途。

当您用ASCII编码文本时,您从文本字符串开始,并将其转换为字节序列。 在Base64中编码数据时,从一个字节序列开始,并将其转换为文本字符串。

为了理解为什么Base64首先是必要的,我们需要一点计算的历史。


计算机以二进制(0和1)进行通信,但人们通常希望使用更丰富的表单数据(如文本或图像)进行通信。为了在计算机之间传输这些数据,首先必须将其编码为0和1,然后发送,然后再次解码。以文本为例,有许多不同的方法来执行这种编码。如果我们都能同意一种编码,那就简单多了,但遗憾的是,事实并非如此。

Originally a lot of different encodings were created (e.g. Baudot code) which used a different number of bits per character until eventually ASCII became a standard with 7 bits per character. However most computers store binary data in bytes consisting of 8 bits each so ASCII is unsuitable for tranferring this type of data. Some systems would even wipe the most significant bit. Furthermore the difference in line ending encodings across systems mean that the ASCII character 10 and 13 were also sometimes modified.

为了解决这些问题,引入了Base64编码。这允许您将任意字节编码为已知可以安全发送而不会被损坏的字节(ASCII字母数字字符和一对符号)。缺点是使用Base64编码消息会增加它的长度——每3个字节的数据被编码为4个ASCII字符。

为了可靠地发送文本,您可以首先使用您选择的文本编码(例如UTF-8)将其编码为字节,然后使用Base64将结果二进制数据编码为可以安全地以ASCII编码发送的文本字符串。接收方将不得不反转此过程以恢复原始消息。当然,这需要接收方知道使用了哪些编码,而这些信息通常需要单独发送。

历史上,它被用于编码电子邮件消息中的二进制数据,其中电子邮件服务器可能修改行结束符。一个更现代的例子是使用Base64编码直接在HTML源代码中嵌入图像数据。这里需要对数据进行编码,以避免'<'和'>'这样的字符被解释为标记。


下面是一个工作示例:

我想发一条短信,两行字:

Hello
world!

如果我把它作为ASCII(或UTF-8)发送,它会像这样:

72 101 108 108 111 10 119 111 114 108 100 33

字节10在某些系统中被损坏,因此我们可以将这些字节以Base64编码为Base64字符串:

SGVsbG8Kd29ybGQh

当使用ASCII编码时,看起来是这样的:

83 71 86 115 98 71 56 75 100 50 57 121 98 71 81 104

这里的所有字节都是已知的安全字节,因此任何系统破坏此消息的可能性很小。我可以发送这个而不是我的原始消息,并让接收者反向处理以恢复原始消息。

“媒体是”是什么意思 设计用于处理文本数据”?

这些协议被设计用来处理文本(通常只有英文文本),而不是二进制数据(如.png和.jpg图像)。

他们可以处理二进制=>他们可以 处理任何事情。

但反过来就不对了。为表示文本而设计的协议可能不恰当地处理恰好包含以下内容的二进制数据:

字节0x0A和0x0D,用于行结束,因平台而异。 其他控制字符,如0x00 (NULL = C字符串结束符),0x03(文本结束),0x04(传输结束),或0x1A (DOS文件结束),可能过早地表示数据结束。 大于0x7F的字节(如果协议是为ASCII设计的)。 无效的UTF-8字节序列。

所以你不能仅仅通过基于文本的协议发送二进制数据。您只能使用表示非空格非控制ASCII字符的字节,其中有94个。选择64进制的原因是,它可以更快地计算2的幂,而64是最大的。

但有一个问题。这是怎么回事 系统仍然没有达成共识 像这样的编码技术很常见 utf - 8 ?

至少在网络上,他们大多是这样做的。大多数站点使用UTF-8。

在西方的问题是,有很多旧的软件,1字节= 1个字符,不能与UTF-8工作。

东方的问题在于他们对GB2312和Shift_JIS等编码的依赖。

事实上,微软似乎仍然没有从选择错误的UTF编码中恢复过来。如果您想使用Windows API或Microsoft C运行时库,则只能使用UTF-16或区域设置的“ANSI”编码。这使得使用UTF-8非常痛苦,因为您必须一直进行转换。

除了其他(有点冗长)的答案:即使忽略只支持7位ASCII的旧系统,在文本模式下提供二进制数据的基本问题是:

换行符通常以文本模式进行转换。 必须注意不要将NUL字节作为文本字符串的结尾,这在任何带有C血统的程序中都很容易做到。

而不是转义特殊字符

我将给您一个非常不同但真实的例子:我编写javascript代码以在浏览器中运行。HTML标记有ID值,但是在ID中哪些字符有效是有限制的。

但是我希望我的ID无损地引用文件系统中的文件。现实中的文件中可以有各种各样奇怪而奇妙的字符,从感叹号、重音字符、波浪号,甚至是表情符号!我不能这样做:

<div id="/path/to/my_strangely_named_file!@().jpg">
    <img src="http://myserver.com/path/to/my_strangely_named_file!@().jpg">
    Here's a pic I took in Moscow.
</div>

假设我想运行这样的代码:

# ERROR
document.getElementById("/path/to/my_strangely_named_file!@().jpg");

我认为这段代码在执行时会失败。

使用Base64,我可以引用一些复杂的东西,而不用担心哪种语言允许哪些特殊字符以及哪些需要转义:

document.getElementById("18GerPD8fY4iTbNpC9hHNXNHyrDMampPLA");

与使用MD5或其他哈希函数不同,您可以反向编码以找出真正有用的数据。

我希望我64年前就知道Base64。如果使用' encodeURIComponent '和str.replace(' \n ', ' \\n '),我就不会把我的头发扯掉了。

SSH传输文本:

如果你试图通过ssh传递复杂的数据(例如,一个dotfile,这样你就可以得到你的shell个性化),在没有base64的情况下,祝你好运。这是你用64进制来做的(我知道你可以使用SCP,但这需要多个命令-这使得ssh到服务器的键绑定复杂化):

https://superuser.com/a/1376076/114723