面試官：你能聊聊string和[]byte的轉(zhuǎn)換嗎？
前言
為什么會有今天這篇文章呢？前天在一個(gè)群里看到了一份
Go語言面試的八股文，其中有一道題就是"字符串轉(zhuǎn)成byte數(shù)組，會發(fā)生內(nèi)存拷貝嗎？"；這道題挺有意思的，本質(zhì)就是在問你string和[]byte的轉(zhuǎn)換原理，考驗(yàn)?zāi)愕幕竟Φ?。今天我們就來好好的探討一下兩者之間的轉(zhuǎn)換方式。
byte類型
我們看一下官方對byte的定義：
// byte is an alias for uint8 and is equivalent to uint8 in all ways. It is
// used, by convention, to distinguish byte values from 8-bit unsigned
// integer values.
type byte = uint8
我們可以看到byte就是uint8的別名，它是用來區(qū)分字節(jié)值和8位無符號整數(shù)值。
其實(shí)可以把byte當(dāng)作一個(gè)ASCII碼的一個(gè)字符。
示例：
var ch byte = 65
var ch byte = '\x41'
var ch byte = 'A'
[]byte類型
[]byte就是一個(gè)byte類型的切片，切片本質(zhì)也是一個(gè)結(jié)構(gòu)體，定義如下：
// src/runtime/slice.go
type slice struct {
array unsafe.Pointer
len int
cap int
}
這里簡單說明一下這幾個(gè)字段，array代表底層數(shù)組的指針，len代表切片長度，cap代表容量?？匆粋€(gè)簡單示例：
func main() {
sl := make([]byte,0,2)
sl = append(sl, 'A')
sl = append(sl,'B')
fmt.Println(sl)
}
根據(jù)這個(gè)例子我們可以畫一個(gè)圖：
string類型
先來看一下string的官方定義：
// string is the set of all strings of 8-bit bytes, conventionally but not
// necessarily representing UTF-8-encoded text. A string may be empty, but
// not nil. Values of string type are immutable.
type string string
string是一個(gè)8位字節(jié)的集合，通常但不一定代表UTF-8編碼的文本。string可以為空，但是不能為nil。string的值是不能改變的。
看一個(gè)簡單的例子：
func main() {
str := "asong"
fmt.Println(str)
}
string類型本質(zhì)也是一個(gè)結(jié)構(gòu)體，定義如下：
type stringStruct struct {
str unsafe.Pointer
len int
}
stringStruct和slice還是很相似的，str指針指向的是某個(gè)數(shù)組的首地址，len代表的就是數(shù)組長度。怎么和slice這么相似，底層指向的也是數(shù)組，是什么數(shù)組呢？我們看看他在實(shí)例化時(shí)調(diào)用的方法：
//go:nosplit
func gostringnocopy(str *byte) string {
ss := stringStruct{str: unsafe.Pointer(str), len: findnull(str)}
s := *(*string)(unsafe.Pointer(&ss))
return s
}
入?yún)⑹且粋€(gè)byte類型的指針，從這我們可以看出string類型底層是一個(gè)byte類型的數(shù)組，所以我們可以畫出這樣一個(gè)圖片：
string和[]byte有什么區(qū)別
上面我們一起分析了string類型，其實(shí)他底層本質(zhì)就是一個(gè)byte類型的數(shù)組，那么問題就來了，string類型為什么還要在數(shù)組的基礎(chǔ)上再進(jìn)行一次封裝呢？
這是因?yàn)樵?code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;color: rgb(239, 112, 96);">Go語言中string類型被設(shè)計(jì)為不可變的，不僅是在Go語言，其他語言中string類型也是被設(shè)計(jì)為不可變的，這樣的好處就是：在并發(fā)場景下，我們可以在不加鎖的控制下，多次使用同一字符串，在保證高效共享的情況下而不用擔(dān)心安全問題。
string類型雖然是不能更改的，但是可以被替換，因?yàn)?code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;color: rgb(239, 112, 96);">stringStruct中的str指針是可以改變的，只是指針指向的內(nèi)容是不可以改變的?？磦€(gè)例子：
func main() {
str := "song"
fmt.Printf("%p\n",[]byte(str))
str = "asong"
fmt.Printf("%p\n",[]byte(str))
}
// 運(yùn)行結(jié)果
0xc00001a090
0xc00001a098
我們可以看出來，指針指向的位置發(fā)生了變化，也就說每一個(gè)更改字符串，就需要重新分配一次內(nèi)存，之前分配的空間會被gc回收。
string和[]byte標(biāo)準(zhǔn)轉(zhuǎn)換
Go語言中提供了標(biāo)準(zhǔn)方式對string和[]byte進(jìn)行轉(zhuǎn)換，先看一個(gè)例子：
func main() {
str := "asong"
by := []byte(str)
str1 := string(by)
fmt.Println(str1)
}
標(biāo)準(zhǔn)轉(zhuǎn)換用起來還是比較簡單的，那你知道他們內(nèi)部是怎樣實(shí)現(xiàn)轉(zhuǎn)換的嗎？我們來分析一下：
string類型轉(zhuǎn)換到[]byte類型
我們對上面的代碼執(zhí)行如下指令go tool compile -N -l -S ./string_to_byte/string.go，可以看到調(diào)用的是runtime.stringtoslicebyte：
// runtime/string.go go 1.15.7
const tmpStringBufSize = 32
type tmpBuf [tmpStringBufSize]byte
func stringtoslicebyte(buf *tmpBuf, s string) []byte {
var b []byte
if buf != nil && len(s) <= len(buf) {
*buf = tmpBuf{}
b = buf[:len(s)]
} else {
b = rawbyteslice(len(s))
}
copy(b, s)
return b
}
// rawbyteslice allocates a new byte slice. The byte slice is not zeroed.
func rawbyteslice(size int) (b []byte) {
cap := roundupsize(uintptr(size))
p := mallocgc(cap, nil, false)
if cap != uintptr(size) {
memclrNoHeapPointers(add(p, uintptr(size)), cap-uintptr(size))
}
*(*slice)(unsafe.Pointer(&b)) = slice{p, size, int(cap)}
return
}
這里分了兩種狀況，通過字符串長度來決定是否需要重新分配一塊內(nèi)存。也就是說預(yù)先定義了一個(gè)長度為32的數(shù)組，字符串的長度超過了這個(gè)數(shù)組的長度，就說明[]byte不夠用了，需要重新分配一塊內(nèi)存了。這也算是一種優(yōu)化吧，32是閾值，只有超過32才會進(jìn)行內(nèi)存分配。
最后我們會通過調(diào)用copy方法實(shí)現(xiàn)string到[]byte的拷貝，具體實(shí)現(xiàn)在src/runtime/slice.go中的slicestringcopy方法，這里就不貼這段代碼了，這段代碼的核心思路就是：將string的底層數(shù)組從頭部復(fù)制n個(gè)到[]byte對應(yīng)的底層數(shù)組中去
[]byte類型轉(zhuǎn)換到string類型
[]byte類型轉(zhuǎn)換到string類型本質(zhì)調(diào)用的就是runtime.slicebytetostring：
// 以下無關(guān)的代碼片段
func slicebytetostring(buf *tmpBuf, ptr *byte, n int) (str string) {
if n == 0 {
return ""
}
if n == 1 {
p := unsafe.Pointer(&staticuint64s[*ptr])
if sys.BigEndian {
p = add(p, 7)
}
stringStructOf(&str).str = p
stringStructOf(&str).len = 1
return
}
var p unsafe.Pointer
if buf != nil && n <= len(buf) {
p = unsafe.Pointer(buf)
} else {
p = mallocgc(uintptr(n), nil, false)
}
stringStructOf(&str).str = p
stringStructOf(&str).len = n
memmove(p, unsafe.Pointer(ptr), uintptr(n))
return
}
這段代碼我們可以看出會根據(jù)[]byte的長度來決定是否重新分配內(nèi)存，最后通過memove可以拷貝數(shù)組到字符串。
string和[]byte強(qiáng)轉(zhuǎn)換
標(biāo)準(zhǔn)的轉(zhuǎn)換方法都會發(fā)生內(nèi)存拷貝，所以為了減少內(nèi)存拷貝和內(nèi)存申請我們可以使用強(qiáng)轉(zhuǎn)換的方式對兩者進(jìn)行轉(zhuǎn)換。在標(biāo)準(zhǔn)庫中有對這兩種方法實(shí)現(xiàn)：
// runtime/string.go
func slicebytetostringtmp(ptr *byte, n int) (str string) {
stringStructOf(&str).str = unsafe.Pointer(ptr)
stringStructOf(&str).len = n
return
}
func stringtoslicebytetmp(s string) []byte {
str := (*stringStruct)(unsafe.Pointer(&s))
ret := slice{array: unsafe.Pointer(str.str), len: str.len, cap: str.len}
return *(*[]byte)(unsafe.Pointer(&ret))
}
通過這兩個(gè)方法我們可知道，主要使用的就是unsafe.Pointer進(jìn)行指針替換，為什么這樣可以呢？因?yàn)?code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;color: rgb(239, 112, 96);">string和slice的結(jié)構(gòu)字段是相似的：
type stringStruct struct {
str unsafe.Pointer
len int
}
type slice struct {
array unsafe.Pointer
len int
cap int
}
唯一不同的就是cap字段，array和str是一致的，len是一致的，所以他們的內(nèi)存布局上是對齊的，這樣我們就可以直接通過unsafe.Pointer進(jìn)行指針替換。
兩種轉(zhuǎn)換如何取舍
當(dāng)然是推薦大家使用標(biāo)準(zhǔn)轉(zhuǎn)換方式了，畢竟標(biāo)準(zhǔn)轉(zhuǎn)換方式是更安全的！但是如果你是在高性能場景下使用，是可以考慮使用強(qiáng)轉(zhuǎn)換的方式的，但是要注意強(qiáng)轉(zhuǎn)換的使用方式，他不是安全的，這里舉個(gè)例子：
func stringtoslicebytetmp(s string) []byte {
str := (*reflect.StringHeader)(unsafe.Pointer(&s))
ret := reflect.SliceHeader{Data: str.Data, Len: str.Len, Cap: str.Len}
return *(*[]byte)(unsafe.Pointer(&ret))
}
func main() {
str := "hello"
by := stringtoslicebytetmp(str)
by[0] = 'H'
}
運(yùn)行結(jié)果：
unexpected fault address 0x109d65f
fatal error: fault
[signal SIGBUS: bus error code=0x2 addr=0x109d65f pc=0x107eabc]
我們可以看到程序直接發(fā)生嚴(yán)重錯(cuò)誤了，即使使用defer+recover也無法捕獲。原因是什么呢？
我們前面介紹過，string類型是不能改變的，也就是底層數(shù)據(jù)是不能更改的，這里因?yàn)槲覀兪褂玫氖菑?qiáng)轉(zhuǎn)換的方式，那么by指向了str的底層數(shù)組，現(xiàn)在對這個(gè)數(shù)組中的元素進(jìn)行更改，就會出現(xiàn)這個(gè)問題，導(dǎo)致整個(gè)程序down掉！
總結(jié)
本文我們一起分析byte和string類型的基本定義，也分析了[]byte和string的兩種轉(zhuǎn)換方式，應(yīng)該還差最后一環(huán)，也就是大家最關(guān)心的性能測試，這個(gè)我沒有做，我覺得沒有很大意義，通過前面的分析就可以得出結(jié)論，強(qiáng)轉(zhuǎn)換的方式性能肯定要比標(biāo)準(zhǔn)轉(zhuǎn)換要好。對于這兩種方式的使用，大家還是根據(jù)實(shí)際場景來選擇，脫離場景的談性能就是耍流氓?。?！
推薦閱讀