时间:2021-05-22
前言
项目中遇到的压缩/解压缩需求应该是很多的,比如典型的考虑网络传输延时而对数据进行压缩传输,又或者其他各种省空间存储需求等。这次同样是遇到了类似需求,在做一个爬虫时,因为抓取项目还未确定,所以考虑将整个html页面压缩存储于数据库,于是又是各种google,最后不出意外的google到了google家的Snappy :-)
google 自家的snappy 压缩优点是非常高的速度和合理的压缩率。压缩率比gzip 小,CPU 占用小。
golang中snappy使用场合
下面是对几个简单的字符串做snappy 压缩前后对比:
package mainimport ( "fmt" "github.com/golang/snappy" "io/ioutil")var ( textMap = map[string]string{ "a": `1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./`, "b": `1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./`, "c": `浕浉浄浀浂洉洡洣浐洘泚浌洼洽派洿浃浇浈浊测浍济浏浑浒浓浔泿洱涏洀洁洂洃洄洅洆洇洈洊洋洌洎洏洐洑洒洓洔洕洗洠洙洚洛洝洞洟洢洤津洦洧洨洩洪洫洬洭洮洲洳洴洵洶洷洸洹洺活涎`, "d": `浕浉浄浀浂洉洡洣浐洘泚浌洼洽派洿浃浇浈浊测浍济浏浑浒浓浔泿洱涏洀洁洂洃洄洅洆洇洈洊洋洌洎洏洐洑洒洓洔洕洗洠洙洚洛洝洞洟洢洤津洦洧洨洩洪洫洬洭洮洲洳洴洵洶洷洸洹洺活涎浕浉浄浀浂洉洡洣浐洘泚浌洼洽派洿浃浇浈浊测浍济浏浑浒浓浔泿洱涏洀洁洂洃洄洅洆洇洈洊洋洌洎洏洐洑洒洓洔洕洗洠洙洚洛洝洞洟洢洤津洦洧洨洩洪洫洬洭洮洲洳洴洵洶洷洸洹洺活涎浕浉浄浀浂洉洡洣浐洘泚浌洼洽派洿浃浇浈浊测浍济浏浑浒浓浔泿洱涏洀洁洂洃洄洅洆洇洈洊洋洌洎洏洐洑洒洓洔洕洗洠洙洚洛洝洞洟洢洤津洦洧洨洩洪洫洬洭洮洲洳洴洵洶洷洸洹洺活涎`, } imgSrc = []string{ "1.jpg", "2.jpg", "3.jpg", "4.jpg", })func main() { for k, v := range textMap { got := snappy.Encode(nil, []byte(v)) fmt.Println("k:", k, "len:", len(v), len(got)) } fmt.Println("snappy jpg") for _, v := range imgSrc { buf, err := ioutil.ReadFile(v) if err == nil { got := snappy.Encode(nil, buf) fmt.Println("k:", v, "len:", len(buf), len(got)) } }}输出:
k: a len: 46 48k: b len: 184 58k: c len: 246 250k: d len: 738 274snappy jpgk: 1.jpg len: 302829 282525k: 2.jpg len: 89109 89051k: 3.jpg len: 124463 123194k: 4.jpg len: 420886 368608如果字符串包含重复字符多压缩才看到效果,对jpg 图片的压缩率不大。
对一个实际使用的数据库是否使用snappy 做对比,用户和文章都是10万,文章内容较简单。
使用snappy 压缩前:
用时 4m32.916312692s数据库占用空间 176,209,920 字节(磁盘上的 172 MB)使用snappy 压缩后:
用时 4m6.750271414s数据库占用空间 159,424,512 字节(磁盘上的 150.9 MB)从使用时间上看,此例压缩使用的CPU 时间小于数据压缩后省下来的数据存储IO 占用的时间。因为文章数据较短、内容简单,压缩效果不明显。
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,如果有疑问大家可以留言交流,谢谢大家对的支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
适用场合:7.3 工厂模式的适用场合创建新对象最简单的办法是使用new关键字和具体类。只有在某些场合下,创建和维护对象工厂所带来的额外复杂性才是物有所值。本节概
本文为大家分享jqueryuidatepicker时间控件的使用方法,通过实例讲解了解uidatepicker时间控件,先给大家看一看效果图:效果:常用场合:1
Golang与python线程详解及简单实例在GO中,开启15个线程,每个线程把全局变量遍历增加100000次,因此预测结果是15*100000=1500000
本文实例讲述了smarty模板引擎之配置文件数据和保留数据的方法。分享给大家供大家参考。具体如下:一、如何让模板直接从配置文件中取出数据1.使用场合当某个变量值
golang里出现多goroutine的场景很常见,最常用的两种方式就是WaitGroup和Context,今天我们了解一下Context的应用场景使用场景场景