标签：统计 cep code binary 无损压缩 tree bool available 基本
赫夫曼编码
1. 基本介绍
- 赫夫曼编码也翻译为 哈夫曼编码（Huffman Coding），也称霍夫曼编码，是一种编码方式，属于一种算法
- 赫夫曼编码也是赫夫曼树在电讯通信中经典的应用
- 赫夫曼编码广泛地用于数据文件压缩。其压缩率通常在20%~90%之间
- 赫夫曼码是可变字长编码（VLC）的一种。Huffman于1952年提出一种编码方式，称之为最佳编码
2. 原理刨析
-
通信领域中信息的处理方式1-定长编码
-
通信领域中信息的处理方式2-变长编码
-
通信领域中信息的处理方式3-赫夫曼编码
-
i like like like java do you like a java
d：1
y：1
u：1
j：2
v：2
o：2
l：4
k：4
e：4
i：5
a：5
"空格"：9
-
将子树作为权值
-
构成赫夫曼树的步骤
- 从小到大进行排序，每一个数据都是一个结点，每个结点可以看成是一颗最简单的二叉树
- 取出根结点权值最小的两颗二叉树
- 组成一颗新的二叉树，该新的二叉树的根结点的权值是前面两颗二叉树根结点权值的和
- 再将这颗新的二叉树，以根结点的权值大小再次排序，不断重复 此步骤，直到数列中，所有的数据都被处理，就得到一颗赫夫曼树
-
根据赫夫曼树，给各个字符规定编码（前缀编码），向左的路径为0，向右的路径为1，编码如下
o：1000
u：10010
d：100110
y：100111
i：101
a：110
k：1110
e：1111
j：0000
v：0001
l：001
"空格"：01
-
按照上述赫夫曼编码，字符串对应的编码为（使用无损压缩）
1010100110111101111010011011110111101001101111011110100001100001110011001111000011001111000100100100110111101111011100100001100001110
长度为133，原本的长度359（ASCII），压缩了 （359 - 133）/ 359 == 62.9%
-
此编码满足前缀编码，即字符的编码都不能是其他字符编码的前缀。不会造成匹配的多义性赫夫曼编码是无损处理方案
-
注意：赫夫曼树根据排序不同，可能不一样，对应的赫夫曼编码也不同，但是wpl是一样的，都是最小的，最后生成的赫夫曼编码的长度是一样的
3. 代码实现
package cn.imut;
import java.io.*;
import java.util.*;
public class HuffmanCode {
public static void main(String[] args) {
//测试压缩文件
// String srcFile = "d://Uninstall.xml";
// String dstFile = "d://Uninstall.zip";
//
// zipFile(srcFile, dstFile);
// System.out.println("压缩文件ok~~");
//测试解压文件
String zipFile = "d://Uninstall.zip";
String dstFile = "d://Uninstall2.xml";
unZipFile(zipFile, dstFile);
System.out.println("解压成功!");
/*
String content = "i like like like java do you like a java";
byte[] contentBytes = content.getBytes();
System.out.println(contentBytes.length); //40
byte[] huffmanCodesBytes= huffmanZip(contentBytes);
System.out.println("压缩后的结果是:" + Arrays.toString(huffmanCodesBytes) + " 长度= " + huffmanCodesBytes.length);
//测试一把byteToBitString方法
//System.out.println(byteToBitString((byte)1));
byte[] sourceBytes = decode(huffmanCodes, huffmanCodesBytes);
System.out.println("原来的字符串=" + new String(sourceBytes)); // "i like like like java do you like a java"
*/
//如何将 数据进行解压(解码)
//分步过程
/*
List nodes = getNodes(contentBytes);
System.out.println("nodes=" + nodes);
//测试一把，创建的赫夫曼树
System.out.println("赫夫曼树");
Node huffmanTreeRoot = createHuffmanTree(nodes);
System.out.println("前序遍历");
huffmanTreeRoot.preOrder();
//测试一把是否生成了对应的赫夫曼编码
Map huffmanCodes = getCodes(huffmanTreeRoot);
System.out.println("~生成的赫夫曼编码表= " + huffmanCodes);
//测试
byte[] huffmanCodeBytes = zip(contentBytes, huffmanCodes);
System.out.println("huffmanCodeBytes=" + Arrays.toString(huffmanCodeBytes));//17
//发送huffmanCodeBytes 数组 */
}
/**
* 解压文件
* @param zipFile 要解压的文件
* @param dstFile 解压的路径
*/
public static void unZipFile(String zipFile, String dstFile) {
//定义文件输入流
InputStream is = null;
//定义一个对象输入流
ObjectInputStream ois = null;
//定义文件的输出流
OutputStream os = null;
try {
//创建文件输入流
is = new FileInputStream(zipFile);
//创建一个和 is 关联的对象输入流
ois = new ObjectInputStream(is);
//读取byte数组 huffmanBytes
byte[] huffmanBytes = (byte[])ois.readObject();
//读取赫夫曼编码表
Map huffmanCodes = (Map)ois.readObject();
//解码
byte[] bytes = decode(huffmanCodes, huffmanBytes);
//将bytes数组写入到目标文件
os = new FileOutputStream(dstFile);
//写数据到dsFile文件
os.write(bytes);
} catch (Exception e) {
System.out.println(e.getMessage());
} finally {
try {
assert os != null;
os.close();
ois.close();
is.close();
} catch (IOException e2) {
System.out.println(e2.getMessage());
}
}
}
/**
* 压缩文件
* @param srcFile 压缩文件的全路径
* @param dstFile 压缩后放到哪个目录
*/
public static void zipFile(String srcFile, String dstFile) {
//创建输出流
OutputStream os = null;
ObjectOutputStream oos = null;
//创建文件的输入流
FileInputStream is = null;
try {
//创建文件的输入流
is = new FileInputStream(srcFile);
//创建一个和源文件大小一样的byte[]
byte[] b = new byte[is.available()];
//读取文件
is.read(b);
//直接对源文件压缩
byte[] huffmanBytes = huffmanZip(b);
//创建文件的输出流, 存放压缩文件
os = new FileOutputStream(dstFile);
//创建一个和文件输出流关联的ObjectOutputStream
oos = new ObjectOutputStream(os);
//把 赫夫曼编码后的字节数组写入压缩文件
oos.writeObject(huffmanBytes); //我们是把
//这里我们以对象流的方式写入 赫夫曼编码，是为了以后我们恢复源文件时使用
//注意一定要把赫夫曼编码 写入压缩文件
oos.writeObject(huffmanCodes);
}catch (Exception e) {
// TODO: handle exception
System.out.println(e.getMessage());
}finally {
try {
assert is != null;
is.close();
assert oos != null;
oos.close();
os.close();
}catch (Exception e) {
// TODO: handle exception
System.out.println(e.getMessage());
}
}
}
/**
* 完成对压缩数据的解码
* @param huffmanCodes 赫夫曼编码表 map
* @param huffmanBytes 赫夫曼编码得到的字节数组
* @return 原来的字符串对应的数组
*/
public static byte[] decode(Map huffmanCodes, byte[] huffmanBytes) {
//1.先得到 huffmanBytes 对应的 二进制的字符串，形式 1010100010111....
StringBuilder stringBuilder = new StringBuilder();
//将 byte数组转成二进制的字符串
for(int i = 0; i 100 100->a
Map map = new HashMap();
for(Map.Entry entry: huffmanCodes.entrySet()) {
map.put(entry.getValue(), entry.getKey());
}
//创建要给集合，存放byte
List list = new ArrayList();
//i 可以理解成就是索引,扫描 stringBuilder
for(int i = 0; i nodes = getNodes(bytes);
//根据 nodes 创建的赫夫曼树
Node huffmanTreeRoot = createHuffmanTree(nodes);
//对应的赫夫曼编码(根据 赫夫曼树)
Map huffmanCodes = getCodes(huffmanTreeRoot);
//根据生成的赫夫曼编码，压缩得到压缩后的赫夫曼编码字节数组
return zip(bytes, huffmanCodes);
}
/**
* 将字符串对应的byte[] 数组，通过生成的赫夫曼编码表，返回一个赫夫曼编码 压缩后的byte[]
* @param bytes 这时原始的字符串对应的 byte[]
* @param huffmanCodes 生成的赫夫曼编码map
* @return 返回赫夫曼编码处理后的 byte[]
* 举例： String content = "i like like like java do you like a java"; =》 byte[] contentBytes = content.getBytes();
* 返回的是 字符串 "1010100010111111110010001011111111001000101111111100100101001101110001110000011011101000111100101000101111111100110001001010011011100"
* => 对应的 byte[] huffmanCodeBytes ，即 8位对应一个 byte,放入到 huffmanCodeBytes
* huffmanCodeBytes[0] = 10101000(补码) => byte [推导 10101000=> 10101000 - 1 => 10100111(反码)=> 11011000= -88 ]
* huffmanCodeBytes[1] = -88
*/
private static byte[] zip(byte[] bytes, Map huffmanCodes) {
//1.利用 huffmanCodes 将 bytes 转成 赫夫曼编码对应的字符串
StringBuilder stringBuilder = new StringBuilder();
//遍历bytes 数组
for(byte b: bytes) {
stringBuilder.append(huffmanCodes.get(b));
}
//System.out.println("测试 stringBuilder~~~=" + stringBuilder.toString());
//将 "1010100010111111110..." 转成 byte[]
//统计返回 byte[] huffmanCodeBytes 长度
//一句话 int len = (stringBuilder.length() + 7) / 8;
int len;
if(stringBuilder.length() % 8 == 0) {
len = stringBuilder.length() / 8;
} else {
len = stringBuilder.length() / 8 + 1;
}
//创建 存储压缩后的 byte数组
byte[] huffmanCodeBytes = new byte[len];
int index = 0;//记录是第几个byte
for (int i = 0; i stringBuilder.length()) {//不够8位
strByte = stringBuilder.substring(i);
}else{
strByte = stringBuilder.substring(i, i + 8);
}
//将strByte 转成一个byte,放入到 huffmanCodeBytes
huffmanCodeBytes[index] = (byte)Integer.parseInt(strByte, 2);
index++;
}
return huffmanCodeBytes;
}
//生成赫夫曼树对应的赫夫曼编码
//思路:
//1. 将赫夫曼编码表存放在 Map 形式
// 生成的赫夫曼编码表{32=01, 97=100, 100=11000, 117=11001, 101=1110, 118=11011, 105=101, 121=11010, 106=0010, 107=1111, 108=000, 111=0011}
static Map huffmanCodes = new HashMap();
//2. 在生成赫夫曼编码表示，需要去拼接路径, 定义一个StringBuilder 存储某个叶子结点的路径
static StringBuilder stringBuilder = new StringBuilder();
//重载getCodes
public static Map getCodes(Node root) {
if(root == null) {
return null;
}
//处理root的左子树
getCodes(root.left, "0", stringBuilder);
//处理root的右子树
getCodes(root.right, "1", stringBuilder);
return huffmanCodes;
}
/**
* 将传入的node结点的所有叶子结点的赫夫曼编码得到，并放入到huffmanCoding集合
* @param node 传入的结点
* @param code 路径，左子结点是0，右子结点是1
* @param stringBuilder 用于拼接路径
*/
public static void getCodes(Node node, String code, StringBuilder stringBuilder) {
StringBuilder stringBuilder2 = new StringBuilder(stringBuilder);
//将 code 加入到 stringBuilder2
stringBuilder2.append(code);
if(node != null) { //如果 node == null 不处理
//判断当前node是叶子结点还是非叶子结点
if(node.data == null) { //非叶子结点
//递归结点
//向左递归
getCodes(node.left, "0", stringBuilder2);
//向右递归
getCodes(node.right, "1", stringBuilder2);
}else { //说明是一个叶子结点
//表示找到某个叶子结点的最后
huffmanCodes.put(node.data, stringBuilder2.toString());
}
}
}
//前序遍历
public static void preOrder(Node root) {
if(root != null) {
root.preOrder();
}else {
System.out.println("是空树，不能遍历~");
}
}
/**
*
* @param bytes 接收字节数组
* @return 返回的就是 List 形式 [Node[date=97 ,weight = 5], Node[]date=32,weight = 9]......],
*/
private static List getNodes(byte[] bytes) {
//1创建一个ArrayList
ArrayList nodes = new ArrayList();
//遍历 bytes , 统计 每一个byte出现的次数->map[key,value]
Map counts = new HashMap();
for (byte b : bytes) {
// Map还没有这个字符数据,第一次
counts.merge(b, 1, Integer::sum);
}
//把每一个键值对转成一个Node 对象，并加入到nodes集合
//遍历map
for(Map.Entry entry: counts.entrySet()) {
nodes.add(new Node(entry.getKey(), entry.getValue()));
}
return nodes;
}
/**
* List 创建赫夫曼树
* @param nodes 结点
* @return 返回根结点
*/
public static Node createHuffmanTree(List nodes) {
while (nodes.size() > 1) {
//排序，从小到大
Collections.sort(nodes);
//取出第一颗最小的二叉树
Node leftNode = nodes.get(0);
//取出第二颗最小的二叉树
Node rightNode = nodes.get(1);
//创建一颗新的二叉树，它的根结点没有data，只有权值
Node parent = new Node(null, leftNode.weight + rightNode.weight);
parent.left = leftNode;
parent.right = rightNode;
//将已经处理的两颗二叉树从nodes删除
nodes.remove(leftNode);
nodes.remove(rightNode);
//将新的二叉树，加入到nodes
nodes.add(parent);
}
//nodes 最后的结点，就是赫夫曼树的根结点
return nodes.get(0);
}
}
//结点
/*
Comparable接口强行对实现它的类的每个实例进行自然排序
该接口的唯一方法compareTo方法被称为自然比较方法；
强烈建议自然排序和equals一致（就是两个对象调用compareTo方法和调用equals方法返回的布尔值应该一样）
*/
class Node implements Comparable{
Byte data; //存放数据（字符）本身，比如 ‘a‘ => 97 ‘ ‘ => 32
int weight; //结点权值，表示字符出现的次数
Node left; //指向左子结点
Node right; //指向右子结点
public Node(Byte data, int weight) {
this.data = data;
this.weight = weight;
}
//前序遍历
public void preOrder() {
System.out.println(this);
if (this.left != null) {
this.left.preOrder();
}
if (this.right != null) {
this.right.preOrder();
}
}
@Override
public String toString() {
return "Node{" +
"weight=" + weight +
‘}‘;
}
@Override
public int compareTo(Node o) {
//表示从小到大排序
return this.weight -o.weight;
}
}
4. 注意事项
- 若文件本身就是经过压缩处理的，使用赫夫曼编码不会产生明显变化
- 赫夫曼编码是按照字节处理的，因此可以处理所有文件
- 若一个文件中重复的数据不多，压缩效果也不会很明显
数据结构与算法-赫夫曼编码
标签：统计 cep code binary 无损压缩 tree bool available 基本
原文地址：https://www.cnblogs.com/yfyyy/p/12769534.html