Golang实现k-modes和k-prototypes聚类算法插件库go-cluster的使用

go-cluster是一个Golang实现的聚类算法库，主要包含k-modes和k-prototypes两种聚类算法。

安装

go get github.com/e-XpertSolutions/go-cluster/v2

算法简介

k-modes算法与著名的k-means聚类算法非常相似，主要区别在于距离计算方式。k-means通常使用欧几里得距离计算两个向量之间的距离，适用于数值型连续数据，但不适合处理分类数据。k-modes使用汉明距离计算向量之间的距离，表示两个向量有多少元素不同。

k-prototypes算法用于混合数据（包含分类和数值型数据）的聚类。

使用示例

KModes算法示例

package main

import (
    "fmt"
    "github.com/e-XpertSolutions/go-cluster/cluster"
)

func main() {
    // 输入的分类数据必须先进行字典编码转换为数字
    // 例如"blue","red","green"可以编码为1,2,3
    
    // 创建数据矩阵
    data := cluster.NewDenseMatrix(lineNumber, columnNumber, rawData)
    newData := cluster.NewDenseMatrix(newLineNumber, newColumnNumber, newRawData)

    // 算法参数配置
    distanceFunction := cluster.WeightedHammingDistance // 距离计算函数
    initializationFunction := cluster.InitCao           // 初始化函数
    clustersNumber := 5                                 // 聚类数量
    maxIteration := 20                                 // 最大迭代次数
    
    // 权重向量 - 用于设置特征重要性
    weights := []float64{1,1,2}
    wvec := [][]float64{weights}
    
    // 模型保存路径
    path := "km.txt"

    // 初始化KModes算法
    km := cluster.NewKModes(distanceFunction, initializationFunction, 
        clustersNumber, 1, maxIteration, wvec, path)

    // 训练模型
    err := km.FitModel(data)
    if err != nil {
        fmt.Println(err)
    }

    // 预测新数据标签
    newLabels, err := km.Predict(newData)
    if err != nil {
        fmt.Println(err)
    }
}

KPrototypes算法示例

// KPrototypes算法需要比k-modes多两个参数：
// categorical - 指示分类特征列的向量
// gamma - 数值型数据成本贡献的重要性

categorical := []int{1} // 表示只有第1列包含分类数据
gamma := 0.2            // 数值型数据的距离函数成本将乘以0.2

// 初始化KPrototypes算法
kp := cluster.NewKPrototypes(distanceFunction, initializationFunction, 
    categorical, clustersNumber, 1, maxIteration, wvec, gamma, "km.txt")

// 训练模型
err := kp.FitModel(data)
if err != nil {
    fmt.Println(err)
}

// 预测新数据标签
newLabelsP, err := kp.Predict(newData)
if err != nil {
    fmt.Println(err)
}

注意事项

1. 输入的分类数据必须先进行字典编码转换为数字
2. 可以选择包中提供的距离和初始化函数，也可以使用具有适当参数的自定义函数
3. 权重向量是可选的，如果为nil则所有特征被视为同等重要(权重=1)
4. 模型保存路径是可选的，如果不需要保存或加载模型，可以设置为空字符串

参考文献

[HUANG97]: Huang, Z.: Clustering large data sets with mixed numeric and categorical values, Proceedings of the First Pacific Asia Knowledge Discovery and Data Mining Conference, Singapore, pp. 21-34, 1997.

[HUANG98] Huang, Z.: Extensions to the k-modes algorithm for clustering large data sets with categorical values, Data Mining and Knowledge Discovery 2(3), pp. 283-304, 1998.

[CAO09] Cao, F., Liang, J, Bai, L.: A new initialization method for categorical data clustering, Expert Systems with Applications 36(7), pp. 10223-10228., 2009.