转载 用MATLAB做聚类分析 matlab做聚类分析

[转载]用MATLAB做聚类分析 matlab做聚类分析
原文地址:用MATLAB做聚类分析作者:康赛安斯期工作关系用到Matlab做聚类分析。所谓聚类分析,其目的在于将研究的数据样本划分为不同类别。Matlab的统计工具箱提供了相应的分析工具。相关概念在网上可以找到不少资料,这里推荐两个博客供大家参考。

pluskid的漫谈 Clustering 系列: http://blog.pluskid.org/?page_id=78

赵扶风的层次聚类:http://hi.baidu.com/neuxxm01/item/6337bdb3b7f26c74254b0991

两个博客多倾向于聚类算法的分析,因为聚类分析可划归为计算机人工智能领域里面无监督的学习。这里不打算就算法进行深入,需要的读者可去咨询上面两位牛人。个人觉得漫谈系列讲解较通俗易懂,赵扶风的可当做进阶。

本文中的例子较接近pluskid的漫谈系列。Matlab本身带有Cluster分析的例子。该例子也是经典的聚类分析案例——对IRIS数据聚类分析。可在Mathworks的主页找到相关资料,地址:

Matlab的Cluster分析工具:http://www.mathworks.cn/cn/help/stats/cluster-analysis.html

本文重点是展示如何用Matlab来进行聚类分析。如果有需要解答的问题请留言,笔者会尽其所能地回答。


内容



展示如何使用MATLAB进行聚类分析

分别运用分层聚类、K均值聚类以及高斯混合模型来进行分析,然后比较三者的结果

生成随机二维分布图形,三个中心

% 使用高斯分布(正态分布)
% 随机生成3个中心以及标准差
s = rng(5,'v5normal');
mu = round((rand(3,2)-0.5)*19)+1;
sigma = round(rand(3,2)*40)/10+1;
X = [mvnrnd(mu(1,:),sigma(1,:),200); ...
mvnrnd(mu(2,:),sigma(2,:),300); ...
mvnrnd(mu(3,:),sigma(3,:),400)];
% 作图
P1 = figure;clf;
scatter(X(:,1),X(:,2),10,'ro');
title('研究样本散点分布图')

K均值聚类

%距离用传统欧式距离,分成两类
[cidx2,cmeans2,sumd2,D2] =kmeans(X,2,'dist','sqEuclidean');
P2 = figure;clf;
[silh2,h2] = silhouette(X,cidx2,'sqeuclidean');

从轮廓图上面看,第二类结果比较好,但是第一类有部分数据表现不佳。有相当部分的点落在0.8以下。

分层聚类

eucD = pdist(X,'euclidean');
clustTreeEuc = linkage(eucD,'average');
cophenet(clustTreeEuc,eucD);

P3 = figure;clf;
[h,nodes] = dendrogram(clustTreeEuc,20);
set(gca,'TickDir','out','TickLength',[.002 0],'XTickLabel',[]);

可以选择dendrogram显示的结点数目,这里选择20 。结果显示可能可以分成三类

重新调用K均值法

改为分成三类

[cidx3,cmeans3,sumd3,D3] =kmeans(X,3,'dist','sqEuclidean');
P4 = figure;clf;
[silh3,h3] = silhouette(X,cidx3,'sqeuclidean');

图上看,比前面的结果略有改善。

将分类的结果展示出来

P5 = figure;clf
ptsymb = {'bo','ro','go',',mo','c+'};
MarkFace = {[0 0 1],[.8 0 0],[0 .5 0]};
hold on
for i =1:3
clust =find(cidx3 == i);
plot(X(clust,1),X(clust,2),ptsymb{i},'MarkerSize',3,'MarkerFace',MarkFace{i},'MarkerEdgeColor','black');
plot(cmeans3(i,1),cmeans3(i,2),ptsymb{i},'MarkerSize',10,'MarkerFace',MarkFace{i});
end
hold off

运用高斯混合分布模型进行聚类分析

分别用分布图、热能图和概率图展示结果 等高线

% 等高线
options = statset('Display','off');
gm = gmdistribution.fit(X,3,'Options',options);

P6 = figure;clf
scatter(X(:,1),X(:,2),10,'ro');
hold on
ezcontour(@(x,y) pdf(gm,[x,y]),[-15 15],[-15 10]);
hold off

P7 = figure;clf
scatter(X(:,1),X(:,2),10,'ro');
hold on
ezsurf(@(x,y) pdf(gm,[x,y]),[-15 15],[-15 10]);
hold off
view(33,24)

热能图
cluster1 = (cidx3 == 1);
cluster3 = (cidx3 == 2);
% 通过观察,K均值方法的第二类是gm的第三类
cluster2= (cidx3 == 3);
% 计算分类概率
P = posterior(gm,X);
P8 = figure;clf
plot3(X(cluster1,1),X(cluster1,2),P(cluster1,1),'r.')
grid on;hold on
plot3(X(cluster2,1),X(cluster2,2),P(cluster2,2),'bo')
plot3(X(cluster3,1),X(cluster3,2),P(cluster3,3),'g*')
legend('第 1 类','第 2 类','第 3 类','Location','NW')
clrmap = jet(80); colormap(clrmap(9:72,:))
ylabel(colorbar,'Component 1 Posterior Probability')
view(-45,20);
% 第三类点部分概率值较低,可能需要其他数据来进行分析。

% 概率图
P9 = figure;clf
[~,order] = sort(P(:,1));
plot(1:size(X,1),P(order,1),'r-',1:size(X,1),P(order,2),'b-',1:size(X,1),P(order,3),'y-');
legend({'Cluster 1 Score' 'Cluster 2 Score' 'Cluster 3Score'},'location','NW');
ylabel('Cluster Membership Score');
xlabel('Point Ranking');

通过AIC准则寻找最优的分类数

高斯混合模型法的最大好处是给出分类好坏的标准

AIC = zeros(1,4);
NlogL = AIC;
GM = cell(1,4);
for k = 1:4
GM{k} =gmdistribution.fit(X,k);
AIC(k)=GM{k}.AIC;
NlogL(k) =GM{k}.NlogL;
end
[minAIC,numComponents] = min(AIC);
按AIC准则给出的最优分类数为: 3对应的AIC值为: 8647.63

后记

(1)pluskid指出K均值算法的初值对结果很重要,但是在运行时还没有发现类似的结果。也许Mathworks对该算法进行过优化。有时间会仔细研究下代码,将结果放上来。

  

爱华网本文地址 » http://www.413yy.cn/a/25101018/374382.html

更多阅读

怎样用照片做视频? 怎样制作照片视频

怎样用照片做视频?——简介作为新生一代的80、90们,说不拍照自恋那是假话来着,尤其是在现在微博盛行的时代,每个人都喜欢旅行的时候、饭前饭后拿着手机拍摄照片,照片的流动率也越来越广啦。如何处理好我们的照片呢?火热的个性相册视频制作

怎样用纸杯做灯笼 用一次性杯子做灯笼

环保性怎样用纸杯做灯笼——工具/原料一次性纸杯两个,剪刀一把, 双面胶, 黄色的米奇胶带纸, 红色的线, 红色的颜料, 一副一次性筷子怎样用纸杯做灯笼——步骤/方法怎样用纸杯做灯笼 1、?纸杯一个怎样用纸杯做灯笼 2、用剪刀把一

怎样用word做一个红印章 精 word文档中的红色印章

印章作为一种见证有着特殊的权威。也想做一个特殊的印章做一个特殊的见证吗。其实只要一点点创意你就会得到意想不到的效果。跟我试试吧怎样用word做一个红印章 精——步骤/方法怎样用word做一个红印章 精 1、首先点击绘图的椭圆工

怎样用柠檬做面膜 柠檬怎样做面膜才好

怎样用柠檬做面膜——简介柠檬是天然的美容果,它可以延缓皮肤衰老,抑制色素沉着。因为柠檬中含有维生素B1,维生素B2,维生素C等多种营养成分,还含有丰富的有机酸、柠檬酸,柠檬还是高碱性食品,具有很强的抗氧化作用,对促进肌肤的新陈代谢、延

怎么用易拉罐做烟灰缸 易拉罐手工制作大全

怎么用易拉罐做烟灰缸——简介夏天最多的生活垃圾就是饮料瓶和易拉罐,前几篇经验讲述了很多饮料瓶的废物利用手工制作,今天小编给大家带来了易拉罐的废物利用手工作品了,喜欢的朋友试一试吧。怎么用易拉罐做烟灰缸——工具/原料易拉罐

声明:《转载 用MATLAB做聚类分析 matlab做聚类分析》为网友怪咖女人分享!如侵犯到您的合法权益请联系我们删除