特征选择粗糙集

什么是粗糙集(六)

2020-02-23  本文已影响0人  思想永不平凡

本节我们将继续介绍粗糙集有关的概念。



上节我们介绍了知识粒度的矩阵表示形式,本节将介绍基于知识粒度属性约简定义和算法。

基于粗糙特征选择算法亦称为属性约简,其旨在保持数据集分类能力不变的前提下,通过约简冗余属性,最后得到问题的决策或分类规则。

相关定义

设决策信息系统S=(U,A=C \bigcup D,V,f)B \subseteq C,如果BS的最小属性约简,则:
GP_{U}(D \mid B)=GP_{U}(D\mid C)

\forall a \in B,\quad GP_{U}(D \mid B -\{a\})\not= GP_{U}(D \mid B)

第一个式子保证了约简集B有着与全体条件属性集C相同的划分能力;而第二个条件保证了约简集B内没有冗余属性。

近似分类精度的定义如下:
设决策信息系统S=(U,A=C \bigcup D,V,f)\forall X \subseteq UR是一个等价关系,则集合X关于等价关系R的近似分类精度为:
\alpha_{R}(X)=\frac{|\underline{R}X|}{|\overline{R}X|}

其粗糙度为:
\rho_{R}(X)=1-\alpha_{R}(X)

近似分类质量的定义如下:
设决策信息系统S=(U,A=C \bigcup D,V,f)\forall X \subseteq UR是一个等价关系,则集合X关于等价关系R的近似分类质量为:
\gamma_{R}(X) =\frac{|\underline{R}X|}{|U|}
或者说
决策信息系统S=(U,A=C \bigcup D,V,f)\forall X \subseteq UR=\{X_{1},X_{2},...,X_{m}\}是论域U的一个划分,将R的上近似和下近似分别定义为:
\overline{R}X=\{\overline{R}X_{1},\overline{R}X_{2},...,\overline{R}X_{m} \}

\underline{R}X=\{\underline{R}X_{1},\underline{R}X_{2},...,\underline{R}X_{m} \}

R的近似分类精度:
\alpha_{R}(X)=\frac{\sum^{m}_{i=1}|\underline{R}X_{i}|}{\sum_{i=1}^{m}|\overline{R}X_{i} |}

近似分类质量:
\gamma_{R}(X) =\frac{\sum_{i=1}^{m}|\underline{R}X_{i}|}{|U|}

特别地,若等价关系R是被决策属性集D划分的,U/D=\{X_{1},X_{2},...,X_{m} \}\forall X \subseteq U,则D的近似分类精度为:
\alpha_{R}(D)=\frac{POS_{R}(D)} {\sum_{i=1}^{m}|\overline{R}X_{i} |}

近似分类质量:
\gamma_{R}(D) =\frac{POS_{R}(D)}{|U|}

对于这种情况,我们先看一个例子,若
U/D=\{X_1,X_2 \}=\{\{e_{1},X_1e_{4},e_{5},e_{8}\},\{e_2,e_3,e_6,e_7 \} \}

考虑论域U对条件属性集C划分的等价关系R
U/C=\{\{e_1\},\{e_2\},\{e_3\},\{e_4\},\{e_5,e_7\},\{e_6,e_8\} \}

下近似:
\underline{R}X_1=\{e_1,e_4\}

\underline{R}X_2=\{e_2,e_3\}

近似分类质量:
\gamma_{R}(D)=\frac{|\underline{R}X_1|+|\underline{R}X_2|}{|U|}=\frac{4}{8}=\frac{1}{2}

再来看之前的一个例子
S=(U,A=C \bigcup D,V,f)是一个决策信息系统,考虑条件属性C对论域U划分的等价关系RU/C=\{\{e_{3},e_{6} \},\{e_{2},e_{5} \},\{e_{1},e_{4} \} \},集合X=\{e_{1},e_{2},e_{4}\},显然X是一个粗糙集,则:
\underline{R}X=\{e_{1},e_{4}\} \quad \overline{R}X=\{e_{1},e_{2},e_{4},e_{5}\}

近似分类精度:
\alpha_{R}(X)=\frac{|\underline{R}X|}{|\overline{R}X|}=\frac{2}{4}=\frac{1}{2}

粗糙度:
\rho_{R}(X)=1-\alpha_{R}(X)=1-\frac{1}{2}=\frac{1}{2}

近似分类质量:
\gamma_{R}(X) = \frac{|\underline{R}X|}{|U|} = \frac{2}{6} = \frac{1}{3}

基于知识粒度的属性约简算法

在介绍完经典粗糙集模型一些基本的相关概念后,我们将给出粗糙集里面的一个经典算法,基于知识粒度非动态属性约简算法。


算法:基于知识粒度的经典启发式属性约简算法


输入:决策信息系统S=(U,A=C \bigcup D,V,f)
输出:论域U上的约简集RED_{U}
begin

\quad RED_{U} \leftarrow \varnothing

\quad for \quad 1\leq j \leq |C| \quad do

\quad \quad Calculate \quad Sig_{U}^{inner}(a_{j},C,D);

\quad \quad \quad if \quad Sig_{U}^{inner}(a_{j},C,D)>0 \quad then

\quad \quad \quad \quad RED_{U} \leftarrow (RED_{U} \bigcup {a_{j}});

\quad \quad \quad end

\quad \quad end

\quad Let \quad B \leftarrow RED_{U};

\quad while \quad GP_{U}(D \mid B) \neq GP_{U}(D \mid C) \quad do

\quad \quad for \quad each \quad a_{i}\in (C-B) \quad do

\quad \quad \quad Calculate \quad Sig_{U}^{outer}(a_{i},B,D);

\quad \quad \quad a_{0}=max\{Sig_{U}^{outer}(a_{i},B,D),a_{i} \in (C-B)\};

\quad \quad \quad B\leftarrow (B \bigcup \{a_{0} \});

\quad \quad end

\quad end

\quad for \quad each \quad a_{i} \in B \quad do

\quad \quad if \quad GP_{U}(D \mid (B-\{a_{i} \}))=GP_{U}(D \mid C) \quad then

\quad \quad \quad B \leftarrow (B-\{a_{i}\});

\quad \quad end

\quad end

\quad RED_{U} \leftarrow B;

\quad return \quad reduction \quad RED_{U}

end


这就是基于知识粒度非动态属性约简算法的流程了,算法的流程虽然较多,但关键点在于等价类的划分,这点解决后,它的实现就不难了。

那么粗糙集有关的内容就暂告一段落了,系列博客介绍的也只是冰山一角,这里面还有很多很多的学问呢,有兴趣的可以查阅更多资料和文献。


本文参考了:

上一篇 下一篇

猜你喜欢

热点阅读