10.23——10.27《深度自适应》
领域自适应:
多用于文本分类,属于直推式迁移学习,直推式迁移学习定义:给定一个源域和相应的学习任务,一个目标域和相应的学习任务,直推式学习旨在利用源域和目标域中相同的知识来提高目标域中的目标预测函数。
《基于深度学习的体态与手势感知计算关键技术研究》
基于深度学习的肌电手势识别:
并不需要任何附加信息或手工设计的特征提取器,基于高密度肌电信号(HD-sEMG),使用二维阵列电极采集的肌电信号,使得肌肉活动产生的电势场在时间和空间上的变化可被多个紧密分布在皮肤表面的电极同时记录下来。HD-sEMG中的肌电信号描绘了位于电极覆盖区域内的肌肉活动的时空分布,同时HD-sEMG的瞬时值呈现了在特定时间点肌肉活动所涉及的生理过程的相对全局的测量。瞬时HD-sEMG内部可区分出不同手势模式,可以将采集到的HD-Semg描绘出电势在空间的分布,其对应的热度图即为肌电图像,肌电图像中的像素数(分辨率)由其采集设备中的电极阵列决定,即电极的数量及其电极间距离(例如,具有16行8列的电极网格可W采集8*16像素的肌电图像)。
图1基于瞬时肌电图像和卷积神经网络的手势识别方案主要是将原始肌电信号值从(-1,1)映射到(0,255),即,其中x是原始肌电信号,I是肌电图像。构建一个8层CNN结构,网络的前两个卷积层用于提取公共的底层图片特征,作者发现瞬时肌电图像在不同的空间位置上表现出不同的视觉特征。在不同手势中,肌电图像在中部偏下以及顶部的条状区域上亮度较强,提出在3,4层加入局部连接结构(受人脸识别前沿工作的启发),因为局部连接层在不同空间位置上的卷积模板的权重不共享,可以更好的提取图片上不同位置的特征。并依据单个窗口内每帧识别出的手势标签中所占比例最高的标签,因为上述实验仅适用于肌电幅值较大的数据进行训练和测试可以获得较高的手势识别准确率,因此需要对肌电信号采用全波整流和低通滤波(全波整流和低通滤波是被广泛采用的肌电信号幅值估计方法),以获取更好的肌电信号。
图2 CNN输出可视化(每个点表示不同样本,每个插图包含一个手势示意图以及测试集中所有属于该手势的肌电图像的均值图像)基于深度领域自适应的肌电手势识别:
当训练集和测试集的肌电信号来自不同的采集会话的情况。因为电极位移,肌肉疲劳,电极和皮肤之间的阻抗变化等因素的干扰,肌电信号与采集会话高度相关,已经训练好的手势分类器直接被应用在新的会话时通常准确率较低。因为肌电信号的分布在不同的会话之间变化很大,所以来自不同会话的基于瞬时肌电信号的手势识别可以相应地表示为多源领域自适应问题。
当标定数据未标记时,该论文采用自适应批量归一化(AdaBN, Adaptive Batch Normalization)对手势分类器进行适配。假设用于区分不同手势的知识存储在每个层的权重中,AdaBN不需要适配数据的手势标签,而是随着无标签的适配数据的增加,逐步更新少量的网络参数。给定输入U,BN将其转换为V,其中第i个输入特征的转换公式为:
l在训练阶段,每个BN层对于每个源域的均值统计量和方差统计量是独立计算的。因为训练阶段的BN对每个数据批次独立计算统计量,所以只需要确保每个数据批次中的样本来自同一个会话。
l识别阶段,对于给定的未标记数据A,AdaBN执行正向传播算法,更新参数。
该方法准确率:单幅30.5%,150毫秒窗口-39.2%,而另一种算法特征集(150毫秒窗口)和线性判断:34.1%。
随机选择未标记的测试集的子集(0.1%,0.5%,1%,5%,10%)进行深度领域自适应,之后再评测整个测试集上的手势识别的准确率。最后观测到大约5%的适配数据后准确率达到巅峰,适配数据20000帧,在CSL-HDEMG的2048赫兹的采样率下大约10秒。
并且适配算法并不需要观测到所有种类的手势,从27种选择5个和13个进行适配,最终结果分别是31.3%(73.2%),34.6%(81.4%)另一种方法是肌电地势(sEMG topography),定义为肌电信号在时间上的二维平均强度图,其中每个像素是某个通道的肌电信号在特定时间窗口内的均方根,用于手势识别。
《Revealing Critical
Channels and Frequency Bands for Emotion Recognition from EEG with Deep Belief
Network》
在基于脑电信号的情感识别任务中,多通道脑电信号存在不相关的脑电信号,这不仅会引起噪声,还会降低系统对情感识别能力。该论文提出一种新的深度信念网(DBN)来检查用于情感识别的关键EEG信道和频段。
主要从行为和生理反应进行情感分析,因为EEG与表情手势相比,具有较高的准确性和客观评价性。该论文采用ESI神经扫描系统,从62通道电极帽以采样率为1000Hz记录脑电信号。每个实验有15个测试,每个测试包括15s提示,45s测试及反馈,5s休息。盖论文一共评价了30个实验。
先下采样原始脑电数据到200Hz,之后使用0.3Hz到50Hz的带通滤波器滤除噪声和伪影,之后采用之前提出的微分熵(differential entropy)特征[1][2],对于固定长度的脑电信号,微分熵相当于一定频段内的对数能量谱。此前已经证明微分熵在低频和高频能量之间具有识别EEG模式的能力,因此在五个频段计算微分熵特征(δ:1-3Hz,θ:4 – 7Hz,α:8-13Hz,β:14-30Hz,γ:31-50Hz),使用256点的短时傅里叶变换,并将特征归一化到0-1。
图1不同频段的权重值利用五个频段的去噪后的62通道的特征作为输入,DBN达到86.08%的准确率和8.34%标准差,本论文通过分析经过训练的DBN的权重分布来检验关键通道和频带,权重对于识别情感模型是很重要的,因为对于学习任务贡献较大的神经元权值将增加,不相关的神经元权值趋于随机分布,图1为权重在第一层神经网络训练后的分布,可以看出主要在beta和gamma波的权重最大,这说明此频带包含更重要的鉴别信息。
图2不同频段显示不同的激活脑区从图2中我们可以看出侧颞区和前额脑区相比其他脑区在beta和gamma频带更容易激活。因此可以得出结论,在识别积极,中性和负面情绪时侧颞叶和前额叶通道是关键通道,beta和gamma是关键频带。
图3脑区的62个通道如图3所示,依据脑区中权重分布的特点,设计了四种不同的电极放置剖面,包括4通道,6通道,9通道和12通道,其中4通道的最佳平均精度和标准差为82.88%/10.92%,而所有62通道的最佳平均精度和标准差为83.99%/10.92%,这说明四个相对电极阻轮廓(four profiles of relative electrode sets)FT7,T7,FT8,T8是辨别情感特征的电极。
[1]Duan R N, Zhu J Y, Lu B L. Differential entropyfeature for EEG-based emotion classification[C]// International Ieee/embsConference on Neural Engineering. IEEE, 2013:81-84.
[2]Zheng W L, Zhu J Y, Peng Y, et al. EEG-based emotionclassification using deep belief networks[C]// IEEE International Conference onMultimedia and Expo. IEEE, 2014:1-6.
脑电论文(大脑解码:行为,情绪):
Real-time naive learning of neural correlates in ECoG Electrophysiology
神经实时朴素学习相关的皮层电生理
地址:http://www.ijmlc.org/papers/40-L0174.pdf
A Deep Learning Method for Classification of EEG Data Based on MotorImagery
基于运动表象的脑电数据分类的深度学习方法
地址:http://www.bio.spbu.ru/faculty/departments/vnd/pdf/journal%202015/moskvich.pdf
Affective state recognition from EEG with deep belief networks
基于深层信念网络的脑电情感状态识别
地址:https://www.cse.buffalo.edu//DBGROUP/bioinformatics/papers/Kang_BIBM_2013.pdf
A Novel Semi-Supervised Deep Learning Framework for Affective StateRecognition on EEG Signals
一种用于脑电信号情感状态识别的半监督深度学习框架
地址:https://www.cse.buffalo.edu//DBGROUP/bioinformatics/papers/cameraready_xwjiabibe.pdf
Revealing critical channels and frequency bands for emotion recognitionfrom EEG with deep belief network
用深层信念网络揭示脑电情感识别的关键通道和频带
地址:http://bcmi.sjtu.edu.cn/~blu/papers/2015/9.PDF
EEG-based emotion recognition using deep learning network withprincipal component based covariate shift adaptation
基于深度学习网络的主成分协移自适应的脑电情感识别
地址:http://europepmc.org/backend/ptpmcrender.fcgi?accid=PMC4165739&blobtype=pdf
Classifying EEG recordings of rhythm perception
节律性脑电记录分类
地址:http://www.terasoft.com.tw/conf/ismir2014/proceedings/T117_317_Paper.pdf
Using Convolutional Neural Networks to
Recognize Rhythm Stimuli from Electroencephalography Recordings利用卷积神经网络识别脑电记录中的节律刺激
地址:http://wwwiti.cs.uni-magdeburg.de/~stober/publ/nips2014.pdf
Convolutional neural network with embedded Fourier transform for EEGclassification
基于嵌入傅立叶变换的卷积神经网络在脑电信号分类中的应用
地址:http://pdfs.semanticscholar.org/9a19/a59f5e8f3494e97c70eecd06003e5d1f4eb7.pdf
Continuous emotion detection using EEG signals and facial expressions
基于脑电信号和表情的连续情绪检测
地址:https://ibug.doc.ic.ac.uk/media/uploads/documents/soleymani-fu-icme14_camera_ready.pdf
‘Deep Feature Learning for EEG Recordings
脑电记录的深部特征学习
地址:https://www.researchgate.net/publication/283986303_Deep_Feature_Learning_for_EEG_Recor
异常分类论文(阿兹海默症,癫痫,睡眠阶段检测):
Classification of Electrocardiogram Signals with Deep Belief Networks
基于深层信念网络的心电信号分类
Modeling electroencephalography waveforms with semi-supervised deepbelief nets: fast classification and anomaly measurement
半监督深信网模拟脑电波形:快速分类和异常测量
Deep belief networks used on high resolution multichannelelectroencephalography data for seizure detection
用于癫痫检测的基于高分辨率多道脑电图数据的深度信念网
地址:https://www.knexusresearch.com/wp-content/uploads/2015/07/AAAI_JT_Turner.pdf
Deep Learning in the EEG Diagnosis of Alzheimer’s Disease
深层学习在阿尔茨海默病脑电诊断中的应用
Sleep stage classification using unsupervised feature learning
基于无监督特征学习的睡眠阶段分类
Classification of patterns of EEG synchronization for seizureprediction
癫痫发作的脑电同步模式分类
地址:http://yann.lecun.com/exdb/publis/orig/mirowski-cneuro-09.pdf
Recurrent neural network based prediction of epileptic seizures inintra-and extracranial EEG
基于递归神经网络的颅内外脑电癫痫发作预测
EEG-based lapse detection with high temporal resolution
基于脑电信号的高时间分辨率检测
地址: