ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

2021年9月22日-忆阻神经网络综述

2021-09-22 21:02:19  阅读:139  来源: 互联网

标签:混沌 22 突触 忆阻 膜电位 2021 电流 神经元


一、混沌动力学基本概念

多种混沌特性

  • 1个正李雅普诺夫指数 =》混沌
  • 2个及以上李雅普诺夫指数 =》超混沌
  • 短暂时间内的混沌 =》瞬态混沌

什么是吸引子

混沌系统的相图(运动轨迹)就是吸引子

  • 隐藏吸引子
  • 自激吸引子

从稳定性的角度分类

共存吸引子:两种不同初始状态对应两种不同的混沌行为(怎样才算不同呢?)

多稳态:三种及以上共存吸引子现象

极端多稳态:无穷多个吸引子共存现象

从时域的角度分类

  • 混沌尖峰
  • 混沌爆裂
  • 混沌点火

二、神经元和神经网络模型

1. HH 神经元

1952 年,霍奇金和赫胥黎 (HH) 提出,描述了真实神经元的脉冲行为和耐火特性,并作为基于离子通道非线性电导的尖峰神经元的范例(什么意思(+_+)?

在这里插入图片描述

  • V V V:膜电位
  • m 、 h 、 n m、h、n m、h、n:门控变量
  • I i o n I_{ion} Iion​:离子电流,与 m、n、h 的门控变量有关,并描述了通过膜的离子传输
  • I s y n I_{syn} Isyn​:突触电流
  • I e x t I_{ext} Iext​:外部刺激
  • 常数 g N a 、 g K 、 g L g_{Na}、g_K、g_L gNa​、gK​、gL​:钠离子 (Na+)、钾离子 (K+) 和泄漏通道的最大电导
  • V n a 、 V K 、 V L V_{na}、V_K、V_L Vna​、VK​、VL​:反转电位
  • h ∞ 、 n ∞ 、 m ∞ 、 τ n 、 τ m 、 τ h h_\infty、n_\infty、m_\infty、\tau_n、\tau_m、\tau_h h∞​、n∞​、m∞​、τn​、τm​、τh​:门控变量的饱和度值和弛豫时间

2. FHN 神经元

由 HH 简化而来,描述神经元兴奋性和尖峰放电

在这里插入图片描述

  • x x x:膜电位(快变量)
  • y y y:离子电流(慢变量)
  • I e x t I_{ext} Iext​:外部刺激
  • a , b , c a, b, c a,b,c:模型参数

3. ML 神经元

由 HH 简化而来,重现与巨大藤壶纤维中钙离子 (Ca2+) 和 K+ 电导有关的各种振荡行为。

在这里插入图片描述

  • V V V:膜电位
  • W W W:栅极通道的变量
  • C C C:膜的电容
  • g C a 、 g K 、 g L g_{Ca}、g_K、g_L gCa​、gK​、gL​:分别表示Ca2+的最大电导、K+的最大电导和漏电流的最大电导
  • I e x t I_{ext} Iext​:外部刺激
  • V C a 、 V K 、 V L V_{Ca}、V_K、V_L VCa​、VK​、VL​: 分别是 Ca2+、K+ 和泄漏离子通道的稳态电位
  • M ∞ ( V ) 、 W ∞ ( V ) M_{\infty}(V)、W_{\infty}(V) M∞​(V)、W∞​(V):钙和钾打开概率的稳定值
  • V 1 、 V 2 、 V 3 、 V 4 V_1、V_2、V_3、V_4 V1​、V2​、V3​、V4​:稳态参数
  • τ w \tau_w τw​:系统参数

4. HR 神经元

该模型不仅可以促进计算,而且可以生成真实生物神经元表现出的大部分放电行为,例如静止、尖峰放电和爆发放电。 HR模型包括2D模型和3D模型

2D:

在这里插入图片描述

  • x x x:膜电位
  • y y y:恢复变量
  • a , b , c , d a, b, c, d a,b,c,d:模型参数
  • I e x t I_{ext} Iext​:外部刺激

3D:

在这里插入图片描述

  • x x x:膜电位
  • y y y: 描述离子通过快速离子通道穿过神经元膜的交换
  • z z z:缓慢变化的适应电流
  • I e x t I_{ext} Iext​:模拟生物神经元的外部电流
  • r r r:控制慢变量 z 变化速度的小参数
  • ϵ \epsilon ϵ:设置系统的静息电位
  • a , b , c , d , s , r a, b, c, d, s, r a,b,c,d,s,r:系统参数

5. Chay 神经元

1985 年,为了重现 β 细胞的放电行为,Chay 开发了一个三维神经元模型,可以模拟爆裂和混沌放电。

在这里插入图片描述

  • V V V:膜电位
  • n n n:打开电压依赖性 K + K^+ K+ 通道的概率
  • C C C:细胞内 C a 2 + Ca2^+ Ca2+ 浓度
  • I i o n , I k v , I k c I_{ion}, I_{kv}, I_{kc} Iion​,Ikv​,Ikc​:分别是内向混合 Na、Ca 离子电流、外向电压依赖性 K 离子电流、外向钙依赖性 K 离子电流
  • I L , I e x t I_{L}, I{ext} IL​,Iext:分别是泄漏电流和外部刺激
  • V i o n , V K , V L V_{ion}, V_K, V_L Vion​,VK​,VL​:分别是混合 Na - Ca、K 和泄漏离子的反转电位
  • g i o n , g k v , g k c , g L g_{ion}, g_{kv}, g_{kc}, g_{L} gion​,gkv​,gkc​,gL​:表示最大电导,其中下标分别指电压依赖性混合离子通道、电压依赖性 K 通道、 电压依赖性 Ca - K 通道和泄漏通道。
  • M ∞ , h ∞ M_\infty, h_\infty M∞​,h∞​:分别为混合通道激活和失活的概率
  • n ∞ , n n_\infty, n n∞​,n:稳态值

1 - 5 都可以统一成:

在这里插入图片描述

V m e n V_{men} Vmen​:神经元的膜电位
V y V_y Vy​:各种离子通道诱导的一些状态变量
I e x t I_{ext} Iext​:外部刺激

6. Hopfield 神经网络

由于其强大的非线性和灵活的代数表达式,HNN 特别适合模拟大脑中各种复杂的动力学行为,尤其是混沌行为

在这里插入图片描述

  • C i , R i , x i C_i, R_i, x_i Ci​,Ri​,xi​:分别是第 i 个神经元的膜电容、膜电阻和膜电位
  • w i j w_{ij} wij​:第 i 个和第 j 个神经元之间的突触权重
  • v j = t a n h ( x j ) v_j = tanh(x_j) vj​=tanh(xj​):神经元激活函数
  • I i e x t I_{iext} Iiext​:外部刺激

7. Cellular 神经网络

1988 年,Chua 和 Yang [10] 提出了一种基于元胞自动机和 Hopfield 神经网络的元胞神经网络(CNN)

在这里插入图片描述

  • C C C:线性电容器
  • R R R:线性电阻器
  • x i j , y i j , u i j x_{ij}, y_{ij}, u_{ij} xij​,yij​,uij​:分别是神经元 ( i , j ) (i, j) (i,j)的内部状态、输出、输入
  • $ A (i, j; k, l) 和 B (i, j; k, l) $:分别是输出反馈参数和输入控制参数
  • I i j e x t I_{ijext} Iijext​:外部输入电流
  • C ( k , l ) C(k,l) C(k,l):代表神经元 ( k , l ) (k,l) (k,l)
  • N r ( i , j ) N_r(i,j) Nr​(i,j):代表神经元 ( i , j ) (i,j) (i,j)的 r r r邻域,
    • 即 { ( k , l ) ∣ m a x { ∣ k − i ∣ , ∣ l − j ∣ } ≤ r , 1 ≤ k ≤ M , 1 ≤ l ≤ N } \{(k,l)|max\{|k − i|, |l − j|\} ≤ r, 1 ≤ k ≤ M, 1 ≤ l ≤ N\} {(k,l)∣max{∣k−i∣,∣l−j∣}≤r,1≤k≤M,1≤l≤N}
  • 此外, ∣ x i j ( θ ) ∣ ≤ 1 , ∣ u i j ∣ ≤ 1 |x_{ij}(θ)|≤1, |u_{ij}|≤1 ∣xij​(θ)∣≤1,∣uij​∣≤1

三、忆阻神经元和神经网络模型

忆阻(memristance)
M = d ϕ d q M = \frac {d\phi}{dq} M=dqdϕ​
忆感(memductance)
W = d q d ϕ W = \frac {dq}{d\phi} W=dϕdq​
忆阻器(memristor):将电荷与磁通量之间建立连接的组件,后来延申至任何表现出收缩磁滞回线的两端设备

在这里插入图片描述

磁滞回线:当受到周期性电压或电流信号驱动时,磁滞回线总是通过电压-电流平面中的原点

在这里插入图片描述

忆阻器模型

在这里插入图片描述

  • v v v:输入电压
  • i i i:输出电流
  • W W W:关于 ϕ \phi ϕ 的连续函数
  • ϕ \phi ϕ:磁通量

通用忆阻器模型

在这里插入图片描述

其中 W 是 x 的连续函数,称为记忆电导,x 是状态变量,f (x, v) 是 Lips chitz 函数。

  • W W W:关于 x x x 的连续函数
  • x x x:状态变量
  • f ( x , v ) f(x, v) f(x,v):Lipschitz 函数

忆阻器可用于

  • 模拟生物神经突触
  • 描述由外部电磁辐射引起的电磁感应效应

1. 忆阻自噬神经元模型

将基于忆阻器的自突变产生的自突变电流引入到传统的单神经元模型中,可以建立忆阻自突变神经元模型

概念图:

在这里插入图片描述

忆阻自突电流可以通过由忆阻和膜电位引起的感应电流计算,即:

在这里插入图片描述

  • I a u t I_{aut} Iaut​:自突电流
  • ρ \rho ρ:自突电流的反馈增益
  • V m e m V_{mem} Vmem​:神经元膜电位
  • W W W:忆感

忆阻突变模型:

在这里插入图片描述

就是第二部分 1 - 5 的统一模型加了一个 I a u t I_{aut} Iaut​

运用到第二部分的神经元模型中,发现了很多混沌现象

2. 忆阻突触耦合双神经元网络

概念图:

在这里插入图片描述

当两个神经元通过忆阻器连接时,可以诱导信号交换,即在忆阻突触上产生突触电流。 根据忆阻器的非线性特性,忆阻突触电流可以表示为:

在这里插入图片描述

  • I s y n I_{syn} Isyn​:忆阻突触电流
  • ρ \rho ρ:忆阻器与神经元之间的耦合强度
  • V m e n 1 , V m e n 1 V_{men1}, V_{men1} Vmen1​,Vmen1​:神经元 1 和神经元 2 的两个膜电位
  • W W W:忆感

忆阻突触耦合双神经元网络可以描述为:

在这里插入图片描述

就是上面的单神经元变双神经元

3. 忆阻突触权重神经网络

概念图:

在这里插入图片描述

因为突触的突触权重和忆阻器的忆感(memductance)都以西门子为单位,所以用忆阻器代替神经元的突触是意料之外但情理之中。落实到 Hopfield 神经网络中就是用忆感代替神经元之间的连接权值:

在这里插入图片描述

其中:仅 w i j w_{ij} wij​ 用忆感代替,即:
w i j = ρ W ( x ) w_{ij} = {\rho}W(x) wij​=ρW(x)

  • ρ \rho ρ:代表耦合强度

4. 电磁辐射下的神经元

概念图:

在这里插入图片描述

电磁辐射下的神经元:

在这里插入图片描述

在这里插入图片描述

其中 ,k 表示膜电位和磁通量之间的耦合强度

  • I E R I_{ER} IER​:磁通量改变时膜电位的反馈电流
  • k k k:表示膜电位和磁通量之间的耦合强度
  • ϕ \phi ϕ:描述穿过神经元膜的磁通量
  • V m e m V_{mem} Vmem​:膜电位
  • V y V_y Vy​:各种离子通道诱导的一些状态变量
  • μ V m e m {\mu}V_{mem} μVmem​:膜电位引起的磁通量变化
  • h ( ϕ ) h(\phi) h(ϕ):膜电位引起的磁通量泄漏

5. 电磁辐射下的神经网络

在这里插入图片描述

其中:
I E R i = k i W ( ϕ i ) x i I_{ERi} = k_iW(\phi_i)x_i IERi​=ki​W(ϕi​)xi​

参考文献:https://doi.org/10.1007/s11071-021-06853-x

标签:混沌,22,突触,忆阻,膜电位,2021,电流,神经元
来源: https://blog.csdn.net/m0_47694330/article/details/120422692

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有