侯艳丽
(商丘师范学院计算机与信息技术学院,河南商丘476000)
移动机器人要在未知环境中安全地完成指定任务,导航系统应具有灵活性和适应性,使其能适应工作环境,提高工作效率[1]。要达到这一目的,学习是一个不可缺少的重要环节。强化学习以其自学习和自适应的特点成为求解不完全、离散的马尔可夫决策问题的有效方法,已经广泛应用在机器人研究领域[2-7]。在国内外大量的强化学习研究中,大都把系统的状态看作有限的集合。但是在实际机器人导航中,系统的状态空间往往是连续的,并存在状态变量的空间复杂性问题[8]。为了解决强化学习中的泛化问题,常用神经网络值函数做最优策略逼近[2-7]。尽管这些方法可以提高强化学习的效率,但在理论上是非凸的,容易陷入局部极小。文献[9]提出利用LS-SVM实现由系统状态-动作对到Q值函数的映射,同时为了提高学习速度,引入滚动时间窗。该方法与神经网络相比,泛化能力明显提高,签于此,笔者将其用于CASIA-I的导航控制中。
安装有触觉红外、近红外和超声等多传感器的CASIA-I利用它们感知障碍物。它们的有效作用距离分别为dch=20 cm,dnear=45 cm和45~350 cm。将这些传感器分成3组:1)由触觉红外ch1~ch3、近红外nh1~nh3和超声ul1~ul3构成;2)由触觉红外ch4~ch8、近红外nh4~nh8和超声ul4~ul8构成;3)由触觉红外ch9~ch11,近红外nh9~nh11和超声ul9~ul11构成。
假设CASIA-I的动作有直行、右转15°,左转15°。直行的最大速度为每步dmax。不管是触觉红外还是近红外,当探测到障碍物时,输出为1,否则,输出为0。取

di为障碍物到超声的距离,ds为事先确定的安全区域的半径,将CASIA-I工作环境分成:……p>