在上一篇博文中(基于python语言，使用爬虫和深度学习来预测双色球（一、数据的准备）)，我们完成了数据的准备，通过爬虫的方式将至今的每一期的中奖数据保存到了txt文件中，那么我们现在就开始深度学习模型的训练和预测。
首先我们选择使用RNN的变种网络LSTM来实现双色球的预测，LSTM的出现是为了解决RNN无法有效处理长期记忆（Long Term Dependencies）的问题，同时规避了标准RNN中梯度爆炸和梯度消失的问题，所以会显得更好用，学习速度更快。所以LSTM非常适用于基于时序数据的预测，比如预测未来的股票行情，预测未来某个时间段的交通情况，预测未来的房价等。
因为本人工作主要是进行分类和识别，所以对于预测的算法不怎么精通，于是只能边学边写，有关LSTM的相关知识可以参考以下几篇文章：
Tensorflow实战：LSTM原理及实现（详解）基于TensorFlow构建LSTM...
深度学习
定义神经网络的参数# lstm 的各个参数self.timeStep = 10self.hiddenUnitSize = 20 # 隐藏层神经元数量self.batchSize = 20 # 每一批次训练多少个样例self.inputSize = 1 # 输入维度self.outputSize = 1 # 输出维度self.lr = 0.0006 # 学习率self.train_x, self.train_y = [], [] # 训练数据集self.sortedChargeList = [] # 排序的训练数据集self.normalizeData = [] # 归一化的数据self.X = tf.placeholder(tf.float32, [None, self.timeStep, self.inputSize])self.Y = tf.placeholder(tf.float32, [None, self.timeStep, self.inputSize])self.weights = {'in': tf.Variable(tf.random_normal([self.inputSize, self.hiddenUnitSize])),'out': tf.Variable(tf.random_normal([self.hiddenUnitSize, 1]))}self.biases = {'in': tf.Variable(tf.constant(0.1, shape=[self.hiddenUnitSize, ])),'out': tf.Variable(tf.constant(0.1, shape=[1, ]))}
从DCnumber.txt中读出所需的数据
#原始数据读取def loadData(self):fp = open(self.dataFile, 'rb')self.date_l = [] #存放日期self.num_l = [] #存放中奖号码#从文件种读取所需的数据while True:line = fp.readline().decode()if not line:breakdata = line.split(";")if len(data) < 2:continuenum = re.findall(r'\d+',data[2]) #从(-07-21;084;04,08,14,18,20,27,03)提取出[04,08,14,18,20,27,03]num = num[self.n] #从[04,08,14,18,20,27,03]中选择第n个self.num_l.append(int(num))
将上一步所得到的数据，进行标准化处理，得到训练数据
# 构造满足LSTM的训练数据def buildTrainDataSet(self):self.num_l.reverse()self.meanNum = np.mean(self.num_l)#平均值self.stdNum = np.std(self.num_l) #标准差self.Data = (self.num_l - self.meanNum) / self.stdNum # 标准化self.Data = self.Data[:, np.newaxis] # 增加维度for i in range(len(self.Data)-self.timeStep-1):x = self.Data[i:i+self.timeStep]y = self.Data[i+1:i+self.timeStep+1]self.train_x.append(x)self.train_y.append(y)
建立lstm网络
def lstm(self, batchSize = None):if batchSize is None :batchSize = self.batchSizeweightIn = self.weights['in']biasesIn = self.biases['in']input = tf.reshape(self.X, [-1,self.inputSize])inputRnn=tf.matmul(input,weightIn)+biasesIninputRnn=tf.reshape(inputRnn,[-1,self.timeStep,self.hiddenUnitSize]) #将tensor转成3维，作为lstm cell的输入cell=tf.nn.rnn_cell.BasicLSTMCell(self.hiddenUnitSize)initState=cell.zero_state(batchSize,dtype=tf.float32)output_rnn,final_states=tf.nn.dynamic_rnn(cell, inputRnn,initial_state=initState, dtype=tf.float32) #output_rnn是记录lstm每个输出节点的结果，final_states是最后一个cell的结果output=tf.reshape(output_rnn,[-1,self.hiddenUnitSize]) #作为输出层的输入w_out=self.weights['out']b_out=self.biases['out']pred=tf.matmul(output,w_out)+b_outreturn pred,final_states
进行模型训练，并保存模型
def trainLstm(self):print('begin to train NO:'+str(self.n+1))pred,_ = self.lstm()#定义损失函数loss = tf.reduce_mean(tf.square(tf.reshape(pred, [-1]) - tf.reshape(self.Y, [-1])))#定义训练模型train_op = tf.train.AdamOptimizer(self.lr).minimize(loss)saver = tf.train.Saver(tf.global_variables())with tf.Session() as sess:sess.run(tf.global_variables_initializer())# 重复训练100次，训练是一个耗时的过程for i in range(100):step = 0start = 0end = start + self.batchSizewhile end < len(self.train_x):_, loss_ = sess.run([train_op, loss], feed_dict={self.X: self.train_x[start:end], self.Y: self.train_y[start:end]})start += self.batchSizeend = start + self.batchSizeif step % 20 == 0:print('num:%d step:%d loss:%f'%(i,step,loss_))step += 1#训练完成保存模型saver.save(sess, './DCModel_'+str(self.n)+'/stock.model')
预测下一期的双色球
def prediction(self):print('begin to prediction NO:'+str(self.n+1))pred, _ = self.lstm(1) # 预测时只输入[1,time_step,inputSize]的测试数据saver = tf.train.Saver(tf.global_variables())with tf.Session() as sess:# 参数恢复module_file = tf.train.latest_checkpoint('./DCModel_'+str(self.n))saver.restore(sess, module_file)# 取训练集最后一行为测试样本. shape=[1,time_step,inputSize]prev_seq = self.train_y[-1]next_seq = sess.run(pred, feed_dict={self.X: [prev_seq]})return int(next_seq[-1][0]*self.stdNum+self.meanNum+0.5)
程序启动代码
if __name__ == '__main__':path = '.\DataPreparation\DCnumber.txt'type = 1 #0表示训练，1表示预测preNumber = []#存放预测出来的值for n in range(7): #0-5表示从1到6个红球，6表示篮球predictor = DCPredictor(path,n)predictor.loadData()# 构建训练数据predictor.buildTrainDataSet()if type == 0:# 模型训练predictor.trainLstm()else:# 预测－预测前需要先完成模型训练number = predictor.prediction()preNumber.append(number)print('预测下一期的中奖号码为:'+str(preNumber))
总结：
到这个地方，该项目基本上就宣布基本上完成了，当然这只是一个比较粗略的双色球预测，写这篇博文的目的是为了让自己能够进一步的了解基于时间序列预测的原理，并不能达到真正准确的双色球预测。
因为双色球由7个号码组成，在这个项目采用的是每个号码单独预测的方式来进行训练和预测(一开始是准备7个号码为一组数据进行训练和预测，但是这种情况下就会出现很多很多的小问题，所以被我放弃)。
如果需要完整的项目代码，可以从GitHub上进行下载：链接
非常感谢各位的阅读，同时也希望各位能够提供一些建议，让我们共同完善这个项目，使得预测结果更加精准
