第十二章 把自己当驴使唤

当然股神1.0仅仅有分析模块和收集模块是不够的,它还需要有一个数据处理模块,如果说分析模块是大脑,收集模块是手脚的话,那么处理模块就是消化系统。

当海量的数据信息被从数据海洋中抽取出来,需要对这些信息进行加工处理,将它们处理成数据分析模块能够利用的数据模式。

比如某个上市公司一个年度财报,里面的内容非常之多,从人事变更到企业战略,并购行为,利润营收等方面都会涉及到,而这些东西又是关键性信息。一个数万字外加各种图标的财报,其中各种关键信息必须能够被分析模块理解并进行加工,这就是处理模块的主要工作了。

这个数据处理模块主要的功能部分其实是自然语言处理,程序本身是无法理解语言内涵的,它肯定无法理解“定向增发100万限售股”是什么意思,这时候就需要认为给这句话进行赋值,让它变成机器能够理解的数据信息。

比如首先进行意义分割,将定向设定为一个意义单元,将增发设定为另外一个单元,以这种方式将整个句子按照意义单元分割开来,分别进行赋值。

这一套加工手段里面就牵扯到人机交互的语言处理问题,需要人为的帮助计算机去理解和处理人类的语言,让机器能够看懂语法、语意单元,能够联系上下文,能够处理不同语境下同一个词组的不同含义。

简单来说,让机器能够理解人类语言,这就是自然语言的主要目标,同时也是这个处理模块的主要功能。

分析、收集、处理,这三大模块是股神1.0的主要功能结构,但是仅仅如此还是不够的,股神还需要很多的辅助模块。

比如它需要有存储模块,所有的数据信息搜集回来,必须整理加工好,然后分类存储起来,它就像一个超级图书馆一样,必须有自己的分类和存储规则。如果没有这些,你只是简单的将它们堆放在一起,你就可以想象,当你需要从数千万本书籍当中,找出某一页特定内容时,那将会是怎样一个痛苦而又恐怖的过程。

另外股神还需要相应的展示和交互模块,股神作为一个软件,它需要有自己的操作界面,需要能够将处理结果或者过程展现出来,需要能够接收指令,进行人机交互。

这五个模块组合在一起,并且能够顺畅的相互配合了,股神系统才算基本成型,而中间肯定会有各式各类的问题不停冒出来,这都需要莫回逐个解决掉。在使用的过程中,肯定还涉及到不停的跟新和改良,所有这些都将是莫回的工作。

按照莫回的估算,整个股神的体量不太可能低于100万行代码,如果想要让股神尽可能的完美而准确,那它的体量绝对会翻着跟头的往上翻。想要实现什么功能,你就必须付出相应的代价,如果你想要让股神的预测尽可能精确,那么不停的往里投入肯定是必不可少的。

这还仅仅是股神本身,如果想要股神运作起来,那么莫回必然还将面临着带宽的问题,爬虫一旦跑起来,海量数据就会被传回,这些数据至少也是t级的。

在计算机领域,数据大小的单位是1024进制的,一个字节为byte,1024字节为kb,1024k为m,1024m为g,1024g为t.

比如我们手机的存储容量可能是4g,笔记本的存储容量可能是400g,而一台笔记本的400g大概相当于一千部电影。

而股神通过爬虫搜集来的数据肯定是海量的,至少是t级别的,就是跑到p级别也不算是什么大事。比如1p的数据,它大概相当于250万部电影。人的一生也不过3万天,每天看十部电影,也足够看十辈子的了。

在如此大量的数据面前,莫回必然面临一个带宽问题,很容易想象,出租屋里的小区宽带肯定是不好使的。

现在超级本的运算能力已经获得验证了,应该是比较超常的,但是它的存储能力还未测试,如果存储能力不成的话,莫回还必须为这海量数据寻找一个存储空间。

诸如此类的问题还有很多,如果莫回想要把股神完成,并且上线运行,那么他必须像是老黄牛一样,勤勤恳恳的往前走,把这些挡路石一个个的全部处理掉。

本来这些事就是交给一个公司处理,一个成熟的团队来处理,都未必能够处理得很好,现在莫回需要一个人搞定,并且很可能必须不显山不漏水的一个人搞定,这里面的难度就可想而知了。

想想未来的前路,莫回感觉好像是登珠峰一样,好高啊~~~

好在莫回多少算是业内人士,这些事基本算得上是本职工作,无非就是项目经理、产品经理、主程、架构一肩挑了。难是难了点,工作量大是大了点,但是好歹还算有解决办法,只要沿着道路一步步走,总会有完成的那一天。

工作量不小,不过也不是没有捷径可走,莫回点开网页,开始搜集他需要的开源软件。他去开源之家搜了一下,开源的爬虫就有有一百多个,里面估计会有合用的。

五大模块他都简单的搜了一下,大多数都还有类似的可替代软件,现在他需要做的就是在里面找到最合适的哪一款,然后修改后进行组装。

首先需要选择开发语言,各种语言都有自己的适用范围和优缺点,一旦选定了,那么五大模块都需要是同一个语言开发出来的才行,这样也方便组装和拓展开发。

莫回想了想,他最终选定了cAAAA,因为这种语言更加靠近底层和汇编,整体执行效率和速度比较好。

莫回开始在网上寻找和筛选合用的开源软件,将那些基本符合要求的cAAAA开发的软件全部下载下来,各自先归类存储起来。

等莫回将合用的三十多个各类爬虫全部下载下来的时候夜已经深了,莫回揉揉僵硬的脖颈,伸伸懒腰,不由得为今后的日子哀叹:要拼老命了啊,上班拼命回家也要拼命,这是要把自己当驴使唤啊~~~

第110章 它们都是猪肉第103章 恩,这是一个巧合!第八十章 时间性预感第230章 阶层固化第二十三章 怎么就是个专业人士呢?第七十五章 童年有阴影~~~第183章 是真的!第144章 术业有专攻第六十四章 把他搞臭第172章 信号的穿越第七十四章 踩点第九十五章 绕指柔第234章 虚拟仓第九十三章 权能之主第九十九章 女友定制协议第216章 商业层次第177章 纳粹的幽灵第六十六章 祝福你!第七十七章 命中注定的人第七十章 创意也能卖钱第177章 纳粹的幽灵第217章 机器人时代第四章 日子还得过第176章 相攻相杀第221章 她不是我喜欢的类型第二十九章 真钱啊!第八十八章 你想做上帝都做不到的事情吗?第五十一章 天网第197章 金融的本质第七章 聚餐第143章 推衍1.0第168章 牺牲和鼠标左键第六十五章 非洲大草原第142章 为了公司我们需要一个总统第196章 多层逻辑的现实第四十三章 事发了!第203章 商业1.0第161章 间谍第200章 方法总比困难多第196章 多层逻辑的现实第八十三章 生物进化的最高成就第195章 最大的幸运第225章 全息投影第228章 要生存!不要机器人!第119章 信息管理模块第六十章 大计划~~~第228章 要生存!不要机器人!第八十二章 白挨打了~~~第二十四章 你就是那个凶手第229章 无条件最低收入法案第二十七章 80%胜率第208章 时代大潮的挤压第204章 与传奇同行第158章 放一亿美国人鸽子第199章 工业4.0第217章 机器人时代第224章 第二条道路第七十章 创意也能卖钱第三十九章 守株待兔第五十四章 第一个客户第三十二章 比抢银行还快!第六十章 大计划~~~第177章 纳粹的幽灵第八十九章 收网第二十一章 去噪第113章 更热闹了第191章 难以想象第114章 倒闭潮第143章 推衍1.0第八十四章 神马都是浮云~~~第201章 科研1.0第224章 第二条道路第八章 比特币第169章 美国王宝强第173章 人一生认识多少人第175章 死神来了!第160章 一见钟情=DNA辨识第149章 变色的美国第110章 它们都是猪肉第177章 纳粹的幽灵第202章 投资的眼光第八十八章 你想做上帝都做不到的事情吗?第178章 平行世界第142章 为了公司我们需要一个总统第九十六章 令人虚弱的爱第234章 虚拟仓第107章 桑达尔·皮查伊第126章 404第五章 要钱的老爸第132章 敲骨吸髓第三十三章 两个维度的生物第九十章 谁让你的姿势那么性感呢~~~第230章 阶层固化第九十九章 女友定制协议第八十七章 心理学家也是人223章 首善之区第112章 捅马蜂窝第103章 恩,这是一个巧合!第214章 雅典娜第五十七章 为客户负责