"数据黑匣"和"不可信"阻碍AI发展？区块链或许是救命稻草

9月16日，巴比特在上海举办了第11期《Chainge》技术沙龙，主题是区块链+人工智能，搜狗输入法之父马占凯、《深度卷积网络：原理与实践》作者彭博、比原CTO朗豫、JarvisPlus创始人佘泽鹏等嘉宾受邀分享各自观点。

▲Couger创始人Ishii

Ishii也是分享嘉宾之一，他曾在IBM从事开发工作，后在日本涩谷创立Couger。如今，他和团队正忙于CONNECTOME（连接组）项目的开发。这是一个集合了AI（人工智能）、Robotics（机器人技术）、IoT（物联网）及Blockchain（区块链）的项目。

Ishii认为，未来人工智能设备将无处不在，但是，人工智能在数据训练领域存在数据黑匣子问题。而亚马逊 Alexa音响漏洞、Uber 无人车事故等也让人们对人工智能产生了怀疑。恰恰，区块链技术或许是拯救AI的一方良药。依靠区块链技术跟踪AI数据信息，AI将更加安全、可靠。

以下内容来自Ishii及CONNECTOME首席区块链架构师Ishiguro Kazuaki演讲，经巴比特整理：

AI不可信？

AI在全世界红得发紫，它通过分析海量数据学会完成任务，它可以帮聊天机器人学会沟通的艺术，它也能让无人驾驶汽车开上公路，它甚至成为自动化机器潮流的一部分。但AI研究者明白，它可能并不是非常可靠。

Ishii觉得这体现在两个层面。第一，人工智能技术需要海量数据进行训练和学习，由此机器人才能完成复杂判断。但这一过程中算法内部的运作往往并不透明，存在数据黑匣子问题，人们并不能明白该过程是如何发生的，AI做出判断的理由又在哪里。

Ishii的同伴Ishiguro Kazuaki认为，从目前已运行的AI设备看，漏洞和麻烦一路相随。比如亚马逊智能音响就曾发生用户隐私泄露事件，该音响录制了西雅图一位用户的私密对话，并将其发送给了另一位联系人。2018年3月，Uber无人车发生重大交通事故致人死亡，最终，Uber在解释无人车没有采取避让措施的缘由时称，传感器其实探测到了行人，但系统认为这是一个无需避让的塑料袋。

AI真的可以信赖吗？它真的安全吗？这或许是AI面临的一个挑战。

区块链技术是救命稻草？

AI的痛点或许就是区块链技术最有价值的地方。

Ishii的公司正在研究用区块链的方法解决AI所处的困境，其方案名为GeneFlow（基因流）。GeneFlow分为三个功能。首先是学习处理，在学习过程中，GeneFlow方案可以将AI学习到的算法模型和训练数据转化为哈希值，并保存在分布式存储系统上。在执行过程中，该方案可以记录AI从分布式存储系统里调用了什么学习模型，并显示目标数据的执行结果。在这个过程中，它还可以评估各种组合生成的多个学习模型，并且选择最佳模型。

因为所有历史都被记录在区块链上，AI数据黑盒子的问题迎刃而解。针对AI出现的问题，通过区块链技术也能查找问题原因。此外，他们在Connectome生态系统上同时引入一种TCR机制，一定程度上识别并淘汰恶意用户，让多个公司和研究机构共享安全的学习数据和学习模型。而区块链数据不能篡改，更不会丢失的特性为AI构建起一种信任。

AI+Iot+Robotics+Chainblock=智能空间？

Ishii领导的这个项目叫Connectome，中文叫连接组，Ishii把它定义为聪明的空间。它将应用到IOT、AI、Robotics及Blockchain等多种技术。物联网扮演人的五感，机器人作为身体，区块链作为血液和神经，AI是大脑。Ishii称，如果把这几种技术与虚拟代理人这种新型的交易界面相结合，就能彻底改变世界的运作方式。

在《Chainge》技术沙龙现场，Ishii称他们正在研发一种新型的交互界面，他称之为虚拟智能人。借助上述几大技术，该虚拟人拥有视觉和听觉，能够和用户顺畅交谈，而且，她能够了解整个空间和空间里的物体。Ishii呈现了一段演示视频，视频里，某办公空间里有一个电视屏幕，屏幕上是虚拟的女智能体形象。她发现另一个办公室正在开会，但四人中两人面前没有水瓶。于是，她向一位真人职员传递信息，要求他拿两瓶水过去。有趣的是，用户可以自定义这个类似于游戏角色的虚拟智能体形象。

在Ishii的构想里，这种技术也可以被用在智能互联汽车、智慧城市、智能家居等领域。在区块链技术的加持下，极具科幻感的未来生活离我们还有多远？