设置

关灯

第279章 他们想要的是统治世界(第二更) (6 / 7)

《关闭小说畅读模式体验更好》


        “咳,古狗尚未真正弄明白Juzi的模型结构,现在我们只能分析出,它具有60层的神经网络设计,而每一层之中,又细分成为不同的神经网络架构,这些神经网络架构与已知的都不同。”

        拉里佩奇身旁的杰弗里辛顿咳嗽了一声,率先开口道。

        “不过,你们对后门倒不用过于担心。Juzi1.99Dec的代码结构部分还是非常简单的,经过代码审查不存在任何后门问题。

        “真正复杂的是神经网络部分,当然,神经网络参数中并非不能设置后门。”

        “例如故意污染原始训练数据、调整特定输入时的参数表现等等都能够设置类似后门的漏洞。”

        “但是,基于深度学习的最基本原理,只要对大模型重新进行预训练(Pre-Training),可以彻底解决后门的问题,只不过需要付出的代价有些大。”

        “Juzi1.99Dec具有1500亿的参数,如果完全重新训练这个大模型,大概需要15000块最先进的GPU和耗费近一个月的时间,总体的花销可能要近亿迈元。”

        “基于橘子大模型所表现出的性能,我认为即使完全重新预训练,也是值得的,同时可以避免后门导致的国家安全问题。”

        杰弗里辛顿说完,摘下眼镜,看了看身边的拉里佩奇和旁边的老朋友勒邱恩。

        “即使如此,也不能完全避免安全问题!”勒邱恩身旁的扎克伯格脸色通红,只有眼圈是白的,激动的锤了下桌子。

        “不能够允许柚子科技在迈国开展业务!这是一个底线!国家安全顾问委员会必须下令禁止柚子科技进入迈国!”

        内容未完,下一页继续阅读