第四九一章 自缚
推荐阅读:深空彼岸、明克街13号、最强战神、渡劫之王、天下第一、万族之劫、重生之都市仙尊、好想住你隔壁、特种奶爸俏老婆、妖夏
一秒记住【四四中文网 www.44zw.net】,精彩小说无弹窗免费阅读!
到那时,脱离了这一躯壳的人,还能算是传统的“人类”、甚至于“人”么。
想法有点脱离实际,现在,只能借助“替身机器”去远程操控生化仿真人,其实这一过程也和完全的机械化差不多,区别只在于,人的意识栖居之所,神经系统,仍然依赖着传统的肉身才能存活。
倘若有这样的办法,让身体永存,每一天都借助“替身机器”在这世界上活动,甚至更进一步,用VR徜徉于虚拟世界,是不是就更接近于永生。
在一边看兰伯特吃饭,诸多想法一晃而过,方然借助虚拟显示查看资料,整理思路。
而看上去有一点心事重重的莱斯利*兰伯特,则有点食不知味,踌躇片刻后,还是有点沙哑的开口。
“阿达民先生,说真的,对您刚才所说的一切,我们的确未曾严肃认真的考虑过。
但,这方面的辩论且不谈,即便AI的自我意识,会和遍布历史痕迹的人类之自我意识不一样,本质上就大有区别,但,失控的风险仍会存在:
一个AI,终日沉浸于科学研究,以探寻未知、探索奥秘为至高目标,作为创造者,人类或许能将AI塑造成这般模样。
但,说到这里,您想必也能明白,有能力从事‘创造性、探索性科学研究’的AI,其基础架构与运行机制,必定与现有的一切AI大有区别,本质上讲,其必定会有强大的自我重构、自我完善能力,甚至还可以自我演化、自我推进。
这样的AI,其核心的‘自我意识’部分,假使有的话,很快就会完全脱离人类的控制,即便对其施加影响也十分困难:
总而言之,一旦启动该系统,接下来我们能做的就很有限,差不多就是‘听天由命’。
随着机器小时的积累,对人而言,AI的当前运行状态,及其自身所处的状态,会越来越模糊,越来越不可知;
这,难道不是一种潜在的、极其危险的情形吗。”
AI的失控风险,乍一听来,似乎是科幻作品的滥-情节,方然却很专注,他知道兰伯特先生想表达的并非那种意思。
“人工智能觉醒,继而与人开战”,从《终结者》到《黑客帝国》的火爆场景观赏性十足,却经不起推敲:除非以毁灭人类为目标,专门开发这样的AI,否则人工智能并不会变成一个失控的精神病,这才是学术界公认的观点。
但是,即便以纯粹的研发、探索等目标,设计并制造出这样的AI,假以时日,会不会性情大变,甚至认为其环境的一部分——人类,是其实现目标的障碍;
在进行相关研究时,这,是一个必须考虑的原则性问题。
站在莱斯利*兰伯特的立场,阿达民,既然专门找自己谈话,吩咐研发任务,想必一定全面的权衡过利弊、分析过风险。
然而听到阿达民的话,他却有一点意外:
“是的,兰伯特先生,这的确是一种莫大的风险。”
“那我们……?”
什么意思,您到底要不要吩咐我们,进行这些研究;
或者,这只是一次闲极无聊的纯粹理论研讨、空对空的畅想,兰伯特有点迷惑。
而这时的方然,虽然有点饿,还是挺少见的决定讲完这一席话再退出连线,毕竟,他认为接下来的话,对兰伯特和他的同僚很重要:
“风险,自始至终,必定是会有的。
如果考虑到AI的自我演化,是从事科学技术研究的一种必备要素,一旦创造出这种AI,接下来,人类就只能在旁观望、听天由命,这说法也没有什么原则性的错误。
但接下来,意识到这种莫大的风险,人类又当何去何从?
为了规避风险,而禁止一切与‘强AI’相关的研究,正如我之前所做的那样,是吗。”
“不,这……不一样,出发点和动机并不一样。”
“动机并不一样,这我承认;
但是讨论这种问题时,动机,根本就不重要。
回到这一根本性的问题,兰伯特先生,听完这些话,您是否仍坚持,人类应该自缚手脚、禁止进行任何‘创造性、探索性人工智能’的研究?
那么,这里必须指出,禁止强AI研究的后果会是什么:
当今时代的基础科学,老生常谈,几十年来恍若一潭死水,倘若我们瞻前顾后、束手束脚,在现今唯一有希望突破的领域——强人工智能方面无所作为,那么,人类文明或将在未来很长一段时间内,”
说到这里,方然忽然心头发紧,但“替身”没有面部表情,对方也无从得知,
“都无法有任何进步,不仅如此,彼时放眼未来,甚至会连一丝改变现状的希望都没有。
面对这种前途,倘若能接受停滞不前的状态,甘于苟活在这样一个死气沉沉的世界,似乎也还可以忍受;
但我却想要提醒您、和您的同僚,以宇宙之浩瀚无垠,其他行星上的高等文明想必不在少数,即便面对‘强AI’的诱-惑,绝大多数文明的选择都会是画地为牢,然而,一旦有极少数文明,出于种种考虑而选择了研发‘强AI’,局面又会怎样?
宇宙中其他文明,一旦研发并创造出‘强人工智能’,是否能凭借这种力量,获得飞跃性的发展,甚至突破文明与文明之间的遥远时空,本人无从知晓。
唯一能确定的事实,则是选择自缚手脚、裹足不前的文明,必定不会有未来。”
一边叙述,一边有点情绪激动,方然的手势被“替身”精确再现,而坐在旁边的莱斯利*兰伯特,则嘴巴微张、面露惊讶。
的确,倘若一切如阿达民所言,那么现在的局面……
今天的人类文明,即便拒绝研发‘强AI’、拒绝尝试创造出有自主行为的人工智能,也没办法以眼下的状态长久维持下去,用不着谁提醒,NEP大区的每一位资深研究者,都清楚这样的事实。
当今时代的科研,事关岗位、生计,然而没了基础研发的支持,这一切忙碌的表象又能维持多久;
终有一天,当所有的技术领域,都开掘殆尽,人类的科技研发穷途末路。
那时会笼罩着文明的,便将会是黑暗,没有尽头。
到那时,脱离了这一躯壳的人,还能算是传统的“人类”、甚至于“人”么。
想法有点脱离实际,现在,只能借助“替身机器”去远程操控生化仿真人,其实这一过程也和完全的机械化差不多,区别只在于,人的意识栖居之所,神经系统,仍然依赖着传统的肉身才能存活。
倘若有这样的办法,让身体永存,每一天都借助“替身机器”在这世界上活动,甚至更进一步,用VR徜徉于虚拟世界,是不是就更接近于永生。
在一边看兰伯特吃饭,诸多想法一晃而过,方然借助虚拟显示查看资料,整理思路。
而看上去有一点心事重重的莱斯利*兰伯特,则有点食不知味,踌躇片刻后,还是有点沙哑的开口。
“阿达民先生,说真的,对您刚才所说的一切,我们的确未曾严肃认真的考虑过。
但,这方面的辩论且不谈,即便AI的自我意识,会和遍布历史痕迹的人类之自我意识不一样,本质上就大有区别,但,失控的风险仍会存在:
一个AI,终日沉浸于科学研究,以探寻未知、探索奥秘为至高目标,作为创造者,人类或许能将AI塑造成这般模样。
但,说到这里,您想必也能明白,有能力从事‘创造性、探索性科学研究’的AI,其基础架构与运行机制,必定与现有的一切AI大有区别,本质上讲,其必定会有强大的自我重构、自我完善能力,甚至还可以自我演化、自我推进。
这样的AI,其核心的‘自我意识’部分,假使有的话,很快就会完全脱离人类的控制,即便对其施加影响也十分困难:
总而言之,一旦启动该系统,接下来我们能做的就很有限,差不多就是‘听天由命’。
随着机器小时的积累,对人而言,AI的当前运行状态,及其自身所处的状态,会越来越模糊,越来越不可知;
这,难道不是一种潜在的、极其危险的情形吗。”
AI的失控风险,乍一听来,似乎是科幻作品的滥-情节,方然却很专注,他知道兰伯特先生想表达的并非那种意思。
“人工智能觉醒,继而与人开战”,从《终结者》到《黑客帝国》的火爆场景观赏性十足,却经不起推敲:除非以毁灭人类为目标,专门开发这样的AI,否则人工智能并不会变成一个失控的精神病,这才是学术界公认的观点。
但是,即便以纯粹的研发、探索等目标,设计并制造出这样的AI,假以时日,会不会性情大变,甚至认为其环境的一部分——人类,是其实现目标的障碍;
在进行相关研究时,这,是一个必须考虑的原则性问题。
站在莱斯利*兰伯特的立场,阿达民,既然专门找自己谈话,吩咐研发任务,想必一定全面的权衡过利弊、分析过风险。
然而听到阿达民的话,他却有一点意外:
“是的,兰伯特先生,这的确是一种莫大的风险。”
“那我们……?”
什么意思,您到底要不要吩咐我们,进行这些研究;
或者,这只是一次闲极无聊的纯粹理论研讨、空对空的畅想,兰伯特有点迷惑。
而这时的方然,虽然有点饿,还是挺少见的决定讲完这一席话再退出连线,毕竟,他认为接下来的话,对兰伯特和他的同僚很重要:
“风险,自始至终,必定是会有的。
如果考虑到AI的自我演化,是从事科学技术研究的一种必备要素,一旦创造出这种AI,接下来,人类就只能在旁观望、听天由命,这说法也没有什么原则性的错误。
但接下来,意识到这种莫大的风险,人类又当何去何从?
为了规避风险,而禁止一切与‘强AI’相关的研究,正如我之前所做的那样,是吗。”
“不,这……不一样,出发点和动机并不一样。”
“动机并不一样,这我承认;
但是讨论这种问题时,动机,根本就不重要。
回到这一根本性的问题,兰伯特先生,听完这些话,您是否仍坚持,人类应该自缚手脚、禁止进行任何‘创造性、探索性人工智能’的研究?
那么,这里必须指出,禁止强AI研究的后果会是什么:
当今时代的基础科学,老生常谈,几十年来恍若一潭死水,倘若我们瞻前顾后、束手束脚,在现今唯一有希望突破的领域——强人工智能方面无所作为,那么,人类文明或将在未来很长一段时间内,”
说到这里,方然忽然心头发紧,但“替身”没有面部表情,对方也无从得知,
“都无法有任何进步,不仅如此,彼时放眼未来,甚至会连一丝改变现状的希望都没有。
面对这种前途,倘若能接受停滞不前的状态,甘于苟活在这样一个死气沉沉的世界,似乎也还可以忍受;
但我却想要提醒您、和您的同僚,以宇宙之浩瀚无垠,其他行星上的高等文明想必不在少数,即便面对‘强AI’的诱-惑,绝大多数文明的选择都会是画地为牢,然而,一旦有极少数文明,出于种种考虑而选择了研发‘强AI’,局面又会怎样?
宇宙中其他文明,一旦研发并创造出‘强人工智能’,是否能凭借这种力量,获得飞跃性的发展,甚至突破文明与文明之间的遥远时空,本人无从知晓。
唯一能确定的事实,则是选择自缚手脚、裹足不前的文明,必定不会有未来。”
一边叙述,一边有点情绪激动,方然的手势被“替身”精确再现,而坐在旁边的莱斯利*兰伯特,则嘴巴微张、面露惊讶。
的确,倘若一切如阿达民所言,那么现在的局面……
今天的人类文明,即便拒绝研发‘强AI’、拒绝尝试创造出有自主行为的人工智能,也没办法以眼下的状态长久维持下去,用不着谁提醒,NEP大区的每一位资深研究者,都清楚这样的事实。
当今时代的科研,事关岗位、生计,然而没了基础研发的支持,这一切忙碌的表象又能维持多久;
终有一天,当所有的技术领域,都开掘殆尽,人类的科技研发穷途末路。
那时会笼罩着文明的,便将会是黑暗,没有尽头。