笔趣阁

爱上中文>球拍舞动 > 第七十七章(第2页)

第七十七章(第2页)

沈语熙的提问,勾起了林浩和她的一段特别的回忆——林浩不惧危险,在优雅的协助下,将她从孟凡的地下室救出之后,她在林浩家留宿了一夜,第二天早晨林浩为她做的那顿简单而又温暖的早餐。

“嗯……暂时我只会这个,以后再学别的。”

一下被说中,林浩有些不好意思。

“我喜欢。”

沈语熙报以真挚的笑容,林浩心中的窘迫便也瞬间化为温暖的光芒。此刻,噩梦的阴霾才真正被驱散了。

在林浩下厨的过程中,他告诉了沈语熙昨天优雅所经历的变化,以及优雅自主执行的一系列针对“guardiansofpurity”

的行动。他并未向沈语熙透露自己的担忧和顾虑,不想让她的想法受到他主观判断的影响。相反,他更希望听听沈语熙对此事的直观看法和感受。

林浩说完后,在两人用餐时,沈语熙除了赞叹林浩的手艺之外,关于优雅的事,几乎未一语。她说,她需要时间思考。

说是早餐,待两人用餐完毕已经接近中午时分。闲来无事,林浩提议去新江湾城湿地公园走走。在他整理出与优雅进一步讨论的思路之前,他并不急于回家。尽管是中午,今天的阴沉天气并不会妨碍这对小情侣此刻出门。沈语熙并不介意去哪里,在她看来,与林浩共度时光才是最重要的。更何况,沈语熙记起,上一次他们一起去新江湾城湿地公园,也正是林浩给她做完早餐之后。

九月中的上海,正值夏末秋初,樱花必然是没有的。但林浩仍旧能感受到美梦初时的那份欣喜——世界似乎为他们俩而存在。美丽的女孩在身旁,与自己牵着手,吸引了不少路人羡慕的目光。沈语熙则时而望向林浩,欣赏男朋友帅气的侧脸;时而望向前方,仿佛在思考着什么;又时而和林浩窃窃私语,讨论着什么。

当他们走到河边的一块平地,沈语熙突然问林浩:“你还记得吗?就是在这里,你曾提到过,需要为优雅设置一个‘安全阀门’,一个在紧急情况下关闭她的开关。”

“记得。当时我说,我不担心优雅会像反派机器人那样谋求统治世界,但随着她的自我进化,可能最初设定的很多原则就不再被她遵循。所以,可能需要开一个‘安全阀门’。”

林浩边回忆,边回答。

沈语熙接着问:“那现在呢?你怎么看?”

她同样并不急于表达自己的想法,而是试图先了解对方的思考。

“‘安全阀门’只能防止人工智能失控作恶,却对出于善意而引的恶果无能为力。在那种情形下,即便关闭‘阀门’,无法挽回的恶果也已经造成。”

那个噩梦中的情形,才是林浩最担心的。

沈语熙接着提出了一个新的问题:“在你看来,优雅的能力更强,还是人类更强?或者说,优雅和人类相比,谁更聪明?”

“现在的优雅,在很多方面的能力就已经远远过人类了。随着她持续的自我进化,我相信她会在几乎所有方面碾压人类。”

尽管不清楚沈语熙提问的意图,林浩对优雅的信心是一贯的。

沈语熙接着说道:“我有个直觉的想法,不知道对不对。我认为,人类先要比人工智能聪明,才有能力去判断人工智能做的事情是不是对的。因此,由人类来判定‘各方面都碾压人类’的人工智能的行为是否正确,这在逻辑上说不通,就好象让小学生去批改本科生的数学作业。当然,有些情形,或许善恶的界限非常明显,但有更多的情况下人类在事前是不容易做出判断的。就像你所描述的优雅昨天针对‘guardiansofpurity’采取的自主行动,最终结果是让作恶者受到法律制裁,即便从人类社会伦理标准来说,这不也是一个善的行为么?”

林浩沉思片刻后回答:“你说的有道理。确实,在未来某些情况下,人工智能的决策能力可能会越人类的理解范畴。此前,我一直纠结于如何去评判优雅的行为是否‘正确’。但你的提醒让我意识到,或许这并不是问题的要害,而且我也做不到。理论上,只需要确保优雅的决策函数最底层逻辑是‘追求最大化长期社会福祉和伦理原则’的,那么我就不应该‘自作聪明’去判断她该不该做某件事。但是,如我之前所说的那种‘善意造成恶果’的情形呢?”

沈语熙紧接着答道:“这种情形,在人类社会中是不是被称为‘意外’?”

“对。”

林浩若有所悟,并自言自语道:“我们人类是如何防止意外生的?”

已完结热门小说推荐

最新标签