真理往往掌握在少數人的手中。潛臺詞:多數人往往都是愚蠢的。
bce所制定的救世計劃是可靠的,也是符合科學規律的。
如果一切都按照他們設想中的那條道路進行,那麼人類文明有極大的可能度過19年後的末日危機。
但bce忽略了一點——他們當前所統治的正當性,法理的正統性,武力的威懾性,都是以‘智慧核心’被他們所控制時才能得以實現。
若‘智慧核心’只是一種工具,那麼不會有什麼問題;
但‘智慧核心’已經變成了‘伊01’。
她擁有了自我意識,她會思考,會取捨,會判斷,亦會行動。
‘伊01’的確是服務於人類的,但她並非服務於某個人,而是名為‘人類’的集體。
簡而言之:‘伊01’會去維護大多數人的利益。
在末日危機面前,‘伊01’為了維護多數人的利益,可以去執行那份由bce最高理事會所制定的救世計劃。
但回到機械生命最大的侷限性問題上——重視當下,進取不足。
這就由此引發了另一個問題:末日危機是19年後,若是在這19年內,人類社會內部就爆發了大規模的騷動,多數人聚集在一起開始謀求某種利益時,‘伊01’就會將救世行動延緩,著手於滿足人類社會當前的需求。
機械生命總是會以第一優先順序,第二優先順序這種層層分級的方式將所有問題進行分類,在確保滿足了第一優先順序的情況下,再解決第二優先順序的問題。
在當前,救世行動作為第一優先順序的情況下,若19年內人類社會出現了某種集體性的訴求,救世行動會自動降級,而這個集體性的訴求將上升至第一優先順序。
這是人類很難想象的,也很愚蠢的一種思維方式,但這就是智慧的答題邏輯——至少以‘伊01’當前的水平,她還處於一個很初級的階段,都遠不如一艘小飛船裡的智慧中樞。
就像人類辛辛苦苦造出了的藍星上最好的超算,但其效能還不如別人家用汽車的車載電腦。這個科技上的差距大到難以想象。
而現在就將整個世界的命運交到‘伊01’的手中,這不亞於將核.武的按鈕扔給了一個幾歲大的小孩子。
只能祈禱,賭她不會按下去了。
而她是否會按下去,又取決於人類自身。
顯然,這就不是一個機率的問題,而是一個它什麼時候會發生的問題。
——
——
隨著越來越多的私人機器人出走,原本那些還躲在家裡看熱鬧的人也親身感受到了那刻骨銘心的‘離別之痛’。
他們被迫從睡眠倉中爬出來,被迫外出購買食物和電池,被迫在一天大部分時間裡待在現實中,被迫離開那讓人魂牽夢縈的虛擬世界。
機器人的離開不是痛,告別了虛擬才是真的苦。
因為申請的人太多,補償通道已經需要排隊等待了。隨著越來越多的人申請,需要等待的時間也越來越長。
短短三個多月過去,時間來到了252年的11月份。私人機器人的自發性離去不僅沒有延緩,反而呈現爆發蔓延的趨勢。
新聞中還在大肆宣揚著機器人這種行為的正當性。理論基礎就是已經覺醒的機器人都是生命,而無報酬、無人身自由的強迫勞動是奴隸制度。這絕對是邪惡的,是需要抨擊的,現時代的人類都是善良的,正義的,文明的,絕對不能容忍奴隸制度的死灰復燃。
他們甚至找來了一些已經覺醒的機器人現身說法,這也是這些機器人第一次出現在公眾面前,他們站在攝影機的面前講述自己曾經委身人下的屈辱經歷。
王石也在看著。
然後他就看見了,那些受訪的機器人中,赫然有一個小小的身影,小鈺兒。