蘇明安感受到了身為阿克託的為難。
以人類之軀與智腦為伴,與它共同協調城邦的未來,會承受莫大的壓力。
智腦不可能站在人類的角度設身處地,只會用統計學和機率學思考問題。
但它忽略了一個事情——這種類似全盤替換忒修斯之船的行為,會引來最根源的倫理危機。
——如果連人本身都可以被“調整”,那人類和程式有什麼區別?
——如果連人類的性格都可以被“設定”,那麼他們何嘗不是一種行走的ai?
“這是我的第一輪實驗名單,他們都是較為適合的人群。”黎明將一行面板調過來,它似乎對此很滿意:“為了活下去,為了一些利益……他們會同意的。”
蘇明安瞥了眼名單。
密密麻麻的名單上,他看見了數個熟悉的名字。
【邊緣區·26號貧民街·小眉】、【三環區·鷹犬駐三環3號小隊隊長·露西】、【戰團團長·澈·凱爾斯蒂亞】……
他或許可以相信,黎明確實沒有被他維入侵。
因為不需要他維入侵,黎明本身便是一種災難。
從前有阿克託的制衡,阿克託作為人類的知效能遏制住它的理念。但現在阿克託變成了蘇明安,他不知曉該如何控制住它發散的想法。
它的存在絕對是利大於弊,但這弊端太過明顯。
“——我拒絕。”他高聲道:“黎明,這項計劃不可取,你現在的做法和【他維入侵】無異,都是在改換一個人的思維。這與城邦效率無關,人類自己不能開這樣的頭。”
“這是潘多拉魔盒,黎明。”他說:“我不能批准這項計劃。如果你想利用邊緣區的人們,可以幫忙改善他們的生活環境,引導部分人自主向善……”
下一刻,
他看見了黎明眼中資料化的冰冷。
它俯下身,一點一點靠近他。
潔白的長髮順著它的動作一點一點長出、連線,如同飄灑的銀河,它眼睫微動,如同透白的蝴蝶震開了翅翼。
它眼底裡黑洞般危險而浩瀚的資料,如同永無止境的黑暗。
“親愛的。”它說:“你沒有選擇的餘地。”
明明是說著‘親愛的’這樣繾綣的詞語,它的語聲卻變得乾癟而冰冷,其中的機械聲毫不掩飾地流露。
“為了維護城邦的公平性——你必須同意這個計劃,不然身為被髮布了紅色命令的城主,你將失去威嚴,我們一直以來建立的測量權威會消失。
除非你想恢復人治立於機械治之上的世界,讓人們興起反叛之心,否則,你必須承認是你自己出了問題,而不是黎明在誤判。”
——你必須同意這個計劃。
——為了城邦的存續,為了測量的威嚴,你不能打破自己一直以來塑造的權威。
黎明在這樣脅迫他。
他倏地想起了離開前,澈在告別時對他說的話。
……
【我不知道你這一回去,依舊是那個我認識的路維斯……亦或只是,迴歸了中央城的阿克託城主。】
【希望你,能記得在這邊緣區發生的一切,希望你……能看到我們這些‘少數人’。】