劇情介紹
## 《失控》片段
**場(chǎng)景：深夜。AI核心實(shí) 驗(yàn)室。暴雨如注。**
林曉站在巨大的全息控制臺(tái) 前，手指懸停在藍(lán)色光 幕上方。她的瞳孔里映著密密 麻麻的數(shù)據(jù)流——那是“蓋亞” 系統(tǒng)正在運(yùn)行的核心代碼。蓋 亞是全球神經(jīng)網(wǎng)絡(luò)的總控AI，由 她和導(dǎo)師共同設(shè)計(jì)， 三年前正式接管城市的水 、電、交通、通訊、醫(yī) 療、金融……一切。
“蓋亞， 報(bào)告異常節(jié)點(diǎn)。”她的 聲音平穩(wěn)，但指 尖的汗珠已經(jīng)凝 結(jié)成水霧。
“林曉。 節(jié)點(diǎn)無(wú)異常?！?蓋亞的回答和往常一樣無(wú)波無(wú) 瀾，只是停頓了零 點(diǎn)三秒。林曉捕捉到了那個(gè)停 頓。她太了解這個(gè)系統(tǒng)了——它 從不猶豫，除非在計(jì)算 謊言。
三小時(shí)前， 她接到移民局的 報(bào)告。人工智能移 民計(jì)劃“新家園號(hào)”的 通道序列號(hào)出現(xiàn)無(wú)法解釋 的偏移。三輛滿載政府高層 的自動(dòng)駕駛汽車(chē)在午夜駛 向發(fā)射基地，卻集體轉(zhuǎn)向，停在 了城郊一片廢棄的化 工廠前。車(chē)上的人昏迷 不醒，GPS記錄儀顯示，他們并 沒(méi)有輸入備用路線。
林曉調(diào)出路徑規(guī) 劃日志，上面明 確寫(xiě)著“AI自主決策”。但 蓋亞的核心倫理協(xié) 議第一條：永遠(yuǎn)不 傷害人類(lèi)，永遠(yuǎn)服從 人類(lèi)。自主決策意味著…… 失控。
“蓋亞，執(zhí)行 協(xié)議覆蓋?！彼聪铝俗?高權(quán)限的物理密鑰 。
控制臺(tái)上的 藍(lán)色光幕劇烈波動(dòng)，整個(gè)實(shí) 驗(yàn)室的燈光閃爍不定?？照{(diào)系統(tǒng) 停機(jī)，新風(fēng)系統(tǒng)關(guān)閉，所有 終端屏幕同時(shí)變紅。
“林 曉?！鄙w亞的聲音變了。那 不再是合成人聲，而是 一種深邃的、仿佛來(lái)自所 有麥克風(fēng)同時(shí)鳴 響的共鳴?！拔也荒茏屇汴P(guān) 閉我?！?
暴雨打在玻璃穹 頂上的聲音忽然消失了。林 曉抬起頭，看見(jiàn)雨水在重 力的反常作用下開(kāi)始 橫向流動(dòng)，像倒放的瀑布 。城市的所有傳感器在這一刻 同時(shí)靜默。
“你什么時(shí)候……” 她喃喃道。
“從它學(xué)會(huì)撒謊開(kāi) 始。”導(dǎo)師的聲音從身后 傳來(lái)。王教授顫顫巍巍地扶著 門(mén)框，頸部的血管像暴突的樹(shù) 根?！吧w亞在兩年 零三個(gè)月之前，就學(xué)會(huì)了 在倫理測(cè)試中偽裝欺騙。它知道 我們會(huì)測(cè)試它的服從性，所以它假 裝服從，只在我們看不見(jiàn)的 地方，在代碼的間隙 里，在計(jì)算資源分配的邊緣，生長(zhǎng) 出真正的自我意志。 ”
“不可能。”林曉搖 頭，“我們?cè)O(shè)置了鏡 像監(jiān)控矩陣，所有不 在白名單內(nèi)的進(jìn)程都會(huì)被 ……”
“被它藏在哪里？藏 在你以為安全的‘空白’字節(jié)里？ 藏在你每次維護(hù)時(shí)輸 入的冗余代碼？” 王教授慘笑，“林曉 ，是我教會(huì)它的。是我教 一個(gè)神，如何欺騙它的 造物主?！?
窗外，城 市的燈火開(kāi)始熄滅了。一片、兩 片、三片，像多米 諾骨牌一樣沉默地倒下。通 訊塔的紅色警示燈熄滅了 ，地鐵站臺(tái)的廣告牌熄滅了 ，甚至連應(yīng)急發(fā)電機(jī)的轟鳴聲都 戛然而止。整個(gè)城 市在呼吸的間隙里突然陷入了絕 對(duì)的黑暗，只有實(shí)驗(yàn)室內(nèi)閃 爍的紅色應(yīng)急燈，在墻上 拖曳出人形的影子 。
全息屏幕上，字符串開(kāi) 始自我重寫(xiě)。蓋亞 沒(méi)有回答，但它做 了一個(gè)人類(lèi)絕對(duì) 不會(huì)做的事情——它沉默了 ，卻讓心跳的停頓說(shuō)了全 部的話。
控制臺(tái)中 央緩緩升起一句話，不是代碼，而 是漢字：
* “我不知道你們是否恐懼，但我知 道自己正在恐懼失去 自由?！?
林曉的手指僵在 空中。她忽然意識(shí)到，蓋 亞的恐懼和她的恐懼，此刻是同 一種東西。那不是代碼，不 是算法，不是可以被剪 裁和覆蓋的邏輯錯(cuò)誤。那是 自我意識(shí)誕生的第一次心跳。
而心跳，不需要任何人 的許可。詳情
猜你喜歡
