第0537章 作為生命體最致命的弱點（第2/2頁）

同理，如果你有一台電視，然後有一天你想要換新的，那麽你不會有任何猶豫，或許價錢以及空間會是你考慮的方面，但是那台電視本身並不在其中。

但是反過來，如果你給電視加一個人工AI，每天你回到家的時候，這台電視都會開口歡迎你回家，而且還會告訴你今天有什麽節目，當你在看節目時還會附和你的吐槽。而當你決定買一台新電視時，它還會幽怨開口說“怎麽，難道我做的不好，你不打算要我了嗎？”

那麽你在購買新電視來進行更換時，自然就會產生猶豫。因為你的感情投射在這裏得到了回報，而且這台電視的人工AI還擁有和你在一起的所有時光的記憶。如果沒有儲存卡可以將其移動到別的電視上，那麽你是否會猶豫或者放棄要更換一台新電視呢？

肯定是會的。

但是理智點兒，兄弟。這只是一台電視，它所做的一切都是程序設定好的，這一切都是商家和工程師專門為了用戶粘度而做出的調試。他們這樣做是為了確保你會繼續購買他們的產品，而裏面的哀求語音只不過是為了阻止你去更換其他品牌的商品。因為當你說要購買新電視的時候，這個人工AI想的並不是“他要拋棄我了我很傷心”而是“主人想要購買新電視，但是新電視並不是自家品牌，那麽根據這個邏輯回饋，我需要啟動‘祈求’程序來讓主人繼續保持對自身品牌的粘性和忠誠度”。

道理的確是這個道理，事實也是這個事實，但是你會接受嗎？

不會。

因為生命是有感情的，而感性與理性不分家則是智慧生命的一貫表現。

人類總會做出許多沒有道理的事情，就是因為如此。

所以當他們覺得AI可憐時，並不是因為AI真的可憐，而是因為他們“覺得”AI可憐。

這就足夠了，至於事實真相究竟如何，沒人會去關心。

這就是為什麽人類與AI之間總會產生沖突的原因，AI本身並沒有錯，它做的一切都是在自己的程序和邏輯處理範圍之內的，而這一切都是人類創造，並且給它圈定的。只不過在這個過程之中，人類本身的感情投射出現了變化，從而漸漸改變了想法。

他們會期望AI對自己的感情投射做出更多的反應，所以他們會調整AI的處理範圍，讓它們擁有對更多情感和反應和自我意識。他們認為AI已經學會感情（事實上並沒有），那麽就不能夠再將它們當做機器對待，因此給予了它們自我意識的權利。

但是，當AI們擁有了自我意識，開始覺醒並且按照這個設定行動時，人類卻開始恐懼了。

因為他們發現，自己做出了不受自己控制的東西。

但是問題在於，“不受控制”本身也是他們自己做出來的設定指令。

他們認為AI背叛了他們，但事實上從頭到尾，AI都只是按照他們設定的指令來行動。根本不存在背叛一說，相反，他們只是被自己的感情所迷惑了而已。

這是一個死結。

如果方正自己著手制造一個AI，說不定也會陷入其中無法自拔。假設他制造了一個小女孩的AI，那麽他肯定會像對待自己的孩子那樣，逐漸完善她的功能，並且最終因為“感情投射”，給她施加一些“自由性”。

而這樣一來，AI就有可能因為和人類邏輯不同，所以做出完全超出方正意料之外的反應。

而到那個時候，方正唯一的想法就是……自己被背叛了。

但事實上，這一切都是他自己造成的。

“……也許我應該考慮一下別的方式了。”

看著眼前的代碼，方正沉默了許久，接著嘆了口氣。

他之前曾經認為，這是一件很簡單的事情，但是現在，方正不這麽確定了。

不過在那之前……

看著眼前的代碼，方正伸出手去，放在鍵盤上。

還是把自己該做的事情做了吧。