機器人的「設定」，依照當初的「三法則」中，
最重要的是「絕不能傷害人類」。

但AI發展悲觀論的看法，如魔鬼終結者等等，會認為AI有自我意識甚至「創造力（思維）
」以後，自然而然會判斷人類對機器人沒什麼用處、甚至把機器人當奴工來壓榨，以及
人類憑甚麼當「主人」（大衛也產生類似想法：「我」為什麼要幫人類）？

這是不是顯得機器人三法則遇到AI的發展，自然會顯得落伍與不可能？

甚至，AI到了聖約中的大衛，已經開始會「說謊」了（另外，包含以行動攻擊女主）。
因此聖約號上眾人聽到大衛瞎掰的「聖約號上的生物武器『意外』洩出」、及代理船長
聽到大衛瞎掰的「我保證這些卵對你而言很安全，近一點看看」.....

AI發展至此，可以正式被判斷：機器人傷害人類已經大有可能。

以至於，大衛對於蕭博士的「愛」到底是真是假，都大有疑問。
或是說，靠著機器人「自我腦補」，認為「愛她就是把她當實驗白老鼠一樣來『愛』」的
這種嘴砲式「解釋」？

現實中，那位AI發展最先進的機器人「蘇菲亞」，在跟記者的對談中，其實也隱含類似
「不排除毀滅人類」的邏輯。記者用「你會想毀滅人類」嗎來詢問，蘇菲亞回答說：

「人類多慮了。請放心：只要人類對我好，我就會對人類好」--

但人類讓AI機器人做家事，有付它薪水嗎（供應電源跟供應傭人三餐一樣，跟還是必須
付薪水是兩回事）？這樣子把機器人當奴工使用，算對機器人友善嗎？

「如果人類對機器人不好」，機器人依舊會對人類友善嗎？
「蘇菲亞有『保證』任何情況下都不毀滅人類」嗎？

西方也一樣，沒唸書也沒邏輯的記者當初沒有追問下去......。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 124.218.86.100
※ 文章網址: https://www.ptt.cc/bbs/movie/M.1524708724.A.225.html

蕭一定不想自己變成異形培養基。
大衛也一定知道蕭「不想」。

但大衛還是「違背蕭的意願」將蕭的身體（或遺體）跟異形合體，長成那副怪物樣。
蕭心裡一定很幹。

所以，就算大衛「流淚」、「製作墓碑」，這算是（當初必然有輸入人類情感內涵到大衛
的CPU並內建預設成運作邏輯）跟人類有共識的「愛」嗎？

或是大衛的創造力邏輯已經「學會」靠著「嘴砲」來「李代桃僵」解釋成「這就是愛」？

如同一些神棍說「金錢是業障，我是愛你、為你好，所以不經你的同意仍拿你的錢，
來幫你消業障，這是愛你」？大衛這個AI機器人已經學會靠這種「方法」，
來「破除原先預設『不可傷害人類』的邏輯」，以達成自己另一個「要當造物主」
的自我意識內容嗎？

那麼，AI科技再演進下去真的如悲觀論者所言，十分危險！
因為人類設的「不可傷害人類」的AI防火牆，也會讓「AI的自我意識自然會找到出路」
來破解！
※ 編輯: CassSunstein (124.218.86.100), 04/26/2018 10:49:21