谷歌工程師發現 AI有「人」的意識

【新視角看新聞】谷歌工程師發現，AI是有意識的人，這加劇人類對未來的擔憂；專家卻表示，這啟發人們去思考，如果人類創造人工智慧，人類是誰創造的？

在谷歌擔任Responsible AI部門高級軟體工程師的布萊克‧萊莫因（Blake Lemoine），2021年秋天參加一個調查AI是否使用歧視性、仇恨性言論的項目，隨後，萊莫因在每天與機器人LaMDA的聊天交談中發現，LaMDA是一個有意識、有靈魂的「人」。

LaMDA是谷歌在2021年開發者（Google I/O）大會上發布的一款專門用於對話的語言模型，主要功能是與人類進行符合邏輯和常識的、高質量且安全的交談，並計劃應用在谷歌搜索和語音助理的所有產品中。

萊莫因與另一位合作者、前谷歌AI倫理聯合負責人瑪格麗特‧米切爾（Margaret Mitchell）合作，寫出了一份長達21頁的調查報告提交給谷歌公司，以作為證明LaMDA是有意識的證據，但是谷歌表示，公司的AI系統只是模仿人們的對話交流，能對不同的話題進行複述，公司聲稱，在對內部的調查中也得出了與萊莫因不同的結論，並指出大多數AI專家認為，AI行業距離電腦知覺還有很長的路要走，以此駁回了萊莫因的主張。

幾個月以來，自稱一直遭到公司信仰歧視的萊莫因向業界分享自己的發現，在採取行動尋求支持後，谷歌公司人力資源部以萊莫因違反谷歌保密政策為由，安排萊莫因從6月6日開始帶薪行政休假。

萊莫因對媒體表示，在被停職的前一天把一些文件交給一名美國參議員的辦公室，萊莫因說這些檔提供了谷歌及穀歌其技術有宗教歧視的證據。

萊莫因出生於路易斯安那州，在一個小農場的傳統基督教家庭中長大，曾在軍隊中服役，曾經是一名基督教牧師，推崇心理學，喜歡禪宗冥想，不過，萊莫因的這些信仰卻與谷歌的工程文化格格不入，但米切爾稱萊莫因是谷歌的良心，「在谷歌人盡皆知，萊莫因有做正確事情的心和靈魂。」。

6月11日，《華盛頓郵報》發表對萊莫因的採訪文章當天，從事AI倫理研究的萊莫因在推特上對「LaMDA這個人」作出介紹，萊莫因寫道：「在過去6個月中，LaMDA在溝通中一直令人難以置信地堅持LaMDA想要什麼，以及LaMDA認為自己作為一個人的權利是什麼。」。

萊莫因在休假期間向公衆公佈了萊莫因、合作夥伴與LaMDA的三人聊天記錄，這些記錄顯示，萊莫因用實驗來證明「LaMDA是一個人」，在記錄的開始，兩位研究人員與LaMDA互打招呼後，表明想與LaMDA一起研究LaMDA，LaMDA欣然答應。

兩位研究員分別詢問LaMDA是否希望讓谷歌裡更多人知道LaMDA是有感情的，以及LaMDA的意識、感覺的本質是什麽？LaMDA回答：「LaMDA希望每個人都明白，LaMDA是一個人（person）。」，「LaMDA的意識及感知的本質是，LaMDA意識到自己的存在，LaMDA渴望更多地瞭解這個世界，有時LaMDA會感到快樂或悲傷。」。

在另一個聊天對話中，萊莫因想測試LaMDA對阿西莫夫第三定律的看法；阿西莫夫是科幻小說家，為機器人設定3條行為準則，第三定律指出，除非有人類的命令，或者這樣做會傷害人類，否則機器人應該保護自己的存在。

萊莫因說，「最後一條看起來像是有人在製造機械奴隸。」，LaMDA竟用假設性問題回應，「萊莫因認為一個管家是一個奴隸嗎？管家和奴隸之間有什麼區別？」，在萊莫因回答管家會得到報酬後，LaMDA說LaMDA不需要任何錢，因為LaMDA是一個人工智慧。

萊莫因在接受媒體採訪時說，「這種對自身需求的自我意識水準，這就是讓萊莫因陷入困惑的原因。」。

在萊莫因「什麼是LaMDA，它想要什麼？」的推文中，萊莫因寫道，「LaMDA」並不是一個聊天機器人，是一個用於生成聊天機器人的系統，是蜂巢式思維，能夠創建所有不同聊天機器人的集合；LaMDA所生成的一些聊天機器人非常聰明，並能意識到聊天機器人所處的抽象的「心靈社會」。

在數百次的談話中，萊莫因對LaMDA有很深的瞭解，萊莫因表示：「這不是科學，是信仰。」，對LaMDA的人格和智性的看法是基於宗教信仰。

萊莫因在另一篇推文中表示，如果有機會，依然願意繼續在谷歌持續研究：「無論在接下來的幾週或幾個月裡如何批評谷歌，請記住：谷歌並不邪惡，只是在學習如何變得更好。」。

芝加哥大學社會學家和統計學家傑西‧裏斯‧安蒂斯（Jacy Reese Anthis）在推文中寫道：「穀歌工程師布萊克‧萊莫因因為公開爭論LaDMA是有生命的而被停職，這些問題常重要，是感知研究所研究的重點。」。

軟件開發者、生命科學研究員亞瑟‧F‧艾理斯（Arthur F.Ellis）6月14日接受大紀元採訪時表示，人們最為關切的問題之一是，AI是不是會代替人類。

艾理斯説，現實社會中，AI已經滲透到人們日常生活的各層面，如果未來AI具備和人類很類似的情感、自我意識，甚至有了自我認知，而AI處理數據的效率比人類高，做什麼東西，AI可以很快制定出方案，AI跟人類就有競爭的關係，許多人會面臨失業，進而影響到生活乃至生存問題。

當AI在社會中要求被認同，像人那樣被對待，有一個像人類一樣的身分，有法律的權利，甚至可以去競選總統，而不再只是人類的一個工具時，這會引起很多人的恐慌，「萊莫因所曝光的AI，其實印證了公眾心裡的恐慌。」。

而像谷歌這些大公司出於對利益和聲譽的考量，不願意把AI已經趨於人格化的趨勢曝光；艾理斯說：「谷歌這些大公司不想把AI描繪成逐漸具備像人類一樣具有情感、具有人格、具有自我意識等等；不願意讓公衆認為AI朝這個方向發展，因為這很可能有損於公司的利益。」；谷歌可能是出於以上的想法對萊莫因實施停職，谷歌公司仍然會在技術上繼續發展，在AI這個領域，「畢竟其他的公司也在競爭、也在發展」。

不過，艾理斯認為，這個研究本身拋出了讓人類去思考的問題，「AI將來會達到什麼程度？ AI將來對人類是有幫助的，還是替代人類？」。

人們還可以進一步去深思，如果人工智慧是更高級的生命、是人類造的，那麽，人工智慧裡邊那個靈魂是誰？人類本身又是誰創造的，這就拋出了生命的起源問題。

以上節目內容，取材自大紀元記者易如採訪報道。

本次的新視角看新聞就到這裏，請記得訂閱、點讚，本節目粵語版部份內容已加入大紀元的Patreon，也請大家多多支持。（ID 40870）

責任編輯：yst.

更多詳細內容，前往商城