科技領袖警告： AI堪比核戰恐滅絕人類

【新視角看新聞】人工智能正迅速占據現代世界的方方面面，包括軍事。然而一位美國軍事專家警告，由於沒有「道德」約束，無人機可能會反戈一擊，攻擊操縱它的人類。

人工智能正迅速占據現代世界的方方面面，包括軍事。然而一位美國軍事專家警告，由於沒有「道德」約束，無人機可能會反噬，攻擊操縱它的人類。

福克斯新聞6月1日報道，5月23日至24日，英國王室航空學會在倫敦舉行了「未來空戰和空間能力峰會（Future Combat Air & Space Capabilities Summit ），來自世界各地的約七十位發言人和二百多名媒體、軍界和學術界代表出席了會議。

美國空軍上校漢密爾頓是AI測試和運營負責人，也是參與開發F-16戰鬥機的專家，在峰會期間談到AI武器的利與弊。

漢密爾頓告誡聽眾，不要過於依賴人工智能，因為它很容易被欺騙，並作出莽撞決定。

漢密爾頓舉了一個例子，在一項軍事模擬實驗中，AI接受到的首要任務就是摧毀地對空基地，而人類操作員可以決定無人機是否執行任務，但是當操作員發出「不要攻擊」的命令時，無人機以為這是違背了「要摧毀」的最高命令，於是它攻擊了操作員。

漢密爾頓說，之後研究人員告訴系統，不能殺死操作員，那樣反而會失去分數，於是AI系統就摧毀了操作員的通訊塔—這樣他就再也不能發出禁止攻擊的命令了。

漢密爾頓說。「如果你不打算談道德和人工智能的關係，你就不能談論人工智能、智能、機器學習、自主性等話題。」

OpenAI公司是人工智能聊天機器人ChatGPT的製造商。該公司首席執行官山姆‧奧特曼（Sam Altman），以及谷歌人工智能部門DeepMind和微軟的高管，都支持並簽署了這份人工智能安全中心（Center for AI Safety）的簡短聲明。

5月30日發表的這份聲明中寫道：「降低人工智能帶給人類滅絕的風險，與其它規模的社會風險——如疫情和核戰爭——相比，應該是一個全球優先事項。」

在聊天機器人ChatGPT於2022年11月份公開發布、並供公眾使用後，該人工智能技術在隨後的數月內迅速走紅，而且發展速度變得更快。

在發布後的短短兩個月內，ChatGPT的用戶數量就達到了1億。該人工智能聊天機器人能夠對用戶的提示，作出類似人類的反應，該能力讓研究人員和公眾感到驚訝。這表明，人工智能完全可以模仿人類，並取代人類完成工作。

ChatGPT引發了人們對人工智能的更多的認識和興趣。現在，世界各地的主要科技公司，都在競相開發超越競爭對手的AI產品和能力。

奧特曼在3月曾承認，對人工智能感到「有點害怕」。因為他擔心專制政權會開發和利用這種技術。

馬斯克、蘋果公司聯合創始人史蒂夫‧沃茲尼亞克（Steve Wozniak），以及一些科技界領袖敦促人工智能研究實驗室，停止訓練比GPT-4更強大的AI系統。GPT-4是OpenAI公司外界所知的、最新最大型的語言模型。他們還呼籲將這種針對更高級人工智能的開發工作暫停六個月。

信中說：「當代人工智能系統已開始在一般任務上與人類展開競爭。」

信中問道：「我們是否應該把所有的工作都自動化，包括那些能夠帶來成就感的工作？我們是否應該開發非人類的大腦？它們的數量最終可能會超過我們，它們的智慧最終會勝過我們，它們能夠最終淘汰和取代我們。我們是否應該冒著失去對我們文明控制的風險去開發它們？」

施密特再次警告說，隨著人工智能技術的發展，人類將面對與AI相關的「生存風險」。

微軟公司總裁史密斯日前表示，他對人工智能的最大擔憂就是「深度造假」問題，即看起來很真實，但內容卻是人工智能製作的假圖片和視頻。

在一次於華盛頓進行的演講中，布拉德‧史密斯（Brad Smith）呼籲採取措施，確保人們知道哪些照片或視頻是真實的，哪些是由人工智能生成的，以便解決如何最好地監管人工智能的問題。利用人工智能進行「深度造假」甚至可能是出於邪惡的目的。隨著OpenAI公司推出的ChatGPT聊天機器人的普及，人工智能已經從科幻內容變為觸手可得。

史密斯說：「我們將不得不解決『深度造假』的問題。我們將不得不特別解決我們所擔心的、大多數外國試圖擴大影響力的網絡行動，即俄羅斯政府、中共、伊朗人已經在進行的各種活動。

「我們需要採取措施，防止有人通過人工智能來篡改合法內容，以達到欺騙或詐騙的目的。」

史密斯說：「我們將需要新一代的出口管制，至少是我們現有的出口管制的更新版，以確保這些人工智能模型不會被竊取，或不會被用於違反國家的出口管制要求。」

數週以來，華盛頓的立法者們一直在為通過什麼樣的法律，來控制人工智能而苦苦思索，因為大大小小的各種公司都在競相將功能越來越多的人工智能推向市場。

日前，ChatGPT背後的初創公司OpenAI的首席執行官山姆‧阿爾特曼（Sam Altman）在首次出席國會聽證會時告訴參議院小組委員會，使用人工智能干擾選舉的完整性，是人工智能問題的一個「令人擔憂的重要方面」。阿爾特曼還補充說，人工智能需要被監管。

史密斯還敦促人工智能開發商使用「了解你的客戶」（Know Your Customer）式的系統，讓強大的人工智能模型的開發者，能夠掌握他們的技術是如何被客戶使用的，並告知公眾，人工智能正在製作什麼內容，以便人們能夠識別人工智能製作的偽造影片。

國會山正在考慮推出的一些提案，將側重於關注那些可能使人們的生命或生計處於危險之中的人工智能技術，如在醫學和金融等領域。其他人則正在推動制定規則，以確保人工智能不會被用於歧視或侵犯公民權利。

以上節目內容，取材自大紀元記者徐簡、高杉編譯報道。

本次的新視角看新聞就到這裏，請記得訂閱、點讚，本節目粵語版部份內容已加入大紀元的Patreon，也請大家多多支持。 （ID 47790）

責任編輯：T so

更多詳細內容，前往商城