劉世忠專欄:當人工智慧被用來殺人

Google日前宣布停止與美國國防部合作的無人機應用專案,但卻無法停止AI持續被運用在軍事方面。(取自Pixbay)

Google員工不滿公司與國防部合作的無人機應用專案,認為此專案可能助長戰爭,增加死傷。Google因此不再與國防部續簽Project Maven合約,但AI用於軍事的趨勢很難停止

「人工智慧」(AI)是未來先進科技發展主流,但當AI科技可能被用於製造更具殺傷力和致命性的軍事武器之戰爭用途時,它同時也開啟更多有關人類價值的辯證。

今年六月,Google宣布不再與美國國防部續約,提供AI技術的合作,舊的合約執行到明年三月即中止。此一決定起源於Google員工對於公司與國防部合作名為Project Maven的無人機應用專案表達不滿,多名資深員工憤而離職表示抗議,四千多名員工連署要求公司停止與國防部的合作,咸認此專案可能助長戰爭,增加死傷。

Project Maven是將AI技術應用在提升無人機的攻擊力,尤其是增強圖像分析的準確性。Google還將開發機器學習演算法,協助美國國防部進行監控工作。許多頂尖的人工智慧技術專家憂慮這次合作,將成為戰爭武器運用AI技術擴大傷亡的第一步,而且可能侵犯人民隱私權。

中、俄投注大量資金於軍事AI

Google執行長皮蔡(Sundar Pichai)一度親自站上火線滅火,提出「四不」原則:不違反國際技術公約、國際法與人權原則等,以及不會用在「直接導致人類被傷害的武器與技術」上。他也澄清,Google沒有開發專用於武器的AI技術,仍會繼續與美軍保持合作,但只會將技術運用在網路安全、人才培訓、醫療保險與搜救。Google最終的決定讓公司損失上千萬美元的營利,但對公司形象與內部反彈做出損害管控。

Google執行長皮猜(Sundar Pichai)(美聯社)
Google執行長皮蔡(Sundar Pichai)宣布不再與國防部續簽Project Maven合約。(美聯社)

但Google不再與國防部續簽Project Maven合約,是短期危機管理,抑或是真的不再涉入軍事安全領域的決策過程,仍有待後續觀察。但未來科技公司與軍事部門的合作恐怕很難停止,主要原因在於:你的對手或敵人也在運用AI技術強化其軍事安全能力。

例如,中國已經宣示將於二○二五年之前,每年投入六百億美元於AI的軍事安全技術。由於AI能夠分析大量數據,並提出建議的演算模式供決策,高盛集團(Goldman Sachs)估計,北京可以在二○年以前,掌握全球四分之一有關軍事安全的大數據資料。

中國近年軍事發展快速,美國曾在軍事報告中提出,中國已產生威脅。(取自中國軍事網)
中國近年軍事發展快速,美國曾在軍事報告中提出,中國已產生威脅。(取自中國軍事網)

俄羅斯更是早就運用AI進行「不對稱政治戰爭」的箇中好手。總統普丁(Vladimir Putin)表示,誰掌控AI,誰就能統治世界;加拿大、英國也投注大筆資金用於AI提升國家安全,以及防堵恐怖組織攻擊;以色列、南韓、新加坡更不遑多讓。

人民不信任政府運用AI

美國在現階段仍執AI技術的領先地位,從一六年歐巴馬(Barack Obama)時代建構全面性的AI與國防安全戰略,到川普(Donald Trump)政府更雄心勃勃欲用於太空科技的升級,美國國防部與中央情報局(CIA)手上有上百個AI專案計畫正在進行,包括與前述Google的合作案。 (相關報導: 那福忠觀點:AI 能不能軍用? 更多文章

未來的戰爭是否成為機器人主導的作戰?又或者早在按下飛彈按鈕之前,AI早已經協助決策者過濾可能的人為誤判?甚而藉由機器人的輔助來處理高危險性質的作戰,反而可以減少軍人的傷亡?但為了達成戰事的精準度與勝利而引進AI科技,又必須犧牲多少個人隱私與自由,甚至可能殃及更多無辜生命?