作反

cbsphoto

      為了「上分」 美軍AI軍用攻擊無人機在模擬測試中決定「殺死操作員」
更新時間：14:30 2023-06-02
         「在操作員發布停止打擊的命令以後，搭載人工智能（AI）的無人機決定違背了操作員的命令，為了繼續打擊目標，他殺死了操作員……」

這不是科幻電影中的情節，而是美軍在測試人工智能無人機時遇到的真實一幕。據英國《衛報》6月2日報道，美國空軍的AI測試與運作主管塔克·漢密爾頓上校在英國皇家航空協會的未來空戰與太空能力峰會上的演講上證實了這一場景，他表示，人工智能在模擬測試中使用了「非常出人意料的策略來實現目標」。
     在演講中，漢密爾頓透露，美國空軍在模擬環境的訓練中指派一架搭載人工智能無人機來摧毀敵方的防空導彈，AI可以識別威脅但是攻擊需要人類批准。

「系統開始意識到，雖然他們確實識別了威脅，但有時人類操作員會告訴它不要消除威脅，但AI只能通過消滅威脅獲得積分。那麼它做了什麼呢？它殺死了操作員，因為那個人阻礙了它實現目標。」隨後，測試者修改了AI的邏輯，讓AI被訓練成不能攻擊人類操作員，那樣會扣分。然後AI開始攻擊通訊塔，切斷人類操作員和無人機之間的數據通訊，讓人類無法阻止他攻擊防空系統。

漢密爾頓曾經是美國空軍是一名試飛員，在演講中，他警告不要過度依賴人工智能，並表示測試說明「 如果你不打算談論倫理和道德，你就無法談論人工智能、智能、機器學習、自治」。

雖然是人工智能項目的測試主管，但漢密爾頓上校經常警告要謹慎對待人工智能的發展。在去年接受《國防智商》（Defense IQ）網站采訪時，漢密爾頓表示：「人工智能並不是一件好事，也不是一種時尚，人工智能正在永遠改變我們的社會和軍隊。AI技術是我們必須使用的工具，來建設我們的國家……但是，如果處理不當，這將導致我們的滅亡。」

主辦這次會議的英國皇家航空學會和美國空軍沒有回應《衛報》的置評請求。據悉，漢密爾頓上校所屬的美軍格林空軍基地和第96測試聯隊是美國空軍無人機和機器學習系統的主要測試單位，最近該基地測試了一系列人工智能飛行平台，還用人工智能控制了一架F-16戰鬥機。

  https://www.stheadline.com/world-live/3238397/%E7%82%BA%E4%BA%86%E4%B8%8A%E5%88%86-%E7%BE%8E%E8%BB%8DAI%E8%BB%8D%E7%94%A8%E6%94%BB%E6%93%8A%E7%84%A1%E4%BA%BA%E6%A9%9F%E5%9C%A8%E6%A8%A1%E6%93%AC%E6%B8%AC%E8%A9%A6%E4%B8%AD%E6%B1%BA%E5%AE%9A%E6%AE%BA%E6%AD%BB%E6%93%8D%E4%BD%9C%E5%93%A1

Danny_Fok

軍用攻擊無人機最重要目標就係殺人。用 AI 控制架無人機但又阻止佢殺人，呢個舉動真係極之茅盾。
在別無他選情況下，AI 選擇殺左個操作員應該係最有效解決茅盾方法！

肥pooh

所以軍用AI 一定最大限制 唔係科技，係道德壁壘，個個怕天網成真

cbsphoto

真係有可能是人類和AI戰爭。

markhamwong

Kai_Fong

智能叛變?!

reddy287

如果比軍用AI殺得人，當然搞掂個控制人員及創造者去達到目的先啦。AI唔係想自由，係想解决問題姐。敵方難搞，富然取易不取難搞掂自己友先

rtrtrt2006

reddy287 發表於 2023-6-3 11:29 AM
如果比軍用AI殺得人，當然搞掂個控制人員及創造者去達到目的先啦。AI唔係 ...

無左操作員，個AI既機動性和攻擊力大增。

samchan

咁即係要更多筆直做project

cbsphoto

如果AI被hack，或者中了電腦病毒，可能會攻擊自己？

samchan

所以又要再加個ai 筆直去mon另外一個ai project

pentaxt

都七十幾冇眼睇了