報導稱: “美軍測試AI控制無人機 在模擬情境中竟殺了人類操作員” 非事實。
事實:此為外部、而非美軍的測試,甚至非任何形式的模擬,僅為“思想實驗” (thought experiment)
上報提到新聞來自衛報2023/6/2報導。
檢視衛報原文提到引用“英國皇家航空學會”對此峰會的討論紀錄文章,
而“英國皇家航空學會“則該篇文章則於2023/6/2 補充更新:
Hamilton上校承認他在峰會報告口誤,會議中說「人工智慧無人機模擬」,實際上是「外部、非軍方的假設性“思想實驗”」,是基於看來合理的假設情境及可能的結果,而非一個根據美國空軍真實世界的模擬。 “我們從不曾執行這個實驗,也不需要為了瞭解一個看起來就很合理的結果而去做實驗。” 他澄清美國空軍(不管在真實或模擬情況下)都沒有測試任何武器化的人工智慧。 “僅管這只是假設的例子,依然描繪了真實世界面臨人工智慧驅動能力的挑戰,這也是空軍為什麼要求發展道德人工智慧的原因。”
[UPDATE 2/6/23 - in communication with AEROSPACE - Col Hamilton admits he "mis-spoke" in his presentation at the Royal Aeronautical Society FCAS Summit and the 'rogue AI drone simulation' was a hypothetical "thought experiment" from outside the military, based on plausible scenarios and likely outcomes rather than an actual USAF real-world simulation saying: "We've never run that experiment, nor would we need to in order to realise that this is a plausible outcome". He clarifies that the USAF has not tested any weaponised AI in this way (real or simulated) and says "Despite this being a hypothetical example, this illustrates the real-world challenges posed by AI-powered capability and is why the Air Force is committed to the ethical development of AI".]
補充資料:
思想實驗(thought experiment)是一種思考工具,其藉由想象力嘗試以敘事的形式建立一些排除次要(或無關)背景因素的可能情況,以檢視某個概念或原則的界定是否合乎我們的直覺,繼而進行相關論證。在未有確切的想法之前,有時候它亦可以協助找出更根本的道德原則。(資料:泛科學)