[新聞] 「自主性武器」引發聯合國關注，AI學者呼籲立法限制

看板Tech_Job作者zxcvxx (zxcvxx)時間7年前 (2018/04/30 17:21)推噓13(13推 0噓 1→)

留言14則, 14人參與討論串1/1

[新聞]「自主性武器」引發聯合國關注，AI學者呼籲立法限制 [來源]https://bit.ly/2qYHIDJ [內容] 聯合國於2016年的傳統武器大會(Convention on Certain Conventional Weapons, CCW) 後，針對「致命的自主化武器系統」(Lethal Autonomous Weapons Systems ,LAWs)設立了監管專家小組(Group of Governmental Experts ,GGE)，並在今年(2018)四月9日至13 日於日內瓦招開了第二次大會。然而，就在大會前一周，多國的AI專家連署發起一份聲明稿，指名對南韓科學技術院(KAIST)進行抵制。今年二月，南韓科學技術院宣布將與南韓十大財團之一的韓華集團，旗下的防務公司韓華系統(Hanwha Systems)共同建立一個研究中心，目標是「開發可應用於軍事武器的人工智慧技術」，以達到「無須人為控制的偵測並消除目標」，這使世界各國的AI學者感到不安。參與這次連署的學者說，他們將停止與南韓科學技術院的所有合作並拒絕接待該校的來賓，直到該校承諾所研發的武器將會具有「合理的人為控制」。這樣的不安並非毫無來由。南韓科學技術院是世界級的研究單位，其研究成果放眼世界仍是表現亮眼，包含贏得2015年DARPA機器人挑戰賽的DRC-Hubo機器人。然而，韓華系統公司是韓國最大的軍火商，其產品包括受到國際條約禁用的集束炸藥。南韓科學技術院的校長申興哲表示，對於這次抵制他感到十分遺憾，並再次重申，KAIST 不會進行任何與人類尊嚴背道而馳的研究，包括不受控的自主性武器。在南韓科學技術院做出承諾之後，抵制事件也告一個段落。但「自主性武器」對未來的威脅卻仍然存在。若放任自主性武器的發展，便會加快戰爭的速度與規模，更要承擔人工智慧「誤判」的風險。本屆聯合國傳統武器大會，最大的目標便是訂定出限制「致命的自主性武器系統(Lethal Autonomous Weapons Systems, LAWs)」的國際公約，因為相關法規的訂定速度已經大幅落後現在技術的發展。然而，在會議上仍然沒有達成共識，而其中最主要的意見分歧是在於「LAWs」的界定。若針對「致命」這個部分來看，配有人工智慧的導彈攔截系統需不需要接受法規監管呢？若是針對「自主性」，那現存的半自動無人機，算不算LAWs的規範範圍呢？所謂「合理的人為控制」又該如何定義？對於這些議題的辯論仍未停止，也讓國際公約的約制共識更是遙遙無期。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1525080102.A.4BD.html

推

susaku

04/30 17:25, 7年前 , 1^F

04/30 17:25, 1^F

推

GTX9080

04/30 17:28, 7年前 , 2^F

04/30 17:28, 2^F

推

Lorekeeper

04/30 17:34, 7年前 , 3^F

04/30 17:34, 3^F