藉由行為分解達到安全的人工智慧(2/4)

研究計畫: 政府部門科技部計畫

專案詳細資料

說明

人工智慧系統大量使用深度學習技術,且被證實具有良好的成效,在各領域皆比傳 統方法更有效。然而訓練網路為一包含大量浮點數權重的黑盒子,從訓練網路中取 出知識、或是分析系統極限或限制幾乎不可能,深度學習網路運算基於數個神經元 啟動特徵的微小變化,幾乎無法將網路轉換為可分析的系統。這個盲點可造成嚴重 後果,如雪地中行駛的自駕車是難以預測的,即使是良好條件下也可能產生嚴重的 問題。有鑒於此,我們將利用一個結合方塊測試(採納系統與深度學習的內部知識 )與黑盒子測試(不具任何內部知識)的混合方法,將各種狀況轉換至近似等效的 行為樹系統(總、子三),並導入兩項對於人工智慧安全相當重視的領域:自駕車 (子一)與核電廠機器人(子二),這兩領域的人工智慧系統失效皆會造成重大傷 亡。在自駕領域,我們專注於卷積類神經深度學習的機械視覺預測系統,我們將提 供訓練網路的視覺與分析方法,並以在訓練網路中建立對抗範例以探測系統瑕疵。 另外,我們將專注於核電廠機器人處理核廢料的運動規劃,基於視覺辨識以強制學 習及深度學習方法學習運動任務,再將運動行為整理至行為樹中,這個行為樹將有 助於機器人運動狀況及表現極限的分析。
狀態已完成
有效的開始/結束日期2020/01/012020/07/31

Keywords

  • 安全與人工智慧
  • 可解析的人工智慧
  • 深度學習
  • 卷積神經網路
  • 生成對抗網路
  • 自駕車
  • 工廠維護機器人
  • 行為樹程式語言

指紋

探索此專案觸及的研究主題。這些標籤是根據基礎獎勵/補助款而產生。共同形成了獨特的指紋。