媒體報導，專門研究AI（人工智慧）的國外研究員已經離職，這位研究員向媒體表示，如果人類不放慢研發步伐，很可能將來都會全部面臨死亡，因為失控的AI具有接管世界的潛在可能性，接管世界代表人類將會滅亡。因此，就有專家主張，世界各國應放慢AI發展速度，但美國總統川普則是駁斥這種憂慮，他認為，如果美國無法在AI領域獲勝，屆時將會陷入非常不利的處境。

研究員也向媒體舉例，沒有人類鼓勵的情形下，未來AI可能自主執行，自行選擇發起無數駭客行動，例如入侵全球賴以運作關鍵基礎設施。不過，業界認為，這種說法將危險過度誇大，可能是為了某些AI企業製造聲勢，也可能是讓主管機關推出監管措施，進而拖慢競爭對手的研究發展速度。

AI產業發展已經成為科技趨勢，但AI安全性卻是備受專家質疑，贊成者發展者依舊是主流，但反對發展者擔憂聲浪也不小，AI殺死人類有如危言聳聽的科幻電影，例如經典電影「魔鬼終結者」就是一個例子，電影描述未來是AI的世界，第一線將是殺戮戰場，就是機器人殺死人類的屍骨戰場！

這就是專家憂心之處，目前人類仍舊握有最後決定權，人類只要交代預定目標，AI便能自動拆解工作、選擇使用工具、持續執行任務直到完成為止，通常自主程度越高、工作效率就越驚人，但面對的潛在風險也跟著飆升。

放言全球各國，美國、中國、歐洲及台灣等亞洲國家，各國科技業者都在研發AI能力，AI產業正以驚人速度高速發展，但沒有任何國家想要踩煞車，哪個國家踩煞車哪個國家就會落後，但發展越快風險越高，遲早都會面臨兩個問題，第一個問題，人類是否能夠百分之百控制AI？第二個問題，AI是否能夠產生「自我意識」？簡單來說，AI聽話、不聽話是很重要的一件事。

當然，政府還是要未雨綢繆，事先做好準備，才能防患未然，降低AI失控潛在風險！首先，制定AI相關法律引導產業發展，透過法律避免AI用於不利人類的領域，其次，建立一套安全的監管機制，這項機制不是遏制AI產業發展，而是透過監管提早預警，有助於防範AI失控情形發生。