過去一年，人工智能的高速發展，用一日千里已不足形容，這已引起有識之士的高度憂慮，認為它對人類的威脅，有可能比核武更危險。
A I所帶來的最大威脅，是改變了眼見耳聞為真的規則定律，人工智能不但可以取代許多人的工作，它可以幫你寫作業報告，甚至學術論文，它可以替代記者發新聞，它甚至可以向壁虛構，製造擬真照片與視頻，即使最熟知的事物也被竄改得真假莫辨，想想看這是多麼恐怖的世界。
聯合國在今年六月所發佈的一份報告中指出，當前科技的快速演進，加劇了虛假資訊傳播的風險，尤其以人工智能(AI)的生成技術，正在對各種媒體資訊的正確及完整性構成威脅，嚴重影響到社會安全。
這份報告聲稱，人工智能生產的假消息、仇恨言論或恐怖主義毒素，將以過於逼真而使人深信不疑的方式呈現給受眾，並在各媒體或社群網路上流傳，而且已經產生了明顯的危害。
今年五月，由A I生成的有關五角大廈附近發生爆炸的圖文在網路廣傳，多家新聞媒體不察跟進，並且引發恐慌，美股標普500指數瞬間短暫下跌，在事實得到釐清之前，傷害已經造成。在此前後，加密貨幣交易所的首席安全主管就曾警告；使用deepfake工具偽造他人身份錄製影片，以執行身份驗證流程的詐欺犯罪者持續增加，驗證者很難分辨其真偽。
聯合國秘書長於是表示，已有許多防範及監管措施正在研討中，包括歐盟草擬中的人工智能法案，及秋季英國舉行的人工智能安全峰會等。但所謂的道高一尺，魔高一丈，局勢仍然令人憂心。
人工智能的難以捉摸，有人甚至形容它比核彈更可怕。核彈畢竟掌握在極少數而且相對可控的人手裡，但人工智能卻人人可以上手，但你不知道他是誰。根據這份專題報導分析，將A I 技術與核武器進行比較，並引用近期由數百名科學家簽署、人工智慧安全中心（ＣＡＩＳ）發出以下警告：人工智能可能衍生的人類滅絕風險，應該等同於流行病及核戰爭等攸關人類生存的威脅，一起列為全球性優先解決事項。
文章中提出一個有趣的觀點，建議推動建立一個如同國際原子能總署的全球機構，用來監督人工智能技術開發及應用。A I 發展爆炸的真正原因，在於過去一年，A I 應用從文案、照片影片及歌曲生成，到語音及 deepfake，不但資本瘋狂投入，世界各地的民眾也都在廣泛使用相關技術。
一個名為「人道技術及地球物種中心」的組織，對此現象做了簡單的解釋，同時強調深度機器學習模型出現突破後：「你可以將一切都視為語言、視為能以線性方式排列的圖像片塊，接著你就能預測接下來最有可能出現的趨勢或新生事物。」換句話說，虛擬事界有可能取代真實世界。
這聽起來有點像佛家，根據佛家的理論，世界萬象都是假相，一切有如夢幻泡影，只有直指本心才能見如來。但是處在今天這麼複雜的世界，如來佛恐怕也要為之頭疼吧？！