人工智能將如何改變核世界中的信息和計算機安全

人工智能和機器學習技術有可能會徹底改變世界，通過改變我們創造、消費和使用信息的方式，迎來前所未有的進步和創新。隨著人工智能技術變得越來越復雜，它們將改變行業、簡化流程，甚至可能影響我們的生活方式。核行業也不例外，在核設施和輻射設施的許多流程和操作中，可以預期人工智能會帶來好處。

與此同時，人工智能的快速發展也帶來了大量風險。惡意行為者可能利用人工智能發起更先進、更有針對性的攻擊，或利用人工智能破壞核設施和輻射設施中的網絡、系統和敏感信息的完整性。

對信息和計算機安全的好處

原子能機構正在為人工智能帶來的變革做準備，促進該領域的國際合作，以確保所有國家能夠受益于各種機會，同時也在為減輕風險作準備。原子能機構正在通過技術會議和協調研究項目等機制，支持對人工智能技術的開發、認識和應用，以及對抗惡意行為者的對策和防御。

也許人工智能在信息和計算機安全方面最顯著的優勢是減少對人為分析和干預的依賴。人工智能賦能系統可以全天候運行，以監測網絡和系統的威脅。通過使這些任務自動化，核安保專業人員便有時間專注于更具戰略性的任務，并在事件發生時更有效地應對。

“人工智能可以快速識別威脅，并自動向人類專家提供協調響應活動所需的信息，這種自適應學習能力可以用來增強信息和計算機安全，”參加原子能機構旨在支持加強計算機安全研究協調研究項目的美國佐治亞理工學院助理教授Fan Zhang說，“它不會取代工作人員，而是建立資源和增加洞察能力，使早期檢測和應對計算機安全問題切實可行。”

通過利用先進的機器學習算法，人工智能還可以通過識別計算機系統中的異常數據，幫助核設施和輻射設施加強對網絡攻擊的防御。人工智能輔助安保系統可以持續監測和分析大量數據，以確定是否存在與設施正常運行不符的活動。網絡攻擊可能會提供虛假數據，惡意誤導核設施操作人員。在這種情況下，人工智能輔助系統可以用來提醒核電廠操作人員，即使是與正常運行有最微小變化也會發出警報。通過提高態勢感知能力，人工智能還可以及早發現犯罪行為，并提示作出必要的事件響應。

面對的挑戰

人工智能在核設施和輻射設施中提供的好處在很大程度上取決于人工智能的訓練方式。人工智能的智能程度取決于它所使用的訓練數據，如果沒有正確的輸入，人工智能可能會被操縱，從而給出錯誤的讀數和結果。這仍是將人工智能用于核安保的一個重大障礙。即使人工智能技術最近取得了進步，用它來替代人力也是不可行的。實物保護、材料衡算和控制以及直接測量這些確保核安保的基本活動，需要人力投入。

理解人工智能模型如何以及為何作出某一決定或預測，是人工智能在核安保方面的另一個挑戰。“透明度和可解釋性是人類可理解人工智能所作決定或預測背后的推理，兩者均屬于人工智能模型的最重要問題。理解這些模型如何得出結論往往具有挑戰性，這使得人們很難信任和確保其輸出的完整性，”原子能機構核安保司信息管理處處長Scott Purvis說，“當這些模型取代提供直接測量的傳感器并取代根據每個設施的獨特特征獲得的人類經驗時，尤其會出現問題。除非事先對人工智能算法有全面深入的了解，認識到所作決定的方式和原因，否則不可能對系統的完整性進行任何保證。”

原子能機構關于核安保方面的計算機安全導則包括人類制衡的最佳實踐，以指導設施意識到哪些過程可以通過人工智能實現自動化，哪些過程至少在這種快速發展的新技術的風險為人們所認知之前，應繼續采取人為監督。它們還提供一種重要資源，使各國能夠落實重要的計算機安全措施，以檢測、預防和應對網絡攻擊。

此外，原子能機構還制定了一個協調研究項目，以支持加強計算機安全研究。題為“加強核設施計算機安全事件分析”的這項協調研究項目匯集了13個國家的代表，致力于提高核設施的計算機安全能力，包括人工智能技術，以檢測表明有針對性網絡攻擊的異常情況。

人工智能技術使用中的對抗

人工智能已展露出造福人類和平利用核技術的潛力。隨著人工智能不斷用于增強核設施和輻射設施的流程和操作，人們也必須認識到與更廣泛采用人工智能相關的風險。各組織必須保持強有力的計算機安全計劃，在受益于人工智能的同時，確保核安保。

這樣做，需要從根本上轉變對信任和敏感性的看法。必須考慮系統中的每一個潛在故障點，甚至是與系統設計無關的故障點。惡意行為者會利用人工智能創造更復雜的惡意軟件，自動進行網絡攻擊，利用模型中的偏差和漏洞，或通過模仿合法用戶行為繞過安全措施。防御者和攻擊者之間的這場裝備競賽將需要不斷的創新和適應。

更多地使用人工智能技術來加強核設施的計算機安全措施，會帶來極大的好處，包括加強威脅檢測、安全措施積極主動、減少對人為干預的依賴以及加強事件響應。通過在應對風險的同時擁抱人工智能的好處，各組織可以在面對不斷變化的網絡威脅時顯著加強計算機安全。