人工智能與機器學習——更好地管理不確定性

人工智能的結果并不總是可靠的，但可以通過測量這種不確定性，使人工智能的使用更加安全。一項新的DIN標準對此提供了初步建議。

隨著人工智能（AI）的快速發(fā)展，出現(xiàn)了信任方面的大問題：人工智能的結果有多可靠？機器學習（ML）的數(shù)據(jù)來自哪里？關于虛構的引用和人工智能生成的以假亂真的照片的爭論需要我們在處理技術時要謹慎。如果它是安全關鍵應用的一部分，例如在醫(yī)學或自動駕駛，則更是如此。

當ML模塊在實踐中使用時，不可避免地會出現(xiàn)技術開發(fā)中未考慮的場景。因為現(xiàn)實是復雜的——如此復雜，以至于機器學習的訓練和測試數(shù)據(jù)只能部分反映它。通過量化和評估這種系統(tǒng)的不確定性，可以使ML模塊在整個系統(tǒng)中的使用更加安全和穩(wěn)健。

工業(yè)和科學援助

這正是德國新標準DIN SPEC 92005的用武之地：在“人工智能——機器學習中不確定性量化”的主題下，德國標準化機構（DIN）定義了所謂的機器學習中的不確定性量化的基本術語。該文件制定了要求和指南，并提供了應用示例。其目的是就如何在實踐中處理不確定性的量化問題向行業(yè)和科學領域的利益相關者提供建議。

人工智能安全的重要支柱

DIN SPEC 92005的發(fā)起人、Industrieanlagen Betriebsgesellschaft mbH的Lukas H?hndorf博士指出，“不確定性的量化是一個廣泛而深入的研究領域。但到目前為止，還缺乏反映當前技術水平的標準化，能夠估計與模型、算法和預測結果相關的不確定性是人工智能安全的重要支柱，尤其是在安全關鍵系統(tǒng)中。"

影響結果的因素很多

不僅不完整或不清楚的數(shù)據(jù)和場景會影響ML模塊的系統(tǒng)環(huán)境，自動駕駛過程中的極端天氣條件或應用環(huán)境中其他參與者的非常規(guī)行為也會影響人工智能的結果。

CERTIFIED人工智能項目聯(lián)合體負責人、Fraunhofer智能分析與信息系統(tǒng)研究所人工智能保證與認證團隊負責人Maximilian Porechkin博士表示：“人工智能是許多傳統(tǒng)軟件無法實現(xiàn)的應用程序的基礎。為了在敏感的應用環(huán)境中使用，人工智能系統(tǒng)必須是安全、穩(wěn)健和值得信賴的。DIN SPEC 92005為確保這一點做出了重要貢獻“。

DIN SPEC 92005是CERTIFIED AI研究項目的成果，該項目是DIN與Fraunhofer智能分析和信息系統(tǒng)研究所（IAIS）、聯(lián)邦信息安全辦公室（BSI）以及其他科學和工業(yè)合作伙伴共同合作開展的。其目的是確保技術可靠性和負責任地使用技術。該項目由北萊茵-威斯特法倫州經(jīng)濟、工業(yè)、氣候保護和能源部資助。由來自以下組織的知名專家聯(lián)盟共同制定：Industrieanlagen-Betriebsgesellschaft mbH IABG, the Fraunhofer Institutes for Intelligent Analysis and Information Systems IAIS, for Cognitive Systems ICS as well as for Experimental Software Engineering IESE, ai.dopt, DEKRA Digital GmbH, e:fs TechHub GmbH, Giesecke+Devrient, Helsing GmbH, Leibniz University of Applied Sciences, Federal Network Agency for Electricity, Gas, Telecommunications, Post and Railways (BNetzA), Institute for Occupational Safety of the German Social Accident Insurance (IFA).