智研君：

隨著人工智能技術高速發(fā)展，推動可信AI治理成為大勢所趨。作為業(yè)內領先企業(yè)，商湯科技積極響應業(yè)界號召，為可信AI治理實踐貢獻落地方案。

8月16日，“2022可信AI峰會”在線上成功舉辦。峰會期間，商湯科技“人工智能倫理治理體系” 、“算法測評工具”榮獲人工智能產業(yè)發(fā)展聯盟（AIIA）“可信人工智能實踐優(yōu)秀案例” 獎。此次案例的獲獎是對商湯科技積極推動AI治理落地實踐的有力認可。商湯將持續(xù)發(fā)展負責任且可評估的人工智能，助力經濟社會數字化轉型。

以下是獲獎案例的簡介：

“人工智能倫理治理體系”

隨著AI產業(yè)的迅速發(fā)展，AI倫理治理已成為海內外重點關注領域。作為業(yè)界領先企業(yè)，商湯科技主動承擔社會責任，積極推進AI倫理治理工作，通過加強人工智能倫理治理體系建設，推動商湯的健康可持續(xù)發(fā)展。

商湯科技在全球首次明確提出“平衡發(fā)展”的AI倫理觀，倡導“可持續(xù)發(fā)展、以人為本、技術可控”的倫理原則，并基于上述原則，在組建AI倫理與治理委員會、建立人工智能倫理與治理風險控制機制、制定AI倫理標準等方面開展重點工作。

通過兩年多的組織建設、機制建設、理念宣導、員工培訓，商湯已初步建立起覆蓋項目審批、產品及服務的發(fā)布，到持續(xù)運營監(jiān)控，及其后的產品及解決方案迭代的整個生命周期的人工智能倫理審查程序。積極參與可信AI發(fā)展的實踐落地，成為商湯堅持“知行合一”，推動企業(yè)愿景的重要支撐與舉措。

“算法測評工具”

由于“算法黑箱”的客觀存在，導致算法的不可控、算法歧視等問題存在，也導致公眾對AI及算法信任的降低。商湯主動承擔算法開發(fā)者的主體責任，基于真實場景下的數據集的算法驗證與評測，實現 AI 技術的真正可信與可控。

根據人工智能治理需求，商湯開發(fā)了“算法測評工具”：一是通過對主要場景和長尾場景的算法測評的全覆蓋，實現了所有商業(yè)化算法的可信與可控。二是設計多元化的測評項目和豐富的指標體系。三是通過足夠充分的數據集以及全方面的評測方案對算法進行充分的評測。四是將目前所使用的主算法評測的方式與實踐提煉出來，打造了一系列行業(yè)標準。

從技術側看，商湯通過算法測評工作，保障了算法可用和其性能穩(wěn)定。從倫理和治理側看，算法測評工具確保算法安全，有效規(guī)避算法風險，體現了商湯“技術可控”的倫理治理原則，同時彰顯了商湯的社會責任感和企業(yè)使命。

作者/

李玥璐 商湯智能產業(yè)研究院助理研究員

編輯/

張學睿 商湯智能產業(yè)研究院助理研究員