AILI News
美國政府責任署（Government Accountability Office, GAO）於2021年6月30日發布了聯邦機關AI責任框架（Artificial Intelligence: An Accountability Framework for Federal Agencies and Other Entities），以確保AI在包含交通、醫療照護、教育、金融、國防、網路安全等多個部門的應用上，能達到負責任、公平、可追溯、可靠和可治理的。
報告中指出，AI正以一種驚人的速度在發展，使人類無法應對其複雜性、風險與產生的社會問題。所以有必要為AI系統制定一個框架，以進行獨立審查。且使用AI系統時，必須評估其技術性能，確保AI能使用適當的資料集來達到其預設的效用。並在報告中說明了使用不當資料集所產生的後果，這將延續及放大系統性偏見。
該框架由四個互補的原則所組成：治理（governance）、資料（data）、性能（performance）和監控（monitoring）。
透過治理原則，在管理階層，可以管理風險且強化法遵功能；在組織階層，有助於融入組織價值、分配職責並提高外部專家的參與度；在系統治理階層，將幫助機關實體確保AI能滿足性能要求且達到其預期成果。
透過資料原則，機關實體可以確認資料的品質、可靠性和代表性。並強調了資料安全與隱私的重要性，GAO表示，正在使用或計畫使用AI系統的機關實體，應進行資料安全評估，包括風險評估、資料安全計畫、隱私評估。而若有任何缺失之處，也應在進行安全隱私測試的過程中解決。
針對性能原則，GAO制定了幾個措施，來達到與計畫目標一致的結果。在構成方面，將記錄模型與非模型組件，訂定一致的性能指標，並評估每個組件的性能和生成結果；在系統方面，將確認AI系統所產生的潛在偏見或其他社會問題，並設立人為監督程序，以確定相關責任歸屬。
最後一項監控原則，將確保AI長期的可靠性與關聯性。為了持續監控性能制定AI系統例行監測計畫，建立代表預期結果的資料和模型偏移（data and model drift）範圍，並紀錄監測活動的結果。
GAO亦強調聯邦勞動人才短缺的問題，並引用美國人工智慧國家安全委員會（National Security Commission on Artificial Intelligence, NSCAI）的報告表示，人才的短缺是購買、建設與應用AI技術於國家安全上最大的障礙。需要從頭開始建立新的人才管道。
2021/7/2 FEDSCOOP：GAO issues AI accountability framework for agencies
https://www.fedscoop.com/gao-ai-accountability-framework-release/
2021/7/6 MeriTalk：GAO Issues AI Accountability Framework
https://www.meritalk.com/articles/gao-issues-ai-accountability-framework/
2021/7/6 HStoday：GAO Develops Framework for the Use of Artificial Intelligence by Federal Agencies