2022可解释AI发展报告：打开算法黑箱的理念与实践
二踯滲AI惰凌刹愤2022XX辱闹溟脏↖漩呱芤蓬=乐嘩 二踯滲AI惰凌刹愤2022XX辱闹溟脏↖漩呱芤蓬=乐嘩隠㚵蔠裮䅳 々隠㚵俍ɡ呺䖢咇 々 隠㚵〓蹕呺䖢咇 々隠㚵AI Lab 酽。詵㓦㳘AI氥㫼 01䯒酽䯓梽鏍叧雳浧矇艊詵㓦㳘屟慙徔 01䯒鲈䯓詵㓦㳘AI艊嶯躏 02䯒醑䯓詵㓦㳘AI醮㬛暺姪。䃾㠩壽 03䯒蠐䯓詵㓦㳘AI艊跏跣醎姪 051.嗁㯵詵㓦㳘 052.瑪嗁詵㓦㳘 06鲈。詵㓦㳘AI僨嗴㢑獻 08䯒酽䯓AI艊㬛暺屟嶗詵㓦㳘屟㬜玪彾踵襫熴嶗苳諎饅燍艊磍砎 08䯒鲈䯓唻敤姛駡邁㯵䃸懲羮艊AI跀酛抲熱㪏䗮艊㬛暺姪醮詵㓦㳘屟㒄烢 09䯒醑䯓唻縟趵䎘╪艊AI跀酛鮪詵㓦㳘屟昷䉳㮌鋁慘＃酽軟賽￥㒄烢 10䯒蠐䯓ǹ趵蠘椥扜踆詵㓦㳘AI艊恖梮㓦噴昷橉 12醑。詵㓦㳘AI艊ǹ趵呺㣻 13䯒酽䯓㜽潣浧矇則穻䯒Model Cards䯓梽壽 141.浧矇則穻艊㫜慘囑絔 142.浧矇則穻艊姉羮鯫杛 15䯒鲈䯓IBM艊AI鲇呺玜雜䯒AI Fact Sheets䯓梽壽 171.AI鲇呺玜雜艊踽㒄嗚镾 182.AI鲇呺玜雜艊▕梪囑絔 19唪柠詵㓦㳘AI僨嗴悞鶯2022XX怇婩誽熴䧸諪艊絔寳醮呺㣻 䯒醑䯓孎㩻艊斶懪䇗斶懪玜雜䯒datasheets for datasets䯓梽壽 22䯒蠐䯓謾骼詵㓦㳘屟AI墡錨 26䯒鲕䯓詵㓦㳘AI艊隠㚵呺㣻 281.隠㚵〓蹕詵㓦㳘㚧誽梽㓉㓌呺㣻 282.隠㚵語聴AI艊詵㓦㳘屟呺㣻 31蠐。唻詵㓦㳘AI梥棾僨嗴艊竊砎荱熴 37䯒酽䯓襫熴嶗苳諎呴㮂孉▕鲋䏣䅺艊鰓鄀鰓貙鰓鯫杛熎絔屒㣵 37䯒鲈䯓扜踆婠襫諦絔㬎姪艊。㬎姉醭讜ǹ趵醮姉羮鯫杛艊AI詵㓦㳘屟槪豈 37䯒醑䯓扜踆詵㓦㳘艊桬魍屟梽壽䯖嫮彾唻AI誽熴艊桹敱郿棴 40䯒蠐䯓媆啂。敆慁ǹ趵鎢媰詵㓦㳘AI蔠裮醮魖鰱䯖薶墮蟨恖謭櫞 41䯒鲕䯓亱媰蛼＝駡‖艊誽熴踃門䯖扜踆鳏梽鄖讜艊杶镾餱媀 41鲕。酁㛀䯤啀恓妕ゎ艊AI詵㓦㳘屟㣵嬛䯖薶墮蟨恖謭櫞 43 詵㓦㳘AI僨嗴悞鶯2022XX怇婩誽熴䧸諪艊絔寳醮呺㣻012016妘飨棾䯖飨梽鏍叧雳䯒machine learning䯓䯖喒謾曧獿姪叧雳䯒deep learning䯓踵魍ィ艊昦酽魍鳏墡杶镾恖梮醭昢梒菑桖鎢魯㫧。侟棇。靕踽艊昷謭僨嗴䯖㫥酓鄽牨嶗蛼＝僨嗴夃棾鑫昦艊黌䉺屟梽㭔、AI姉羮㫚棾＃窹蟢俋稜僨￥䯖暀苩玸㬛勢諤ǹ諤趵嶗鳏貙羠牆艊昷昷䉳䉳䯖桹梐⿷㬬昦矇艊鄽牨嶗蛼＝嫮尓、醮澑讜暚䯖蟨恖愛絔雩暀苩彾踵鑫嫕頌AI恖梮僨嗴醮鲲趵姉羮跤艊＃宍㬕䎋￥䯖諤翨鄗鄗扜踆AI愛絔囑賒。橅楯。熎絔梽壽訵、蟨恖愛絔艊酽跣樮宆㚴䎪喥曧鳏墡杶镾艊㬛暺姪醮詵㓦㳘屟䯒transparency and explainability䯓、2021妘11桸䯖鎽諦蹺UNESCO㬦㫓艊䒫跣瑪絑屟艊AI愛絔鄖㚴︹鳏墡杶镾愛絔婠㚴霎︺䯒Recommendation on the ethics of artificial intelligence䯓䯖抲熱艊鴛俋AI囑賒喥藥愥＃㬛暺屟醮詵㓦㳘屟￥䯖張誽熴艊墡慘昷媀嶗誽熴㚳鄨斶懪姉錨桹㬛暺姪嶗詵絔㓦屟、1麹磢妛䉯忞桹艊AI跀酛㰊曧＃䧸苵￥䯒black box䯓誽熴䯖妛䉯瀷䉯AI恖梮。™酛㩻鬣徏鳏墡蠿姃桖鎢醭詵㓦㳘䯖貶喥嫕頌鍖㔃䯖梽鏍叧雳浧矇喒謾曧獿姪叧雳浧矇嬔嬔曧醭㬛暺艊䯖䇏飨踵鳏貙忞絔㓦艊、梥棾䯖鳏墡杶镾艊慁醁㫧澒桹梐夃棾靕踽巃蓜。叧雳。噴詇。ǹ誤艊靕踽跀酛、磢鍖䯖㫥鲢跀酛艊呺䅕敱羮糴䅡鲋梽鏍曧壠镾侽擄鰓鰱謭鳏貙羮忊㓦㳘謾屒嶎嶗ǹ誤、偧楇羮忊嶎㒄絔㓦。惡麇。桹敱諎絔昦酽魍艊鳏墡杶镾．飽䯖鳏墡杶镾跀酛艊㬛暺屟醮詵㓦㳘屟喥曧靧饅㳛㒄艊、罌澑䯖㫝妘棾䯖詵㓦㳘AI䯒Explainable Artificial Intelligence䯖誖蠙＃XAI￥䯓彾踵鑫AI蔠裮艊昦蠻䎘╪䯖叧梮翨醮鲲趵翨訵鄗鄗扜踆絔㓦AI跀酛ǹ踵艊昷熴嶗墡錨、䯒酽䯓梽鏍叧雳浧矇艊詵㓦㳘屟慙徔慘踵媆䎘AI恖梮鎢㬫黌䉺艊㳛㒄熴呹䯖梽鏍叧雳曧酽恦儕潤蘇、酽昷䉳䯖呅詵飨夎錫AI掤闛唻鳏踵妔䎖嶗㛄㚧艊賜㡜䯖區給靕㦳媰俋艊斶懪慡扅。㚳鄨嶗鰓椷镾撾䯖呝彾誽熴浧矇艊靕踽叧雳嶗靕彿桖㫹䯖懲嬱AI鮪叧雳屒醎醢晹䅡扟㫝鲋鳏貙俋閠䯖雩⺖㚪踵曧AI羾媥鳏墡杶镾㫔謭媰鳏墡杶镾嫮尓艊饅䀽屟罌踃、桖獿駱鰱㛺䯖獿姪叧雳張獿姪蜶鄽鈫酖誽熴䯒Deep neural network䯓曧21跫鄅AI僨嗴艊＃壽钂熴呹￥、蜶鄽鈫酖艊竑嬕鮪鲋䯖謾晹䎍鄽㫓竑呯艊釆蠿䯖1， https://en.unesco.org/artificial-intelligence/ethics1二踯滲AI讯龍 02喥镾靕誤鞲畫俋艊斶懪姈跤叧雳妛椨婠靕㦳艊㓇賒鉢跀、㫥樭艊靕誤羠彾㭇㪝曧誽熴墡蠿壎艊螆䌄䯖镾侽椥俋鰱㓦敡骼髦艊羠鲲撾䯖妛鹾詵飨㬎羮鲋桖鎢侸廬誼艊姉羮鯫杛䯖嫮彾AI艊靕踽叧雳。靕彿攝㬬飨倀靕誤㫹魍梽壽、詆酽昷䉳䯖梽鏍叧雳剴暀苩柟䉃熱AI鮪靕誤誼噴詇䯒Automated decision-making䯓跤艊愛絔䃾䎪嶗誽熴鈇䆈、呺䅕醢䯖偧讜酽跣薴壆艊跏䉳䯖獿姪叧雳誽熴晼桹謾魯㫧。箏竑艊桖㫹〓獻䯖剴桹菑晹詵螻㮌艊䇏㓦㳘屟嶗䧸諪屟、鮪獿姪叧雳䎘╪䯖▕鲋鳏墡蜶鄽鈫酖酁椨艊侟棇嗃鄀䯖鮪AI獿姪叧雳浧矇艊㪟駱斶懪嶗㪟熱酁楇躐䄄䯖叅鮪菑鳏髦晹熴爗峾艊＃䆡嗃￥䯖獿╖鲋㫥鲢酁椨姌醣艊䈇藣斶懪嶗浧矇贋斶䯖鴬塒菑俋㳝唻鳏貙鍖㔃㰊䇏飨絔㓦艊魍蔅嶗斶過䯖㫥雩懲嬱AI艊墡慘囑絔䇏飨㓦㳘、罌澑䯖獿姪叧雳雩⺖蠙踵＃䧸苵￥誽熴、㫥鲢忞㜙艊＃䧸苵￥浧矇詵镾㫓鲋侟棇䯖張懲曧豕咲羮忊雩晹熴呝瑪絔㓦、暆鮪1993妘䯖叧鍎Gerald Peterson喥慇熱䯖䅵䉯鳏貙镾侽㛺桽靕墰呝瑪惡麇㫥䎋恖梮䯖壠賒蜶鄽鈫酖誽熴啔醭＝⺖姉羮鲋饅䀽䎘╪䯖鍖亱㫧惡麇艊樮宆鮪鲋懲鳏貙镾侽絔㓦AI艊廟㯵㫜ǹ囑絔、㛫㛀昢茻勢鞔俍㰊鞣踵鳏髦忞扟糴嶗㚪讜、罌澑䯖蜶鄽鈫酖艊詵㓦㳘屟䃾䎪⺖㚪踵曧㫝醑鴛妘棾AI恖梮艊㳛砎敜饅昷謭、讜暚䯖唻蜶鄽鈫酖誽熴艊㓦㳘羥乵雩懲嬱梽鏍叧雳䆈駱鑫AI艊哹鷗梕、2鮪澑鑨杛醣䯖XAI艊噯䎪⺖抲熱䯖暅鮪㓦噴獿姪叧雳誽熴忞夃棾艊㓦㳘屟䃾䎪、鞲詵㓦㳘AI艊釐㡽嶗僨嗴㫧蠿棾荱䯖䆠菑獿姪叧雳誽熴㬜玪⺖鳏髦倊踵鱘靘䯖XAI彾踵獿姪叧雳艊＃婩諪鍎￥䯖㬜玪㡶㫧駡‖艊㓉㳜䯖雩踵鳏髦夃棾鑫婩蕓誽熴㓦㳘俋䃸艊＃㳟㾴蔭￥、䯒鲈䯓詵㓦㳘AI艊嶯躏㬛暺屟醮詵㓦㳘屟曧唻AI跀酛艊▕梪㒄烢䯖曧呺粷謾骼愛絔麽過艊宍㒄頌抲䯖貶雩䈑㒄醮䆡蟔。呏瑪訵謾骼囑賒㫧ǹ妕ゎ、醝諦棾荱䯖㬛暺。詵㓦㳘AI錨桹飨醣嶯躏䯤訅酽䯖夎錫羮忊亱媰唻AI跀酛艊惡宆醮惡麇、唻AI艊靕誤噴詇抲辭酽跣㓦㳘䯖詵飨鮪嬟俋蠿姪醢亱㫧鳏髦唻AI跀酛艊惡宆醮惡麇䯖喒謾曧鮪䎖牣艊豈薶屟醮諦絔屟昷䉳、羮忊啀烢㓦㳘艊茩艊侸蟢侸樭䯖藥愥獿駱叧雳。醮蛼＝頠屟鲒誤。鰓㱚㠩麇訵、㬦㫓唻誽熴噴詇艊㓦㳘䯖酽2， Flexible and Context-Specific AI Explainability: A Multidisciplinary Approach, https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3559477 詵㓦㳘AI僨嗴悞鶯2022XX怇婩誽熴䧸諪艊絔寳醮呺㣻03昷䉳镾侽墮䆭駡‖▕梪艊蓜嵔棈嶗讜嶯棈䯖詆酽昷䉳雩桹濕鲋亱媰駡‖唻AI鲲閔艊惡宆醮惡麇、鍖鹾鈇貂㬛暺姪詵镾䅋藢AI跀酛艊詵羮屟、訅鲈䯖䅂澏懷㓄䯖釣㫧誽熴駡妕、詵㓦㳘AI暅鮪唻誽熴䧸諪。誽熴俢瞝訵䃾䎪慘熱螻姉䯖㡑鲂羮忊唻誽熴噴詇梽壽艊蓜嵔棈訵䯖㬦㫓誽熴㬛暺誼梽壽趕㭈婩僨鍎。抲辭鍎㳕僉桹敱艊扥昻䅂餱誽熴澔㓉。噴詇懷墬訵䃾䎪䯖鞲鍖釣㫧誽熴駡妕䯖呺粷蟨恖謭櫞、訅醑䯖瓕㢹苳諎槪豈徏敤詇㒄烢、㬛暺姪徏詵㓦㳘屟唻鲋ǹ懲縶酄AI跀酛艊熴嬣棈濕。㛇暺鲲閔徏桽烏觻諦苳諎槪豈䯖飨倀夎錫㓦噴桹饅㠩麇艊䃾䎪錨桹㳛㒄嶯躏、鮪瓕㢹苳諎槪豈艊棷鬣醣䯖詵㓦㳘AI啔掤闛噴詇諦熴屟艊㠮聧䯖镾侽桖鎢䗮敱晹㛵鰱怱ǹ竑呯鲇烏䯖鍖晹䎍惔寖噴詇酁楇曧壠＝媆僨敤姛艊妔䎖嶗壽⺱䯖鞲鍖抲緣噴詇艊敱籹、澑侳䯖AI詵㓦㳘屟唻鲋薶墮䃾㠩䯒accountability䯓雩靧饅㳛㒄䯖靧啨詵飨踵㠮聧AI跀酛艊㪟熱。酁楇抲辭▕蕬、訅蠐䯖絔㓦嶗䖢㛇AI跀酛艊㪟熱䯖扢誤跀酛㛄㚧艊敘㫧、詵㓦㳘屟詵飨夎錫婩僨鳏蘚扜裮。鰓椷AI跀酛飨榚蟢昷媀鲲熱榚蟢酁楇艊囑罌䯖妛唻AI跀酛艊㪟熱㫧ǹ䖢㛇䯖㫧鍖夎錫婩僨鳏蘚絔㓦AI跀酛䯖會熱澐薶艊噴呯䯖鮪澑▕蕬醢唻AI跀酛會熱敘㫧、籌偧䯖鮪靕誤䖔䖌焹㩱跤䯖鑫㓦跀酛踵鳘躅飨倀偧駁僨羠敭䆭䯥鮪語聴墮擊䎘╪䯖詵㓦㳘屟詵飨夎錫語聴鳏蘚絔㓦酁楇䯖蔠僨鳏蘚詵飨㣥㤱跀酛敭
