《電子技術應用》
您所在的位置:首頁 > 模擬設計 > 業界動態 > IEEE發布三項人工智能新標準 將優先考慮人類

IEEE發布三項人工智能新標準 將優先考慮人類

2018-09-03
關鍵詞: IEEE 人工智能 AI

  雷鋒網AI科技評論按:IEEE(美國電氣和電子工程師協會)最新宣布了三項新的人工智能發展標準。

  IEEE 號稱為“世界上最大的先進技術專業組織”。根據最近發布的一份報告,他們的人工智能標準將優先考慮人類,因為他們承諾要跟上AI領域不斷發展的腳步。

  IEEE發布三項人工智能新標準,涉及高層次倫理問題

  在發布的《合乎倫理的設計:將人類福祉與人工智能和自主系統優先考慮的愿景》報告中,共分為八個部部分闡述了新的人工智能發展問題。分別是:一般原則,人工智能系統賦值;指導倫理學研究和設計的方法學;通用人工智能和超級人工智能的安全與福祉;個人數據和個人訪問控制;重新構造自動武器系統;經濟/人道主義問題;法律。

1.jpg

  IEEE發布三項人工智能新標準,涉及高層次倫理問題

  一般原則涉及高層次倫理問題,適用于所有類型的人工智能和自主系統。在確定一般原則時,主要考慮三大因素:體現人權;優先考慮最大化對人類和自然環境的好處;削弱人工智能的風險和負面影響。

  人類利益原則要求考慮如何確保AI不侵犯人權。責任原則涉及如何確保AI是可以被問責的。為了解決過錯問題,避免公眾困惑,AI系統必須在程序層面具有可責性,證明其為什么以特定方式運作。透明性原則意味著自主系統的運作必須是透明的。AI是透明的意味著人們能夠發現其如何以及為何做出特定決定。

  在關于如何將人類規范和道德價值觀嵌入AI系統中,報告中表示由于AI系統在做決定、操縱其所處環境等方面越來越具有自主性,讓其采納、學習并遵守其所服務的社會和團體的規范和價值是至關重要的。可以分三步來實現將價值嵌入AI系統的目的:

  第一,識別特定社會或團體的規范和價值;

  第二,將這些規范和價值編寫進AI系統;

  第三,評估被寫進AI系統的規范和價值的有效性,即其是否和現實的規范和價值相一致、相兼容。

  雖然上述的相關研究一直在持續,這些研究領域包括機器道德(Machine Morality)、機器倫理學(Machine Ethics)、道德機器(Moral Machine)、價值一致論(Value Alignment)、人工道德(Artificial Morality)、安全AI、友好AI等,但開發能夠意識到并理解人類規范和價值的計算機系統,并讓其在做決策時考慮這些問題,一直困擾著人們。當前主要存在兩種路徑:自上而下的路徑和自下而上的路徑。這一領域的研究需要加強。

  報告中還指出需要指導倫理研究和設計的方法論,通用人工智能和超級人工智能的安全與福祉,重構自主武器系統,以及經濟/人道主義問題等八個人工智能發展面臨的問題。報告中收集了超過一百位來自人工智能領域學術界,科學界,以及政府相關部門的思想領袖的意見,整合了人工智能、倫理學、哲學和政策等多個領域專業知識。它的修訂版EAD(Ethically Aligned Design)  版本將會在2017年底推出,報告增至為十三個章節,含二百五十多個全球思想領袖的精華分享。

  IEEE 機器人和自動化協會的主席Satoshi Tadokoro 解釋了他們為什么想要制定這樣的標準:“機器人和自動系統將為社會帶來重大創新。最近,公眾越來越關注可能發生的社會問題,以及可能產生的巨大潛在利益。不幸的是,在這些討論中,可能會出現一些來自虛構和想象的錯誤信息。”

  Tadokoro 繼續說道:“IEEE 將基于科學和技術的公認事實來引入知識和智慧,以幫助達成公共決策,使人類的整體利益最大化。”除了AI倫理標準外,還有其他兩個人工智能標準也被引入報告中,每個項目都由領域專家領導。

  第一個標準是:“機器化系統、智能系統和自動系統的倫理推動標準”。這個標準探討了“推動”,在人工智能世界里,它指的是AI會影響人類行為的微妙行動。

  第二個標準是“自動和半自動系統的故障安全設計標準”。它包含了自動技術,如果它們發生故障,可能會對人類造成危害。就目前而言,最明顯的問題是自動駕駛汽車。

  第三個標準是“道德化的人工智能和自動系統的福祉衡量標準”。它闡述了進步的人工智能技術如何有益于人類的益處。

  這些標準的實施可能比我們想象的要早,因為像 OpenAI 和 DeepMind 這樣的公司越來越快地推進人工智能的發展,甚至創造出能夠自我學習又擴大“智能”領域的人工智能系統。專家們認為,這樣的人工智能會破壞世界穩定,導致大規模的失業和戰爭,甚至轉向創造“殺人武器”。最近,聯合國的重要討論促使人們開始認真思考,需對將人工智能技術當作武器使用進行更嚴格的監管。

  雷鋒網小結:2017年是AI發展最快的一年,AI 威脅論一波未平,一波又起。這其中牽扯到AI濫用、AI透明性、算法公平、AI倫理、AI監管和責任、AI信任等問題,我們看到其中有一部分正在擬定相關的標準和規范。不過,未來AI的發展還需要更多的討論和對話,一方面需要確保法律和政策不會阻礙創新進程,另一方面,對新出現的諸如倫理、責任、安全、隱私等問題,需要在跨學科的基礎上,以及在政府、企業、民間機構、公眾密切合作的基礎上,共同削弱AI的不利影響,創建人類和AI彼此信任的未來。


本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 亚洲精品国产福利片 | 久久成人免费播放网站 | 美女黄色好大美女黄色 | 久久免费精品视频 | 最新亚洲精品国自产在线 | 日日噜噜夜夜狠狠视频欧美人 | 2019中文字幕在线 | 亚洲国产精品免费观看 | 亚洲第一中文字幕 | 日本中文字幕在线观看 | 欧美无遮挡国产欧美另类 | 欧美一区二区三区精品影视 | 一级特黄女人生活片 | 国产乡下三片 | 18成禁人视频免费 | 一级美国乱色毛片 | 国产福利不卡 | 成人福利视频 | 日本成人性视频 | 不卡一区在线观看 | 黄色大片视频在线观看 | 天天干天天插天天 | 日韩手机在线免费视频 | 黄色a三级免费看 | 国产高清一级毛片在线人 | 草草视频免费观看 | 久久免费精品视频 | 免费色视频 | 台湾乱xxxxxxxxx| xx视频在线永久免费观看 | 中文字幕精品在线观看 | 欧美视频在线一区二区三区 | 天天干天天干天天 | 91精品国产闺蜜国产在线 | 国产99热99| 欧美日韩在线免费看 | 国产视频一区二区 | 超级乱淫视频播放日韩 | 欧美激情在线观看一区二区三区 | 日本国产在线 | 亚洲人成网男女大片在线播放 |