《電子技術應用》
您所在的位置:首頁 > 模擬設計 > 業界動態 > IEEE發布三項人工智能新標準 將優先考慮人類

IEEE發布三項人工智能新標準 將優先考慮人類

2018-09-03
關鍵詞: IEEE 人工智能 AI

  雷鋒網AI科技評論按:IEEE(美國電氣和電子工程師協會)最新宣布了三項新的人工智能發展標準。

  IEEE 號稱為“世界上最大的先進技術專業組織”。根據最近發布的一份報告,他們的人工智能標準將優先考慮人類,因為他們承諾要跟上AI領域不斷發展的腳步。

  IEEE發布三項人工智能新標準,涉及高層次倫理問題

  在發布的《合乎倫理的設計:將人類福祉與人工智能和自主系統優先考慮的愿景》報告中,共分為八個部部分闡述了新的人工智能發展問題。分別是:一般原則,人工智能系統賦值;指導倫理學研究和設計的方法學;通用人工智能和超級人工智能的安全與福祉;個人數據和個人訪問控制;重新構造自動武器系統;經濟/人道主義問題;法律。

1.jpg

  IEEE發布三項人工智能新標準,涉及高層次倫理問題

  一般原則涉及高層次倫理問題,適用于所有類型的人工智能和自主系統。在確定一般原則時,主要考慮三大因素:體現人權;優先考慮最大化對人類和自然環境的好處;削弱人工智能的風險和負面影響。

  人類利益原則要求考慮如何確保AI不侵犯人權。責任原則涉及如何確保AI是可以被問責的。為了解決過錯問題,避免公眾困惑,AI系統必須在程序層面具有可責性,證明其為什么以特定方式運作。透明性原則意味著自主系統的運作必須是透明的。AI是透明的意味著人們能夠發現其如何以及為何做出特定決定。

  在關于如何將人類規范和道德價值觀嵌入AI系統中,報告中表示由于AI系統在做決定、操縱其所處環境等方面越來越具有自主性,讓其采納、學習并遵守其所服務的社會和團體的規范和價值是至關重要的。可以分三步來實現將價值嵌入AI系統的目的:

  第一,識別特定社會或團體的規范和價值;

  第二,將這些規范和價值編寫進AI系統;

  第三,評估被寫進AI系統的規范和價值的有效性,即其是否和現實的規范和價值相一致、相兼容。

  雖然上述的相關研究一直在持續,這些研究領域包括機器道德(Machine Morality)、機器倫理學(Machine Ethics)、道德機器(Moral Machine)、價值一致論(Value Alignment)、人工道德(Artificial Morality)、安全AI、友好AI等,但開發能夠意識到并理解人類規范和價值的計算機系統,并讓其在做決策時考慮這些問題,一直困擾著人們。當前主要存在兩種路徑:自上而下的路徑和自下而上的路徑。這一領域的研究需要加強。

  報告中還指出需要指導倫理研究和設計的方法論,通用人工智能和超級人工智能的安全與福祉,重構自主武器系統,以及經濟/人道主義問題等八個人工智能發展面臨的問題。報告中收集了超過一百位來自人工智能領域學術界,科學界,以及政府相關部門的思想領袖的意見,整合了人工智能、倫理學、哲學和政策等多個領域專業知識。它的修訂版EAD(Ethically Aligned Design)  版本將會在2017年底推出,報告增至為十三個章節,含二百五十多個全球思想領袖的精華分享。

  IEEE 機器人和自動化協會的主席Satoshi Tadokoro 解釋了他們為什么想要制定這樣的標準:“機器人和自動系統將為社會帶來重大創新。最近,公眾越來越關注可能發生的社會問題,以及可能產生的巨大潛在利益。不幸的是,在這些討論中,可能會出現一些來自虛構和想象的錯誤信息。”

  Tadokoro 繼續說道:“IEEE 將基于科學和技術的公認事實來引入知識和智慧,以幫助達成公共決策,使人類的整體利益最大化。”除了AI倫理標準外,還有其他兩個人工智能標準也被引入報告中,每個項目都由領域專家領導。

  第一個標準是:“機器化系統、智能系統和自動系統的倫理推動標準”。這個標準探討了“推動”,在人工智能世界里,它指的是AI會影響人類行為的微妙行動。

  第二個標準是“自動和半自動系統的故障安全設計標準”。它包含了自動技術,如果它們發生故障,可能會對人類造成危害。就目前而言,最明顯的問題是自動駕駛汽車。

  第三個標準是“道德化的人工智能和自動系統的福祉衡量標準”。它闡述了進步的人工智能技術如何有益于人類的益處。

  這些標準的實施可能比我們想象的要早,因為像 OpenAI 和 DeepMind 這樣的公司越來越快地推進人工智能的發展,甚至創造出能夠自我學習又擴大“智能”領域的人工智能系統。專家們認為,這樣的人工智能會破壞世界穩定,導致大規模的失業和戰爭,甚至轉向創造“殺人武器”。最近,聯合國的重要討論促使人們開始認真思考,需對將人工智能技術當作武器使用進行更嚴格的監管。

  雷鋒網小結:2017年是AI發展最快的一年,AI 威脅論一波未平,一波又起。這其中牽扯到AI濫用、AI透明性、算法公平、AI倫理、AI監管和責任、AI信任等問題,我們看到其中有一部分正在擬定相關的標準和規范。不過,未來AI的發展還需要更多的討論和對話,一方面需要確保法律和政策不會阻礙創新進程,另一方面,對新出現的諸如倫理、責任、安全、隱私等問題,需要在跨學科的基礎上,以及在政府、企業、民間機構、公眾密切合作的基礎上,共同削弱AI的不利影響,創建人類和AI彼此信任的未來。


本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 国产性做久久久久久 | 热e国产 | 成人黄色在线观看 | 国产色丁香久久综合 | 中文精品北条麻妃中文 | 日韩在线小视频 | 亚洲午夜在线播放 | 一一本大道香蕉大无l吗 | 欧美不卡视频 | 国产三级精品三级在专区 | 狠狠操视频网站 | a毛片视频 | 欧洲美女a视频一级毛片 | 欧美日韩国产中文字幕 | 国产91网 | 亚洲欧美丝袜综合精品第一页 | 免费成人高清 | 精品一区在线 | 一区二区在线欧美日韩中文 | 亚洲无线码一区二区三区 | 人人做人人爽 | 视频在线观看免费网站 | 波多野吉衣中文字幕 | 黄色大片一级 | 自拍 亚洲 欧美 另类 动漫 | 一级毛片特级毛片黄毛片 | 日本三级香港三级人妇99 | 一级特黄特黄xxx视频 | 亚洲91在线 | 欧美日韩一区二区三区在线观看 | 日本高清h色视频在线观看 日本妇人成熟免费观看18 | 久久精品国产日本波多麻结衣 | 天天摸日日操 | 免费三级黄色 | 国产成人综合久久精品亚洲 | 黄色在线视频网 | 欧美在线观看a | 动漫成年美女黄漫网站小视频 | 色视频免费在线 | 日韩欧美无线在码 | 国产资源在线视频 |