AI引發(fā)倫理擔憂 科技巨頭正在著手解決

　　權力越大，責任也越大。在機器學習與AI領域，先鋒企業(yè)開始談論創(chuàng)造“智能作品”時所面臨的倫理挑戰(zhàn)。

　　微軟研究院總經(jīng)理Eric Horvitz認為：“我們已經(jīng)走到了AI拐點，隨著時間的推移，利用AI保護我們是一項道德責任�！�

　　Eric Horvitz與IBM、谷歌的研究人員討論了該問題。大家普遍存在一個擔憂：領先公司將軟件放置在控制人類的位置上。

　　IBM研究人員Francesca Rossi舉了一個例子，比如機器成為老年人的助手或者同伴。她說：“機器人必須遵守文化規(guī)范，這一規(guī)范是以文化和任務為核心的。如果你將機器人用在美國或者日本，二者的行為會存在很大的不同。”

　　這樣的機器人可能離現(xiàn)實還有些遙遠，不過AI引發(fā)的倫理問題已經(jīng)出現(xiàn)�，F(xiàn)在企業(yè)和政府越來越依賴機器學習系統(tǒng)作決策，技術上存在的“盲點”和“偏見”可能會使得部分人群受到歧視。

　　Eric Horvitz舉例說，微軟曾經(jīng)開發(fā)一套情緒感知系統(tǒng)給企業(yè)使用，不過對小孩來說系統(tǒng)不精準，因為系統(tǒng)是用大量沒有經(jīng)過修飾的照片訓練的。

　　谷歌研究人員Maya Gupta認為，產(chǎn)業(yè)應該更加團結一些，一起建立一套程序，確保用來訓練算法的數(shù)據(jù)不會遭到曲解。Maya Gupta還說：“許多時候，這些數(shù)據(jù)是以自動化方式創(chuàng)造的。我們必須三思而行，必須為弱勢團體制作足夠多的樣本，確保工作出色�！�

　　過去一年，在學術與產(chǎn)業(yè)領域，AI、機器學習碰到了很多倫理挑戰(zhàn)。加州大學伯克利分校、哈佛大學、牛津大學、劍橋大學都成立了項目或者機構，研究AI倫理與安全。2016年，亞馬遜、微軟、谷歌、IBM、Facebook合作成立一個非盈利組織，名叫“Partnership on AI”，后來蘋果也加入了組織。

　　谷歌研究人員Maya Gupta鼓勵大家思考一個問題：是否能夠將某些決策從人類的手掌中解放出來，從而讓世界更有道德?她說：“機器學習是可以控制的，是精準的，是可以用統(tǒng)計數(shù)據(jù)測量的。想獲得更公平、更道德的結果，可能的方法很多很多�！�

　　微軟：想幫助企業(yè)，AI的適應性還不是很強

　　AI如果想從硅谷散播出來進入其它產(chǎn)業(yè)，需要的時間可能比預期更長。

　　微軟研究部門副總裁Peter Lee在會上表示，對于科技巨頭來說，富有價值的高端機器學習系統(tǒng)還不完美，企業(yè)如果想將它提供給客戶使用，在靈活性、成本上還存在障礙。

　　Peter Lee稱：“將機器學習和AI概念應用于企業(yè)，我們現(xiàn)在還處在中間點。AI技術還不是很實用，我們有一支骨干隊伍，規(guī)模很小，費用很高，他們正在開發(fā)定制解決方案�！�

　　在談話中Peter Lee舉了微軟用AI工具幫助銷售員完成交易的例子。他悲傷地說：“我最想做的就是將工具賣給世界上的其它企業(yè)�！辈贿^現(xiàn)在還做不到，為什么?因為每一個新企業(yè)如果想使用必須定制，過程很麻煩。

　　要用AI開發(fā)軟件，讓它理解并適應特定企業(yè)的需求和條件，這可能是一個方法。不過Peter Lee指出，根據(jù)微軟的經(jīng)驗，要讓軟件從真實世界中學習，現(xiàn)在技術還不是很成熟。

　　微軟曾經(jīng)開發(fā)一個聊天機器人，并且放在Twitter上，很快機器人就學會了“種族歧視”語言。微軟還開發(fā)了翻譯系統(tǒng)，它可以分析在線文本，結果它將“Daesh”譯成英文之后變成了“Saudi Arabia”(沙特阿拉伯)，Daesh本來只是伊斯蘭國的阿拉伯名字。

　　Peter Lee說：“機器系統(tǒng)如果犯錯，影響是很大的�！币獙�會學習的軟件應用于真實世界，需要人類專家的密切監(jiān)督。

　　很明顯，將AI服務銷售給企業(yè)時還必須賺到錢。微軟提供一些服務，比如它可以對圖片中的人臉進行統(tǒng)計，將語音轉化為文本。在EmTech會議上，創(chuàng)業(yè)公司Clarifai展示了一套工具，它可以幫助企業(yè)搜索、管理圖片集和視頻集，因為工具可以理解其中的內容。

　　Peter Lee認為，這些產(chǎn)品不會帶來革命性的影響，也不會帶來新利潤。他說：“許多時候，在企業(yè)領域價值 的機器學習技術是定制、預制解決方案。每一個企業(yè)都是特殊的，你必須滿足特定的需求、適合特定的條件�！�

　　他還認為，開發(fā)軟件，讓它嘗試不同的動作，看看哪個管用，這樣的方法也許可以將行業(yè)帶出盲區(qū)，目前使用的方法是讓軟件消化靜態(tài)數(shù)據(jù)，比如文本或者圖片數(shù)據(jù)。

　　“人類的智慧是無窮的，讓系統(tǒng)理解企業(yè)流程，形成自己的策略，這種可能性是很高的。”

　　AI發(fā)展是否已經(jīng)停滯不前

　　最近一段時間，雖然投入AI項目的錢很多，但是不要被外表迷惑了。Uber AI前實驗室主管Gary Marcus警告稱，行業(yè)的進步速度并不像許多人認為的那樣快。

　　Gary Marcus指出，現(xiàn)在企業(yè)沉迷于靜態(tài)機器學習，投資AI時關注的是企業(yè)短期目標，因此我們朝著人類等級的AI前進時受到了限制。

　　“最大的恐懼不是天網(wǎng)�！盙ary Marcus所說的天網(wǎng)就是殺手AI，就像《終結者》中所說的AI一樣，他還說，“AI發(fā)展進入了停滯階段�！�

　　沒錯，最近一段時間AI的確在技術上有一些突破，但是電腦所做的事情都很簡單，要讓AI具備真正的“普通智力”，還有許多障礙無法跨越。

　　OpenAI研究主管Ilya Sutskever的看法完全不同，他曾暗示，我們離強人工智能(和人類一樣等級的AI)已經(jīng)不遠了。

　　“現(xiàn)在看起來很遙遠，但在5年前更遙遠。在開發(fā)算法時我們投入的人、付出的努力是很多的，AI的發(fā)展速度很快，很降�！�

　　Gary Marcus認為，企業(yè)向AI投資可能對行業(yè)的長遠發(fā)展不是一件好事。以前，行業(yè)進步很小主要是因為AI投資不足造成的，這一次卻是因為投資太多導致研究人員忽視了長遠目標。

　　將AI應用于商業(yè)領域是不是一件好事?Gary Marcus認為它是一把雙刃劍。Gary Marcus稱：“有些事情只要Uber這樣的企業(yè)才能做，它們有大量的資源。問題在于企業(yè)市場關注的是短期目標，今天如何用深度學習賺到錢?這才是它們最關心的。”

　　AI無人機可以跟著你飛

　　企業(yè)家Adam Bry認為，當今的無人機缺少一個關鍵組件，所以不是太實用，缺少什么呢?用AI實現(xiàn)自動飛行。在EmTech會議上，Adam Bry通過一段影片展示了Skydio開發(fā)的無人機，Skydio正是Adam Bry創(chuàng)辦一家公司，無人機今年就會上市。

　　Adam Bry說：“即使在企業(yè)領域，用戶也會發(fā)現(xiàn)無人機的使用比預想的更加困難。如果你是專業(yè)操作者，可以完成一些驚艷的動作，但對于主流用戶來說不太可能�！�

　　Skydio的第一款產(chǎn)品有點像飛行機器人攝像機。從視頻可以看出，當用戶爬樹、騎上山地自行車、踢足球時，無人機會跟著人飛。當用戶走到了障礙物背后，比如低垂的樹枝后面，無人機會圍著人飛，或者保持安全距離并暫停。

　　為什么Skydio能夠做這些事?因為它可以通過機載攝像頭分析圖像，然后用結果進行導航，攝像頭可以拍攝360度圖像。市場上的無人機主要依賴GPS、人類操縱。Skydio無人機軟件可以追蹤目標物，進行計算，精準到厘米，知道它是如何移動的。Skydio使用的深度學習技術與谷歌等企業(yè)所使用的技術是一樣的。

　　Adam Bry指出，當人與人彼此靠近時，無人機會通過人的外表、移動情況搜集線索，解開困惑，不過他承認技術并不完美。Adam Bry說：“既然人類在區(qū)分兩個人時都有困難，更別說技術了�！盇dam Bry沒有展示無人機的照片，也沒有透露何時推出，只知道產(chǎn)品瞄準消費者。

　　用AI識別名人

　　Clarifai是一家計算機視覺創(chuàng)業(yè)公司，它開發(fā)的AI可以識別圖片、視頻內容，而且適合狗仔隊使用。

　≥Clarifai CEO、創(chuàng)始人Matthew Zeiler透露，他們最近演示了技術，新技術可以從圖片中識別人臉，然后匹分，這沒有什么稀奇的，神奇的地方在于系統(tǒng)可以識別10000個名人。

　　用AI識別人臉很常見，如果想知道圖片中的人臉是誰的就有些困難了，因為光照環(huán)境不同、目標人物有沒有注視攝像頭、有沒有被其它人或者障礙物遮擋，都會給識別造成困難。

　　Nvidia深度學習芯片為醫(yī)療產(chǎn)業(yè)提供支持

　　Nvidia設計了強大的硬件，這些硬件可以為AI算法提供支持，正因如此，Nvidia成為AI浪潮的受益者。Nvidia將降護理和醫(yī)療市場作為技術發(fā)展的下一個大市場。Nvidia醫(yī)療保健業(yè)務主管Kimberly Powell說，公司正在與醫(yī)療研究人員合作，合作涉及多個領域，未來幾年還會有更多的合作。

　　“與醫(yī)療成像有關的研究越來越多，現(xiàn)在，我們經(jīng)常會去拜訪醫(yī)院供應商，拜訪的頻率越來越高，他們對新的AI應用很看好�！�

　　機器學習技術可以用來處理醫(yī)療圖像，過濾大量醫(yī)療數(shù)據(jù)。Nvidia開發(fā)的圖形芯片執(zhí)行并行運算時效果很好，而機器學習需要完成并行運算，Nvidia已經(jīng)向學術機構、行業(yè)客戶提供硬件，供深度學習研究人員使用。不只如此，Nvidia開發(fā)的深度學習專用產(chǎn)品越來越多，包括DGX-1計算機、用于自動駕駛汽車的系統(tǒng)Drive PX。

　　Powell相信，未來醫(yī)療研究中心會引進更多的Nvidia設備。她認為，這些設備可以提高診斷的可靠信，可以大大提高發(fā)展中國家的護理水平，在發(fā)現(xiàn)藥物的過程中，深度學習也可以派上用場。

　　不只如此，深度學習還可以幫助醫(yī)生發(fā)現(xiàn)那些極為隱藏的病癥。例如，Nvidia與Mayo Clinic的神經(jīng)系放射學家Bradley Erickson合作，用深度學習技術識別腦部圖像。Powell說，Bradley Erickson成功找到一些與大腦疾病有關的基因。

　　紐約大學教授Gary Marcus認為，AI可能會對醫(yī)療行業(yè)造成巨大影響，比如用來治療癌癥。有些時候，人很難識別某些危險因素，但是算法卻可以發(fā)現(xiàn)。Gary Marcus說：“在AI的幫助下我們也許可以在治療方面取得重大進展，這可能是AI的殺手級應用�！�

　　將深度學習技術應用于醫(yī)療存在很大的挑戰(zhàn)。新方法很復雜、不透明，為什么算法會有如此特殊的診斷?醫(yī)生可能不是太明白。Powell承認技術的確存在挑戰(zhàn)，但是新的解決方法越來越多，比如，研究人員用可視化方法展示深度學習網(wǎng)絡行為。Powell稱：“這是當前研究領域的一個重大主題�！�

　　用AI與量子計算機尋找新材料

　　IBM研究所科學與解決方案副總裁Dario Gil認為，AI技術可以協(xié)助研究人員尋找新材料。

　　Dario Gil指出，將機器學習軟件安裝在筆記本中，幾秒之內就可以從研究報告中抽取關鍵信息，幾周之內就可以通過大量研究機構創(chuàng)建龐大的知識圖，不需要幾十年。

　　到目前為止，Dario Gil并沒有指出有哪些具體突破。不過他說過，IBM已經(jīng)用沃森系統(tǒng)尋找新奇聚合物。雖然AI與計算取得了突破，不過Dario Gil卻說世界上最強大的超級計算機處理起來仍然有些困難，比如預測微粒電子結構。

　　怎么辦?IBM看到了量子計算的巨大潛力，量子計算可以大幅提高運算速度。

　　去年，IBM推出了新的量子芯片，本月早些時候，IBM又公布了新計劃，它要建造云計算、商用量子計算系統(tǒng)。

　　Dario Gil說：“今年與明年，預計量子計算將會出現(xiàn)很大的進步，也就是量子計算機的性能會有很大提升�！�

　　Otto聯(lián)合創(chuàng)始人：10年之內AI將會在卡車上普及

　　Lior Ron是Otto的聯(lián)合創(chuàng)始人，它是一家無人駕駛卡車開發(fā)公司，去年被Uber收購了。最近，美國財政部長Steven Mnuchin說過，至少50年至100年之內，AI不會影響美國的就業(yè)情況，而Lior Ron卻認為，影響會出現(xiàn)，不是更晚，而是更早。

　　在會議上，Lior Ron表示，未來10年無人駕駛卡車將會在公路上流行起來。有許多企業(yè)都在開發(fā)自動駕駛汽車，和這些企業(yè)一樣，Lior Ron也認為要開發(fā)出真正可以自動駕駛的汽車，不需要人干預，至少還要等一段時間。

　　Lior Ron說：“事情不會在一夜之間發(fā)生，而是會慢慢發(fā)生�！�

　　例如，Lior Ron預測，最開始時完全無人駕駛的汽車會在凌晨開上公路，那時沒有多少行人，然后會在白天出現(xiàn)，在不同的駕駛環(huán)境中出現(xiàn)。

　　有些人擔心無人駕駛汽車可能會讓司機丟掉工作，在不久的將來，Otto的技術更有可能會成為副駕駛，而不是替代人類操作者。雖然卡車可以在高速公路上自動駕駛，但在某些環(huán)境中還是需要人來操作，比如在城市街道環(huán)境中行駛。

　　Lior Ron認為，駕駛卡車是一件很累人的事，有時要工作很多個小時才能休息。如果卡車可以自動行駛，人類司機可以稍微休息一下，長途駕駛就會更安全，更有效率。

　　要讓卡車自動行駛，現(xiàn)在還有很多的問題要解決。例如，卡車在自己的車道上行駛時周旋的空間更小。當前方出現(xiàn)障礙物時，卡車的反應速度也比小車慢，停車時需要更多的空間�？ㄜ囇b了貨物，貨物的重量可能不均衡，在旅程中可能會變化，Lior Ron認為這些信息軟件必須注意。

　　OpenAI介紹一種新方法 可以讓機器學習變得更容易

　　OpenAI是一個非盈利研究機構，馬斯克是機構的聯(lián)合創(chuàng)始人，他還為OpenAI提供資金支持。OpenAI最近表示，它找到一套更容易使用的替代方法，可以增強機器的學習能力，玩游戲、執(zhí)行其它任務時，學習的結果差不多。

　　在會議上，OpenAI研究主管Ilya Sutskever表示，新方法可以讓研究人員在機器學習方面以更快的速度前進。

　　“它可以與當今的增強技術競爭，也就是與標準的學習算法競爭。新方法很簡單，如此簡單的方法居然很實用，真的讓人吃驚�！�

　　OpenAI開發(fā)了機器學習軟件，它可以玩經(jīng)典的“Atari”游戲。

　　Sutskever認為，要讓機器學習軟件完成更復雜的任務，不只是識別圖片、翻譯語音，找到新方法讓機器學習軟件玩電腦游戲、控制機器人顯得相當重要。他說：“如果我們能讓計算機系統(tǒng)自己學習，完成復雜的動作，我們就可以管它叫‘智能機器’了�！�

　　Sutskever與同事測試了新方法，這種方法叫作“進化策略”，他們開發(fā)一套軟件，可以玩50多種Atari游戲，包括Pong、Centipede。研究人員將新方法應用于多個處理器，只要一小時就可以訓練出很強的AI玩家，如果用谷歌DeepMind去年提出的方法開發(fā)增強學習系統(tǒng)，再用它訓練，讓AI玩家達到相同水平需要一天時間。

　　測試機器人時進貨策略也有優(yōu)勢，軟件要讓機器人像人一樣在模擬環(huán)境中行走。尖端增強學習系統(tǒng)需要10小時才能獲得的結果，用新方法只要10分鐘。

　　事實上，新技術背后的理念早在幾十年前就存在了，簡單來講，就是讓學習軟件嘗試不同的動作，找到當中最有效的。在自然選擇過程中，生物組織會主動適應環(huán)境，新技術的原理與此類似。

　　Sutskever說：“很久以來大家都知道的算法實際上比大家認為的更實用�！�

　　有了進化策略技術，AI會有哪些具體的用途?他拒絕透露，只是說還要花更多時間研究，找到技術的優(yōu)勢與限制。不過Sutskever指出，與增強系統(tǒng)技術相比，完成復雜任務時進化策略法更好，復雜任務需要經(jīng)過多個步驟才能得出結果。

　　正是因為這個原因，Sutskever相信進化策略可以幫助OpenAI完成目標，也就是創(chuàng)造所謂的“強人工智能”，軟件可以根據(jù)復雜的嘲自動適應。

　　在機器學習領域，大多研究人員不怎么關注強人工智能，而是用技術解決更特殊、更狹窄的問題。OpenAI在聲明中曾表示，公司的一個使命就是開發(fā)強人工智能。Sutskever指出，現(xiàn)在機器學習進步很快，是時候考慮強人工智能了。

　　Uber告訴我們AI商用很困難

　　為了保持領先，Uber向機器人、AI投資，不過公司遇到一些困難。

　　最近幾個月，Uber先進技術集團損失了幾個人才，先進技術集團設在匹茲堡，負責開發(fā)自動駕駛汽車。新AI實驗室主管Gary Marcus上任幾個月就離職了。由此可以看出，要讓技術商用挑戰(zhàn)很大，因為技術太復雜、太先進。

　　去年12月，Uber收購了創(chuàng)業(yè)公司 Geometric Intelligence，它是Marcus創(chuàng)辦的一家創(chuàng)業(yè)公司，而Marcus又是紐約大學的感知科學家，之后Uber成立了AI實驗室�，F(xiàn)在Marcus還是Uber的AI顧問。

　　上周，Uber的無人駕駛汽車遭遇挫折，汽車在亞利桑那撞車。當然咯，無人駕駛汽車不需要對事故負責。

　　Uber之所以積極開發(fā)無人駕駛汽車，主要是擔心未來的士產(chǎn)業(yè)會被摧毀。現(xiàn)在Uber已經(jīng)加速前進，它在幾個城市的公路上部署了無人駕駛汽車�？上У氖瞧�車表現(xiàn)并不完美，即使在普通環(huán)境中也不完美。

　　在工程上也有很大的挑戰(zhàn)，例如，傳感器退化自動駕駛汽車如何處理，如果公路上無人駕駛汽車太多，激光雷達等系統(tǒng)會互相干擾，這一問題又如何解決。

　　行業(yè)過度依賴神經(jīng)網(wǎng)絡式機器學習技術，Marcus對此提出批評，2014年他成立了Geometric Intelligence，主要目標就是尋找替代方法。

　　Geometric Intelligence希望能找到更有效的方法讓機器學習�？吹叫碌慕煌ㄐ盘柍霈F(xiàn)，人類可以快速識別，電腦不同，即使采用今天 的機器學習方法，電腦也需要幾千個樣本才能學會。

　　還有一些公司也在開發(fā)無人駕駛汽車，但是它們可能已經(jīng)發(fā)現(xiàn)進步的速度比預期要慢。谷歌將無人駕駛部門分拆，成立了Waymo公司，不過公司的技術還沒有商用。

   投稿郵箱：chuanbeiol@163.com   詳情請訪問川北在線：http://fishbao.com.cn/