首頁(yè)熱門文章
人工智能有多聰明?
發(fā)布時(shí)間：2018-09-26 分類：交通百科
能力警告原則：沒有達(dá)成共識(shí)，我們應(yīng)該避免對(duì)未來ai人工智能能力的上限做出強(qiáng)有力的假設(shè)。
在社會(huì)的每個(gè)組成部分，會(huì)在一個(gè)未知的時(shí)間尺度上發(fā)生重大的變化，并且在這個(gè)過渡中發(fā)揮作用的人們有很大的責(zé)任和機(jī)會(huì)來塑造它，什么會(huì)引發(fā)這種變化?當(dāng)然是人工智能。
23個(gè)Asilomar 人工智能原則提供了一個(gè)框架，以幫助人工智能系統(tǒng)盡可能多的人受益。但是，正如人工智能專家Toby Walsh所說的那樣，“原則代表了對(duì)話的開始，現(xiàn)在我們需要跟進(jìn)對(duì)每個(gè)原則的廣泛討論，這僅僅只是一個(gè)開始。
能力警告
人工智能研究人員面臨的最大問題之一是：人工智能能夠變得多么聰明和有能力?
近年來，人工智能的發(fā)展突飛猛進(jìn)。DeepMind的AlphaGo在具有挑戰(zhàn)性的復(fù)雜Go游戲中超越了人類表現(xiàn)，該公司已經(jīng)創(chuàng)建了人工智能，可以快速學(xué)會(huì)玩Atari視頻游戲。我們也看到了語言翻譯，自動(dòng)駕駛汽車，甚至是新藥用分子的創(chuàng)新方面的突破和進(jìn)步。
但人工智能會(huì)變得多么先進(jìn)?它是否會(huì)繼續(xù)僅在狹隘的任務(wù)中表現(xiàn)出色，還是會(huì)發(fā)展出更廣泛的學(xué)習(xí)技能，使大多數(shù)任務(wù)中的人工智能能夠勝過人類?我們?nèi)绾螢槿斯ぶ悄茏龊脺?zhǔn)備比我們想象的更聰明?
一些專家認(rèn)為人工智能可以在幾十年內(nèi)的發(fā)展而超越人類，而有些人認(rèn)為沒有人會(huì)完成這一壯舉。能力警告原則認(rèn)為，在我們有確鑿的證據(jù)確認(rèn)人工智能有朝一日可以實(shí)現(xiàn)的目標(biāo)之前，假設(shè)沒有上限是更安全的，也就是說，目前任何事情都是可能的，我們需要相應(yīng)地制定計(jì)劃。
專家意見
能力謹(jǐn)慎原則引起了專家的共識(shí)和不同意見。斯坦福大學(xué)的助理教授斯特凡諾·埃爾蒙和路易斯維爾大學(xué)的副教授羅曼·揚(yáng)波爾斯基都采用了一種更安全而不是抱歉的方法。
Ermon轉(zhuǎn)向歷史，提醒人們未來的預(yù)測(cè)是多么困難。他解釋說，“總是很難預(yù)測(cè)未來，想一想人們?cè)谝话倌昵暗南胂?，關(guān)于未來會(huì)是什么樣子。我認(rèn)為他們很難想象我們今天擁有的東西，我們應(yīng)該采取類似的，非常謹(jǐn)慎的觀點(diǎn)來預(yù)測(cè)未來，如果它非常難，那么最好安全地進(jìn)行研究。”
Yampolskiy考慮了當(dāng)前的技術(shù)安全政策，稱“在計(jì)算機(jī)科學(xué)的許多領(lǐng)域，如復(fù)雜性或加密技術(shù)，默認(rèn)假設(shè)是我們處理最壞的情況。同樣，在人工智能Safety中，我們應(yīng)該假設(shè)人工智能將具備最大的能力并做出相應(yīng)的準(zhǔn)備。如果我們錯(cuò)了，我們?nèi)詫⑻幱诹己脿顟B(tài)?！?
華盛頓大學(xué)教授丹·韋爾德對(duì)這一原則說：“我同意!作為一名科學(xué)家，我反對(duì)對(duì)任何事情作出強(qiáng)烈或不合理的假設(shè)，所以當(dāng)然我同意?！?
但盡管他同意這一原則背后的基本思想，但韋爾德也有所保留?！斑@個(gè)原則困擾著我，”韋爾德解釋道，“因?yàn)樗坪鹾畹卣f，人工智能將立即成為超人類，一般很快就會(huì)很聰明，我們需要擔(dān)心這個(gè)問題。這種說法讓我感到擔(dān)憂，因?yàn)槲艺J(rèn)為這會(huì)分散對(duì)可能更大，更重要，更近期，可能具有破壞性的問題的注意力。我比擔(dān)心天網(wǎng)更擔(dān)心失業(yè)和需要某種有保障的醫(yī)療保健，教育和基本收入。而且我更擔(dān)心一些恐怖分子采取人工智能系統(tǒng)并試圖對(duì)其進(jìn)行編程以殺死所有人，而不是我關(guān)于人工智能系統(tǒng)突然醒來并決定它應(yīng)該自行完成?！?
我認(rèn)為人工智能對(duì)于人類達(dá)到我們的全部能力是必要的，我們也不想承擔(dān)上限。我認(rèn)為在增強(qiáng)人類智能的空間中，人工智能在創(chuàng)造個(gè)人和職業(yè)生活方面確實(shí)存在巨大潛力。每個(gè)人都好多了。我不認(rèn)為在這方面未來的人工智能能力有上限。我認(rèn)為越來越多的人工智能系統(tǒng)與人類一起將增強(qiáng)我們的智能，這是對(duì)機(jī)器所具有的智能的補(bǔ)充，并將幫助我們做出更好的決策，更好地生活，并解決我們不知道的問題現(xiàn)在該如何解決。
你怎么看?
人工智能有上限嗎?人工智能可以達(dá)到上限嗎?實(shí)現(xiàn)不斷提高的高級(jí)人工智能需要多長(zhǎng)時(shí)間?我們?nèi)绾斡眠@種不確定性來規(guī)劃未來?整個(gè)社會(huì)如何解決這些問題?我們還應(yīng)該詢問有關(guān)人工智能功能的其他問題?
