計算資源持續壟斷化,AI前沿研究何去何從?

從大型機到個人電腦,從互聯網到智能手機,計算機技術的每一個重大進步都為更多的人在數字前沿創造了機會。

但越來越多的人擔心,科技行業的新前沿——人工智能,正在逆轉這一趨勢。

計算機科學家表示,人工智能研究的成本越來越高,需要大型數據中心進行復雜的計算,這使得更少的人能夠輕松獲得開發自動駕駛汽車或數字助理等未來產品所需的計算能力。

他們表示,危險在于,開創性的人工智能研究將是一個貧富差距明顯的領域。擁有這些數據中心的主要是一些大型科技公司,如谷歌、微軟、亞馬遜和Facebook,它們每年都要花費數十億美元建設自己的數據中心。

研究人員發出警告之際,人們對大型科技公司的實力日益感到擔憂。人們的注意力大多集中在當前這一代技術上——搜索、在線廣告、社交媒體和電子商務。但是科學家們擔心探索未來科技發展的障礙,因為這需要驚人的計算能力。

大型科技公司的現代數據中心規模龐大且保密。這些建筑有足球場那么大,或者更大,有成百上千臺電腦的架子。門是防彈的,墻壁是防火的,外人很少被允許進入。

那些云計算的引擎室,它們為智能手機和筆記本電腦提供了豐富的娛樂和信息,并使數百萬開發人員能夠編寫基于云的軟件應用。

但在大型科技公司以外的人工智能研究人員看來,他們的領域出現了令人擔憂的趨勢。艾倫人工智能研究所最近的一份報告,利用了另一個人工智能實驗室OpenAI的數據,發現計算量需要在諸如語言理解等人工智能任務中處于領先地位,在過去的六年里,游戲和常識推理的數量激增了約30萬次。

所有這些計算燃料都需要為所謂的深度學習軟件模型提供動力,這些模型的性能會隨著更多的計算和數據而提高。近年來,深度學習一直是人工智能取得突破的主要驅動力。

微軟億萬富翁聯合創始人Paul Allen于2014年創立的艾倫研究所,其首席執行官Oren Etzioni表示:“成功的話,會帶來巨大的好處。但做研究的成本正呈指數級增長。作為一個社會和一個經濟體,如果只有少數幾個地方可以讓你走在最前沿,我們就會遭殃。”

OpenAI的發展表明了經濟的變化,以及深度學習人工智能技術的前景。

OpenAI成立于2015年,并獲得了馬斯克的支持。它最初是一家非盈利研究實驗室。它的抱負是在人工智能的前沿開發技術,并與更廣泛的世界分享收益。這一設想暗示了一個有靈感的程序員的計算傳統,即獨自在筆記本電腦上工作,想出了一個偉大的想法。

今年春天,OpenAI在一款名為Dota 2的復雜電子游戲中,使用其技術擊敗了世界冠軍人類玩家團隊。它的軟件通過幾個月的不斷嘗試和錯誤學會了這款游戲,相當于玩了4.5萬年的游戲。

OpenAI的科學家們已經意識到,他們從事的工作更像是粒子物理或天氣模擬,這些領域需要巨大的計算資源。例如,贏得Dota 2,需要花費數百萬美元租用數以萬計的云計算數據中心內的計算機芯片,這些數據中心由谷歌和微軟等公司運營。

今年早些時候,OpenAI轉型為一家以盈利為目的的公司,以吸引資金。今年7月,OpenAI宣布微軟將投資10億美元。OpenAI表示,大部分資金將用于實現其目標所需的計算能力,其中仍包括在向投資者支付報酬后廣泛分享AI的好處。

作為OpenAI與微軟協議的一部分,這家軟件巨頭最終將成為該實驗室唯一的計算資源。

OpenAI的首席科學家Ilya Sutskever說:“如果你沒有足夠的計算機,你就無法取得突破。”

學術界也對先進的人工智能軟件所消耗的能量提出了擔憂。馬薩諸塞大學阿姆赫斯特分校的三位計算機科學家在最近的一篇研究論文中估計,訓練一個大型的深度學習模型,可以產生相當于五輛美國汽車壽命的碳足跡。(大型科技公司表示,他們購買了盡可能多的可再生能源,減少了數據中心對環境的影響。)

Etzioni和他在艾倫研究所的合著者表示,或許可以通過改變衡量人工智能技術成功程度的方式,至少部分地解決這兩個問題——電力使用和計算成本。

他們說,該領域一心一意地專注于準確性,使研究偏向了一條過于狹窄的道路。

效率也應加以考慮。他們建議研究人員也報告在項目中取得成果的“計算價格標簽”。

自從他們的“綠色人工智能”論文在7月份發表以來,他們的觀點在研究界引起了很多人的共鳴。

羅切斯特大學計算機科學教授Henry Kautz指出,準確度“實際上只是我們在理論和實踐中所關心的一個方面”。他說,其他方面包括能源的使用量,AI技術工作需要多少數據和多少熟練的人力。

Kautz補充說,如果研究項目不那么依賴原始的計算能力,一個更多維的視角可能有助于在大型科技公司的學術研究人員和計算機科學家之間建立公平的競爭環境。

大型科技公司正在努力提高其數據中心和人工智能軟件的效率,他們表示,這將使外部開發者和學術界更容易獲得計算能力。

谷歌人工智能部門的杰出科學家John Platt指出,谷歌最近開發的深度學習模型EfficientNets,比傳統模型小10倍,速度更快。他說:“這是民主化的用武之地。我們希望這些模型能夠被盡可能多的人訓練和使用。”

幾年來,這些大科技公司已經給大學提供了數百萬美元的資助和捐贈,但一些計算機科學家說,他們應該做更多的工作來縮小AI研究人員的貧富差距。他們說,如今,科技巨頭與大學之間的關系主要是作為買家,把教授、研究生甚至本科生都招走。

華盛頓大學教授Ed Lazowska表示,這些公司最好也為學術研究提供實質性支持,包括更大程度地獲取其豐富的計算資源——因此,對創意和突破的競爭超出了企業的壁壘。

Lazowska認為,一種更具支持性的關系將符合他們公司的自身利益。否則,他說,“我們將看到學術界培養下一代計算機科學家的能力顯著減弱,而這些計算機科學家將為這些公司提供動力。”

在西雅圖艾倫研究所的Etzioni說,研究小組將致力于研究提高人工智能技術效率的技術。“這對我們來說是一個巨大的推動,”他表示。

但是Etzioni強調,他所說的綠色人工智能應該被視為“一個增加創造力的機會,而不是一種限制”——或者是一種對深度學習的替代,深度學習依賴于巨大的計算能力,他稱之為紅色人工智能。

事實上,艾倫研究所剛剛達到了一個AI的里程碑,它在八年級的標準科學考試中正確回答了90%以上的問題。這一壯舉是用紅色的AI深度學習工具實現的。

幸运农场有规律吗