生成式AI人工智慧的未來會怎樣?

在11月28日的麻省理工學院“生成式人工智慧:塑造未來”研討會上,iRobot的聯合創始人羅德尼·布魯克斯(Rodney Brooks)警告與會者不要毫無批判地高估這一新興技術的能力,這種技術支撐著越來越強大的工具,如OpenAI的ChatGPT和Google的Bard。

布魯克斯警告說:“炒作會導致自大,自大會導致自負,自負會導致失敗。” 布魯克斯是MIT的名譽教授,曾是麻省理工學院計算機科學和人工智慧實驗室(CSAIL)的前主任,也是Robust.AI的創始人。

“沒有一種技術曾經超越其他所有技術,”他補充道。

這次研討會吸引了來自學術界和工業界的數百名與會者,他們齊聚麻省理工學院的克雷斯基劇院。會上充滿了對生成式人工智慧為使世界變得更美好提供機會的希望的信息,包括通過藝術和創造力,同時夾雜著對這些人工智慧工具如果不負責任地開發可能出現的問題的告誡故事。

生成式人工智慧是一個用來描述機器學習模型的術語,這些模型學會生成看起來像它們受過訓練的數據的新內容。這些模型展現了一些令人難以置信的能力,比如能夠生成人類風格的創意寫作,翻譯語言,生成功能性的計算機代碼,或根據文本提示創建逼真的圖像。

在啟動研討會時,麻省理工學院校長莎莉·科恩布盧斯(Sally Kornbluth)在開場白中強調了學院教職員和學生利用生成式人工智慧對世界產生積極影響的一些項目。例如,MIT和哈佛啟動的Axim Collaborative的工作包括探索生成式人工智慧的教育方面,以幫助弱勢學生。

學院最近還宣布了27個跨學科教職員研究項目的種子資助計劃,重點研究人工智慧將如何在社會各個方面改變人們的生活。

通過舉辦生成式人工智慧周,麻省理工學院希望不僅展示這種創新,還希望在與會者之間產生“協作碰撞”,科恩布盧斯說。

她告訴觀眾,如果我們要安全地將像生成式人工智慧這樣迅速發展的技術納入人類的生活,那麼學術界、政策制定者和工業界的合作將是至關重要的。

“老實說,我想不出有什麼挑戰比MIT的使命更密切地相關。這是一個深刻的責任,但我完全有信心,只要我們堅定面對,只要我們作為一個共同體面對,我們就能應對。”她說。

儘管生成式人工智慧有助於解決地球上一些最迫切的問題,但CSAIL主任丹尼埃拉·拉斯(Daniela Rus)在她的開場白中說,這些強大的機器學習模型的出現已經模糊了科

幻和現實之間的界限。她說,現在不再是我們是否能製造出能夠產生新內容的機器的問題,而是我們如何能夠利用這些工具來增強業務並確保可持續性。

拉斯說:“今天,我們將討論這樣一種可能性,即生成式人工智慧不僅僅作為一種技術奇蹟存在,而且作為一種希望的源泉和一種積極的力量。”

但在討論生成式人工智慧的能力之前,與會者首先被要求思考他們的人性,因為MIT文學系教授約書亞·班尼特(Joshua Bennett)朗讀了一首原創詩。

班尼特是MIT文學部的教授和人文學位的榮譽主席,被要求寫一首關於人性意義的詩,他從他三周前出生的女兒那裡獲得了靈感。

詩歌講述了他作為一個男孩與父親一起觀看《星際迷航》的經歷,並強調了將傳統傳承給下一代的重要性。

在他的主旨演講中,布魯克斯試圖揭示圍繞生成式人工智慧工具(如ChatGPT)的一些深刻科學問題,以及這項技術如何告訴我們有關自己的。

為了開始,他試圖解釋這種大型語言模型的基本工作原理,以揭示ChatGPT等生成式人工智慧工具的一些神秘。例如,ChatGPT通過確定在已經寫過的內容的上下文中下一個應該是什麼單詞,一次生成一個單詞的文本。而人類可能通過考慮整個短語來寫故事,ChatGPT只專注於下一個單詞,布魯克斯解釋道。

ChatGPT 3.5是建立在具有1750億參數的機器學習模型上的,它在訓練過程中接觸過網絡上數十億頁的文本。(最新版本ChatGPT 4甚至更大。)它學會了在這個大型文本語料庫中單詞之間的相互關係,並使用這一知識在給定提示時提出下一個單詞可能是什麼。

模型展示了一些令人難以置信的能力,比如能夠以莎士比亞著名的第18首十四行詩的風格寫一首有關機器人的十四行詩。在他的演講中,布魯克斯展示了他請ChatGPT寫的這首十四行詩,並將其與他自己的十四行詩並列。

但儘管研究人員仍然不完全理解這些模型的工作方式,布魯克斯向觀眾保證,生成式人工智慧看似不可思議的能力並不是魔法,這並不意味著這些模型可以做任何事情。

他對生成式人工智慧的最大擔憂並不是圍繞著可能有一天超越人類智能的模型。相反,他最擔心的是,研究人員可能會棄掉幾十年來接近突破的優秀工作,只是為了追求生成式人工智慧的新進展;風險投資公司盲目湧向可能產生最高利潤的技術;或者整整一代工程師將忘記其他形式的軟件和人工智慧。

在一天結束時,那些認為生成式人工智慧可以解決世界問題的人和那些認為它只會產生新問題的人至少有一點共同之處:兩個群體都傾向於高估這項技術,他說。

布魯克斯說:“生成式人工智慧的傲慢是什麼?這種傲慢是它會以某種方式導致人工通用智能。但單靠它本身是不行的。”

在布魯克斯的演講之後,一組麻省理工學院的教職員們談到了他們在使用生成式人工智慧方面的工作,並參與了一場有關未來進展、重要但未深入研究的研究主題,以及人工智慧監管和政策挑戰的小組討論。

該小組包括MIT電機工程和計算機科學系(EECS)副教授、CSAIL成員Jacob Andreas;EECS教授,同樣是CSAIL成員的Delta Electronics教授Antonio Torralba;腦部和認知科學副教授,MIT McGovern腦研究所調查員Ev Fedorenko;以及CSAIL副主任,計算機學卓越教授Armando Solar-Lezama。討論由EECS教授、同樣是CSAIL成員的Thomas和Gerd Perkins教授William T. Freeman主持。

小組成員討論了圍繞生成式人工智慧的幾個潛在未來研究方向,包括整合感知系統的可能性,利用人類的觸覺和嗅覺等感官,而不僅僅是專注於語言和圖像。研究人員還談到了與政策制定者和公眾互動的重要性,以確保生成式人工智慧工具得到負責任地生產和部署。

Solar-Lezama表示:“當今生成式人工智慧的一個重大風險是數字蛇油的風險。有很大的風險,很多產品聲稱可以做出奇跡,但從長遠來看可能非常有害。”

早晨的會議以1925年的科幻小說《大都會》的摘錄結束,由物理學和戲劇藝術專業的學長Joy Ma朗讀,接著進行了一場有關生成式人工智慧未來的圓桌討論。討論包括腦和認知科學系教授,同樣是CSAIL成員的Joshua Tenenbaum;EECS教授,同樣是CSAIL和MIT Jameel Clinic的首席研究員的Dina Katabi;以及物理學教授Max Tegmark。討論由Daniela Rus主持。

討論的一個焦點是開發可以超越人類能力的生成式人工智慧模型的可能性,例如可以通過使用電磁信號感知某人情感的工具,以了解一個人的呼吸和心率的變化。

但將這樣的人工智慧安全地整合到現實世界的一個關鍵是確保我們能夠信任它,Tegmark表示。如果我們知道一個人工智慧工具將滿足我們堅持的技術規範,那麼“我們就不再害怕建立真正強大的系統,可以替我們在世界上完成各種事情,”他說。

留下一個答复

請輸入你的評論!
請在這裡輸入你的名字