AI教父辛頓:GPT-4就像英文流利的外星人。

AI教父辛頓:GPT-4就像英文流利的外星人。

英國衛報4日報道,現年75歲的人工智能《AI》教父辛頓《Geoffrey Hinton》受訪時表示,過去一年來AI模型的快速發展讓他開始認真看待數字智能有朝一日可能取代人類智能的威脅,這些大模型可能比大腦好多了。

辛頓說,AI未來與人類智能的差距、就像是人類與青蛙的差別一樣大。

他還提到,AI可能會幫助威權政府摧毀真相或操縱選民,在美國當前極為分裂的政治氛圍下,這樣的威脅應該不難想象。

根據白宮周四公佈的『背景說明資料』《Fact Sheet》,AI是當代最強大的科技之一,但為了把握AI機遇,必須先降低相關風險。

麻省理工科技評論《MIT Technology Review》網站3日報道,辛頓宣佈辭去Google工作前4天受訪時表示,新一代大型語言模型《特別是OpenAI 3月發佈GPT-4》讓他意識到,機器有一天可能比他想的更聰明。

辛頓說,有時他認為GPT-4就像外星人登陸,人們沒有意識到是因英文很流利。

辛頓指出,GPT-4知識量較任何人高出數百倍,也許是其實有個比人類更好的學習算法。

紐約時報1日報道,辛頓受訪時表示,他發現AI經常從大量分析數據學到意想不到的行為,AI未來可能危及人類。

與辛頓、Meta首席AI科學家楊立昆《Yann LeCun》一同在2018年獲得計算機科學界最高榮譽『圖靈獎』《Turing Award》的蒙特利爾大學知名AI學者Yoshua Bengio日前與特斯拉《Tesla Inc.》首席執行官伊隆‧馬斯克《Elon Musk》等人通過非營利組織《生命未來研究所》《FLI》發佈公開信,呼籲暫停訓練GPT-4等強大系統6個月,理由是社會人類可能面臨潛在風險。

《首圖來源:shutterstock》