AI教父傑佛瑞·辛頓:「AI比核武危險」
長年推動AI研究領域的Geoffrey Hinton(以下簡稱: 辛頓 ),於2023年5月1日公布辭去自2013年在 Google 擔任研究員的工作。
辛頓(註1)與Google,一方畏懼 AI 技術的急速發展;一方著急將生成式AI(註2)實用化,
可見辛頓離職應是他們兩者之間的意見相左所導致。
對此,辛頓在推特上說道:「這次離職,讓我可以不用再顧慮自己的言論會對Google造成影響,也可以提及AI的危險性了。」
辛頓在AI領域就像造物神一般的存在。他在多倫多大學進行AI的研究時,就有許多年輕研究員因為他蜂擁而至。
Google當年雇用他,就是為了更進一步發展研究AI。
另一方面,辛頓卻抱持AI比 核武 更危險的觀點,認為在規劃好使用守則之前,還需保留於專家的管理之下。
然而事與願違,Google經營部因應OpenAI與微軟的合作,不得不匆忙公開BERT(註3)。
辛頓強調自己是為了能自由發表言論而辭職的。
確實,以Google職員的身分談起AI的危險性是不妥當的,無論正反評論都容易被曲解為今後開發BERT以及其發展方針。
就這點來看的話,可以理解辛頓並不是因為跟Google不和平分手,是為了批判Google而辭職。
這次辛頓離職,對於他自己或是Google,甚至是AI的未來,應該都是一個好的選擇。
____________________________________________
註解:
註1:Geoffrey Hinton(傑佛瑞·辛頓),英國人,蘇格蘭愛丁堡大學人工智慧學系博士畢業。是深度學習的創始者。現職多倫多大學計算機科學系教授。2013年依靠動物、物體辨識系統獲得電腦界的諾貝爾獎—圖靈獎,同年進入Google從事AI開發,並於2023年辭職。
參考資料:https://www.yucc.org.tw/info/5153、https://case.ntu.edu.tw/blog/?p=36989
註2:生成式AI是透過深度學習,從而創造出與原始數據極度相似的新數據。ChatGPT就屬於生成式AI。
參考資料:https://www.ibest.com.tw/news-detail/aigc/
註3:BERT,全名Bidirectional Encoder Representations from Transformers,為Google於2018年提出的AI預訓練語言模型,其特質在於能夠將文本字詞間的前後關係納入考量,增強自然語言分析與理解能力。
參考資料:https://edge.aif.tw/aicafe-bert-20220728/