展會信息港展會大全

AI“數(shù)據(jù)荒”怎么辦?微軟、谷歌等公司正使用“合成數(shù)據(jù)”訓(xùn)練AI
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-05-13 15:02:14   瀏覽:2688次  

導(dǎo)讀:財聯(lián)社5月12日訊(編輯 周子意)人工智能聊天機器人的背后需要海量高質(zhì)量數(shù)據(jù)作為支撐。傳統(tǒng)上,人工智能系統(tǒng)依賴于從各種網(wǎng)絡(luò)來源(如文章、書籍和在線評論)中提取的大量數(shù)據(jù)來理解用戶的查詢并生成響應(yīng)。 長期以來,如何獲取更多的高質(zhì)量數(shù)據(jù)成為人工智能...

財聯(lián)社5月12日訊(編輯 周子意)人工智能聊天機器人的背后需要海量高質(zhì)量數(shù)據(jù)作為支撐。傳統(tǒng)上,人工智能系統(tǒng)依賴于從各種網(wǎng)絡(luò)來源(如文章、書籍和在線評論)中提取的大量數(shù)據(jù)來理解用戶的查詢并生成響應(yīng)。

長期以來,如何獲取更多的高質(zhì)量數(shù)據(jù)成為人工智能公司的一大挑戰(zhàn)。由于數(shù)據(jù)在互聯(lián)網(wǎng)上的可用性是有限的,這促使人工智能公司正尋求一種替代解決方案合成數(shù)據(jù)(Synthetic data)。

合成數(shù)據(jù),即人工智能系統(tǒng)生成的人工數(shù)據(jù)。科技公司通過利用自己的人工智能模型,生成合成數(shù)據(jù)(這也被認為是虛假數(shù)據(jù)),然后將這些數(shù)據(jù)用以訓(xùn)練其系統(tǒng)的未來迭代。

談及合成數(shù)據(jù)是如何生成的,其過程包括為人工智能模型設(shè)置特定參數(shù)和提示以創(chuàng)建內(nèi)容,這種方法可以更精確地控制用于訓(xùn)練人工智能系統(tǒng)的數(shù)據(jù)。

例如,微軟的研究人員向人工智能模型列出了四歲孩子能夠理解的3000個詞匯,然后,他們要求該模型使用詞匯表中的一個名詞、一個動詞和一個形容詞來創(chuàng)造一個兒童故事。通過幾天時間內(nèi)數(shù)百萬次的重復(fù)提示,模型最終產(chǎn)生了數(shù)百萬個短篇故事。

雖然計算中的合成數(shù)據(jù)并不是一個新概念,但生成式人工智能的興起促進了大規(guī)模創(chuàng)建更高質(zhì)量的合成數(shù)據(jù)。

人工智能初創(chuàng)公司Anthropic首席執(zhí)行官Dario Amodei將這種方法稱為“無限數(shù)據(jù)生成引擎”,旨在避免與傳統(tǒng)數(shù)據(jù)采集方法相關(guān)的一些版權(quán)、隱私等問題。

現(xiàn)有用例與分歧觀點

目前,Meta、谷歌和微軟等主要人工智能公司已經(jīng)開始使用合成數(shù)據(jù)開發(fā)高級模型,包括聊天機器人和語言處理器。

例如,Anthropic使用合成數(shù)據(jù)為其聊天機器人Claude提供動力;谷歌DeepMind則使用這種方法來訓(xùn)練能夠解決復(fù)雜幾何問題的模型;與此同時,微軟已經(jīng)公開了使用合成數(shù)據(jù)開發(fā)的小型語言模型。

有支持者認為,如果適當實施,合成數(shù)據(jù)可以產(chǎn)生準確可靠的模型。

然而,一些人工智能專家對與合成數(shù)據(jù)相關(guān)的風(fēng)險表示擔憂。著名大學(xué)的研究人員觀察到了“模型崩潰”的例子,即在合成數(shù)據(jù)上訓(xùn)練的人工智能模型出現(xiàn)了不可逆轉(zhuǎn)的缺陷,并產(chǎn)生了荒謬的輸出。此外,有人擔心合成數(shù)據(jù)可能會加劇數(shù)據(jù)集的偏差和錯誤。

劍橋大學(xué)博士Zakhar Shumaylov在一封電子郵件中寫道,”如果處理得當,合成數(shù)據(jù)會很有用。然而,對于如何才能處理得當,目前還沒有明確的答案;有些偏見對于人類來說可能很難察覺。”

此外,圍繞對合成數(shù)據(jù)的依賴存在一場哲學(xué)辯論,人們對人工智能的本質(zhì)提出了質(zhì)疑如若使用機器合成的數(shù)據(jù),那么人工智能是否還是模仿人類智能的機器?

斯坦福大學(xué)教授Percy Liang強調(diào)了將真正的人類智能融入數(shù)據(jù)生成過程的重要性,并強調(diào)了大規(guī)模創(chuàng)建合成數(shù)據(jù)的復(fù)雜性。他認為,“合成數(shù)據(jù)不是真實的數(shù)據(jù),就像你做夢登上了珠穆朗瑪峰并不是真正登頂了一樣。”

目前對于生成合成數(shù)據(jù)的最佳做法尚未達成共識,這突出表明需要在這一領(lǐng)域進一步研究和發(fā)展。隨著該領(lǐng)域的不斷發(fā)展,人工智能研究人員和領(lǐng)域?qū)<抑g的合作對于充分利用人工智能開發(fā)合成數(shù)據(jù)的潛力至關(guān)重要。

(財聯(lián)社 周子意)

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實驗室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動態(tài) | 免責聲明 | 隱私條款 | 工作機會 | 展會港