今年早些時(shí)候，谷歌的AI曾建議用戶(hù)在披薩里放膠水，或者吃石頭。自那之后，谷歌搜索結(jié)果的AI概覽（Overviews）功能似乎依舊小問(wèn)題不斷，貌似還將社交媒體上的惡搞視頻當(dāng)成了正經(jīng)的信息來(lái)源。
原文標(biāo)題：《谷歌基于TikTok內(nèi)容訓(xùn)練AI概覽功能的效果如何？猜也猜得到》
美國(guó)體操運(yùn)動(dòng)員伊恩岡瑟制作了一條關(guān)于“約翰后空翻”（John Backflip）的惡搞視頻，無(wú)意間暴露出谷歌用AI生成搜索結(jié)果摘要的功能存在一些設(shè)計(jì)缺陷。
先前，谷歌的Gemini AI模型建議人們用膠水來(lái)做披薩。如今六個(gè)月過(guò)去，這一功能仍舊難以區(qū)分事實(shí)與虛構(gòu)。
就在前幾周，如果你搜索“后空翻是誰(shuí)發(fā)明的”，Gemini AI還是會(huì)巨細(xì)無(wú)遺地向你介紹“約翰后空翻”，稱(chēng)他在1316年的中世紀(jì)歐洲首次掌握了這一動(dòng)作。如果你搜索“約翰后空翻是誰(shuí)”，谷歌的AI還會(huì)告訴你是他發(fā)明了這個(gè)體操技巧。其實(shí)，這則信息的來(lái)源是美國(guó)體操運(yùn)動(dòng)員伊恩岡瑟（Ian Gunther）發(fā)在TikTok上的一條視頻，而這個(gè)故事完全是他瞎編的。
“我喜歡制作一些關(guān)于體操的惡搞視頻，你怎么拿這項(xiàng)運(yùn)動(dòng)搞笑和開(kāi)玩笑都可以，也不會(huì)有人來(lái)追究�！睂诮邮堋陡２妓埂凡稍L(fǎng)時(shí)表示。
谷歌Gemini AI生成的“概覽”會(huì)出現(xiàn)在搜索結(jié)果頁(yè)面頂端，推出后出師不利，在磕磕絆絆中走過(guò)了六個(gè)月。AI概覽曾聲稱(chēng)吃石頭有益健康，還說(shuō)奧巴馬是美國(guó)第一位穆斯林總統(tǒng)。這讓谷歌在網(wǎng)上成為笑柄，也突顯了大型語(yǔ)言模型的局限性。
岡瑟是前美國(guó)國(guó)家男子體操隊(duì)成員，曾在2023年贏得全國(guó)大學(xué)體育協(xié)會(huì)（NCAA）體操冠軍。2023年5月，他在灣區(qū)一家健身房結(jié)束訓(xùn)練后編造了“約翰后空翻”的故事�！霸隗w操中，大多數(shù)技巧的名字都是以第一個(gè)在國(guó)際比賽中完成該動(dòng)作的人命名的，”岡瑟說(shuō)。“我回到家后就瞎編了一個(gè)故事，說(shuō)是某某發(fā)明了后空翻這個(gè)動(dòng)作�！�
為了防止有人聽(tīng)不懂這個(gè)笑話(huà)，岡瑟又胡謅出“亨利雙力臂”（Henry MuscleUp）、“理查德倒立推手”（Richard Presshandstand）和“阿方索握力王”（Alfonso El Grip）等其他早期的“體操先驅(qū)”。岡瑟平時(shí)會(huì)在YouTube和TikTok上分享訓(xùn)練和比賽視頻，這條惡搞視頻的點(diǎn)擊量一般。他差點(diǎn)就把它忘記了，直到2023年7月收到一條短信�！皩�(duì)方給我發(fā)了一張AI概覽的截圖，我看到時(shí)就想，‘不是吧，我這是惹了什么禍？’我成了傳播虛假信息的人了嗎？”
網(wǎng)友把關(guān)于“約翰后空翻”的AI概覽截圖分享到Reddit和其他社交網(wǎng)絡(luò)，甚至引得詞典出版商韋氏專(zhuān)門(mén)發(fā)推澄清事實(shí)。
現(xiàn)在，谷歌已經(jīng)將關(guān)于“后空翻發(fā)明者”的AI概覽標(biāo)記為網(wǎng)梗，但仍然一字不差地復(fù)述了岡瑟視頻中的內(nèi)容�！陡２妓埂窚y(cè)試了OpenAI、Anthropic和Perplexity等競(jìng)爭(zhēng)對(duì)手的AI平臺(tái)，它們要么識(shí)別出這是個(gè)笑話(huà)，要么指出沒(méi)有準(zhǔn)確的資料表明誰(shuí)是第一個(gè)完成后空翻的人。
岡瑟至今仍感到很困惑，不知谷歌為什么會(huì)采信這條視頻�！八麄兇蟾挪粦�(yīng)該把我的視頻當(dāng)作任何形式的信息來(lái)源�！彼f(shuō)。
這條視頻暴露出谷歌AI概覽設(shè)計(jì)中的幾處弱點(diǎn)。谷歌副總裁莉茲里德（Liz Reid）在5月的一篇博客文章中解釋道，這類(lèi)奇怪搜索結(jié)果的根源是“數(shù)據(jù)空白”，即在搜索某個(gè)主題時(shí)，相關(guān)優(yōu)質(zhì)內(nèi)容極少，或者僅有惡搞內(nèi)容。
“在少數(shù)情況下，我們確實(shí)看到AI概覽誤讀了網(wǎng)頁(yè)上的語(yǔ)言，呈現(xiàn)出不準(zhǔn)確的信息。我們迅速解決了這些問(wèn)題，或是通過(guò)改進(jìn)算法，或是通過(guò)既有流程移除不符合我們政策的回答。”里德在博文中寫(xiě)道。
里德表示，谷歌在AI概覽中引入了新的安全措施，識(shí)別用戶(hù)的查詢(xún)是不是在搞怪，并減少對(duì)幽默內(nèi)容和用戶(hù)生成建議的參考，特別是在新聞和健康話(huà)題方面。谷歌還在AI給出摘要后補(bǔ)充了一個(gè)警示標(biāo)簽：“生成式AI仍處于試驗(yàn)階段”。
谷歌發(fā)言人奧利維亞奧布萊恩（Olivia O’Brien）在一份聲明中對(duì)《福布斯》表示：“絕大多數(shù)AI概覽都是高質(zhì)量的，準(zhǔn)確性與精選摘要（Featured Snippets）之類(lèi)的其他搜索功能不相上下。”
岡瑟現(xiàn)在正在捷克布拉格參加體操比賽，他表示，如果他編的這則笑話(huà)能借AI之力“遺臭萬(wàn)年”，他會(huì)很高興。他開(kāi)玩笑說(shuō)，“我希望將來(lái)某一天，學(xué)校里會(huì)教孩子們‘約翰后空翻’的故事�！�
本文譯自：
https://www.forbes.com/sites/iainmartin/2024/11/29/googles-training-its-ai-overviews-on-tiktok-its-going-as-well-as-you-would-expect/
文：Iain Martin
翻譯：Lemin
