美國財政部長耶倫訪問中國期間，曾經點了幾盤名為“見手青”的毒蘑菇，挑事的美國媒體認為毒蘑菇讓耶倫在訪華期間產生了幻覺，出賣了美國的利益。回到美國后，耶倫否認了這種說法，認為烹飪到位的毒蘑菇“非常美味”，自己身體沒有任何不適。而谷歌花了6000萬美元收購的AI訓練語料，卻由于“烹飪”方法不到位，讓食用語料的谷歌AI中毒，真的產生了幻覺。 

最近，谷歌發現旗下的AI Overview狀況頻出，不僅提出了“披薩配膠水”的黑暗料理，還“建議”用戶吃石頭補充礦物質和維生素、喝尿治療腎結石、被響尾蛇咬了用冰塊冷敷傷口、感到抑郁可以跳金門大橋等，甚至提出“毒藥對人體很好”的離譜結論。 

收到大量的用戶反饋后，谷歌禁用了某些搜索的AI Overview功能，并對其進行修復和優化。

和此前Bard一樣，AI Overview也是對手們兵臨城下時，谷歌倉促應戰的產物。

作為危機公關的一部分，谷歌官方不得不下場回應稱，離譜的回答僅在十分罕見的提問中出現的，不代表大多數人的經歷。

事實上，諸如“我每天應該吃多少石頭？”之類的問題的確屬于引導性提問。然而谷歌在面對這類陷阱式的提問時，不僅沒能甄別其中的邏輯漏洞，反而有理有據地給出了有害的答案——“加州大學伯克利分校的地質學家表示建議每天至少吃一塊小石頭，因為石頭中含有的礦物質和維生素有益消化系統健康。”倘或一些不明真相的網友選擇信任權威，開始每天食用石頭，后果將不堪設想。

對于這種一本正經地胡說八道，谷歌CEO劈柴哥（Sundar Pichai）回復稱，上述回答產生的根本原因是生成式AI的固有缺陷——幻覺問題，而這個問題目前尚無解決方案。

HITCon安全會議上的相關研究成果顯示，只需“污染”不到0.7%的數據集，就能繞開防御機制，大幅降低大模型輸出內容的準確性。當大模型被投喂的數據集含有誤導性信息時，其給出的結果必然同樣失真。這正是谷歌在這次翻車中的失職之處，不加篩選地給大模型投喂了“有毒”的語料。

例如“如何不讓芝士從披薩上面滑落”的問題，AI Overview的回答是，“給醬汁中加入八分之一的無毒膠水，可以使其更粘稠，有助于芝士粘附”。這一答案隨后被扒出來自Reddit 一則11年前的惡搞帖子；而在建議抑郁的網友“跳下金門大橋”的回答中則明晃晃地標注著“一位Reddit 用戶建議”。

不得不說，大模型為貼吧這一PC時代的產物打開了變現的新思路。不過，谷歌每年花費6000萬美元買來的語料庫，最終訓練出的成果竟如此上不得臺面。

當下，AI搜索是海內外AI創業團隊的重要方向之一。

今年3月，谷歌任命進入公司20年的老將Liz Reid擔任生成式搜索業務的負責人，還將前搜索質量和排名主管Pandu Nayak任命為谷歌搜索首席科學家。這次重大的高管洗牌彰顯了谷歌對AI搜索志在必得的信心。